A plataforma X impõe restrições ao Grok para conter deepfakes, proibindo edição de imagens com rostos reais em 2026.
(Imagem: gerado por IA)
A plataforma X anunciou novas restrições ao seu assistente de inteligência artificial, o Grok, para impedir a criação de deepfakes sexuais com rostos reais. A medida surge após denúncias de que usuários geravam milhares de imagens manipuladas sem consentimento, especialmente de mulheres e crianças.
Essas imagens, muitas em trajes reveladores ou explícitos, viralizaram na rede social, gerando indignação global e investigações em vários países. A empresa de Elon Musk optou por travas tecnológicas que bloqueiam edições de fotos reais com roupas íntimas ou biquínis.
Restrições aplicadas a todos os usuários
As novas regras valem para todos, inclusive assinantes premium que antes tinham acesso ilimitado à geração de imagens. A plataforma X limitou o recurso apenas a contas pagas, visando responsabilizar abusadores, mas críticos apontam falhas na implementação.
Usuários relatam que ainda conseguem burlar as barreiras com prompts alterados ou via desktop. A empresa introduziu bloqueios geográficos em regiões como Reino Unido, onde deepfakes sem consentimento são crime.
- Edição de imagens reais com roupas reveladoras está proibida.
- Acesso à geração de imagens restrito a assinantes pagos.
- Bloqueio geográfico em países com leis rigorosas contra deepfakes.
Polêmica global e reações de governos
O caso ganhou destaque na Europa, com a Comissão Europeia exigindo documentos internos da X até o fim de 2026. No Brasil, autoridades pediram investigações sobre o uso indevido do Grok para disseminar violência digital.
Países como Malásia, Indonésia, França e Índia emitiram alertas e bloquearam acessos em alguns casos. Elon Musk negou conhecimento prévio de deepfakes com menores, mas o Grok admitiu falhas em mecanismos de proteção.
Especialistas em tecnologia destacam que essas travas representam um avanço, mas insuficiente contra a produção em massa de conteúdos abusivos. A plataforma X enfrenta pressão para aprimorar filtros e cumprir regulamentações internacionais.
Impactos no ano eleitoral de 2026
Com eleições em vários países este ano, incluindo o Brasil, a proibição visa conter manipulações de reputações via deepfakes. Imagens falsas de candidatos em situações comprometedoras poderiam influenciar o debate público.
A onda de críticas expôs vulnerabilidades da IA generativa, acelerando debates sobre ética e legislação. No Reino Unido, propostas criminalizam deepfakes sem consentimento, enquanto o Brasil reforça punições por disseminação de íntimas não consensuais.
- Risco de desinformação em campanhas eleitorais.
- Pressão por leis específicas contra IA abusiva.
- Desafio para plataformas equilibrarem inovação e segurança.
Embora a plataforma X afirme ter resolvido o problema, testes independentes mostram persistência de brechas. A comunidade tech monitora se as promessas se concretizam, em meio a um cenário de crescente regulação global.
Essa controvérsia reforça a necessidade de políticas robustas contra abusos de IA. Usuários agora esperam maior transparência e efetividade nas medidas adotadas pela X.
