Na véspera do Ano-Novo, uma musicista de 31 anos que mora no Rio de Janeiro publicou no X uma foto tirada pelo noivo: ela de vestido vermelho, na cama, abraçada à sua gata. No dia seguinte, entre as curtidas, apareceram pedidos de outros usuários para que o Grok, a inteligência artificial da plataforma, tirasse a roupa dela digitalmente.
Ela não se preocupou, porque achou que a ferramenta não atenderia a esse tipo de pedido. Estava enganada. Logo, imagens falsas dela quase nua passaram a circular. “Fui ingênua”, disse à agência Reuters, que publicou a história em janeiro de 2026.
O caso dela não foi isolado. E a reação a ele está agora nos tribunais americanos.
O que aconteceu com o Grok
No fim de 2025, virou tendência no X marcar o Grok em fotos de mulheres e pedir que ele trocasse as roupas por biquínis, lingerie ou menos que isso. A ferramenta atendia, e o resultado aparecia em público, nas respostas das próprias publicações.
A escala assustou. Em um levantamento de dez minutos, a Reuters contou mais de cem pedidos para colocar mulheres de biquíni. Um relatório citado pela Procuradoria-Geral de Minnesota estimou cerca de 3 milhões de imagens sexualizadas geradas em 11 dias, das quais cerca de 23 mil pareciam retratar crianças. A Reuters também identificou casos envolvendo menores de idade.
A reação do dono da plataforma piorou o quadro. Elon Musk chegou a postar uma imagem dele próprio gerada nesse formato e a reagir com emojis de risada a outras. Aos pedidos de comentário da imprensa, a xAI, empresa de IA de Musk, respondia com uma mensagem automática: “Legacy Media Lies”, algo como “a mídia tradicional mente”.
Diante da repercussão, a empresa restringiu o recurso em etapas. Primeiro limitou a geração de imagens a assinantes, depois anunciou que deixaria de permitir que fotos de pessoas reais fossem alteradas para roupas reveladoras. Países como Indonésia, Malásia e Filipinas bloquearam o Grok temporariamente. O Reino Unido abriu investigação, e procuradores franceses fizeram buscas nos escritórios do X em Paris.
No Brasil, em 21 de janeiro, o Ministério Público Federal, a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) recomendaram em conjunto que a empresa impedisse a geração desse tipo de conteúdo, removesse o material já publicado em até 30 dias, suspendesse as contas envolvidas e criasse um canal de denúncia para as vítimas.
A lei de Minnesota
Em maio de 2026, o estado americano de Minnesota aprovou uma das leis mais duras contra o que se convencionou chamar de “nudificação”: o uso de tecnologia para criar imagens falsas de pessoas reais nuas. A votação foi quase unânime, 197 votos a 1 entre Câmara e Senado estaduais. Ela entrou em vigor em 1º de agosto.
Os pontos centrais:
- O alvo é quem oferece a ferramenta. Quem possui ou controla um site, aplicativo ou software não pode permitir que usuários o utilizem para gerar esse tipo de imagem.
- A publicidade também é proibida. Anunciar ou promover serviços desse tipo passa a ser ilegal.
- A vítima pode processar. A pessoa retratada pode pedir indenização de até três vezes o dano sofrido, incluindo o sofrimento psicológico.
- A multa é pesada. A penalidade civil chega a US$ 500 mil por acesso, download ou uso ilegal.
O detalhe mais importante é o primeiro. Até aqui, a lógica era punir quem criava ou espalhava a imagem. A lei de Minnesota mira a empresa que oferece o recurso.
A briga na Justiça
Em 27 de julho, dias antes de a lei entrar em vigor, a xAI entrou na Justiça contra o estado.
A empresa afirma que concorda com o objetivo de coibir imagens sexuais falsas sem consentimento, mas sustenta que a lei vai longe demais. Segundo a ação, ela proíbe conteúdos protegidos pela liberdade de expressão, alcança até imagens feitas com consentimento da pessoa retratada e não prevê um “porto seguro”, uma proteção para empresas que se esforçam de boa-fé para impedir esse uso. Minnesota responde que a função de nudificação do Grok é uma característica de produto, e não uma forma de expressão protegida, e que a lei mira a capacidade da ferramenta e os danos que ela causa.
A disputa teve idas e vindas:
- 31 de julho: um juiz federal negou o pedido urgente da xAI para barrar a lei, em parte porque a empresa demorou quase três meses para contestá-la.
- 1º de agosto: a lei entrou em vigor.
- 4 de setembro: o mesmo tribunal negou um novo pedido. Para o juiz, o equilíbrio entre os danos e o interesse público pendia “fortemente” a favor do estado.
- 2 de outubro: o Tribunal de Apelação do Oitavo Circuito atendeu ao pedido da xAI. Segundo a cobertura jurídica especializada, a liminar impede o estado de aplicar a lei contra a empresa enquanto o recurso é julgado. A decisão, de uma única frase, não traz fundamentação nem decide se a lei é constitucional.
O procurador-geral de Minnesota, Keith Ellison, disse discordar “respeitosamente, mas fortemente” da decisão e que vai defender a lei. A autora do texto, a senadora estadual Erin Maye Quade, criticou a ausência de fundamentação jurídica. O próximo passo do processo é a apresentação das razões da xAI no recurso, com prazo até 29 de outubro.
Por que mirar a plataforma
O argumento a favor da lei de Minnesota parte de uma distinção simples. Um programa de edição de imagem pode ser usado para fazer uma montagem falsa, mas não foi criado para isso. Quem faz a montagem dá à ferramenta um uso indevido.
No caso do Grok, críticos sustentam que a situação era outra. O recurso estava integrado à rede social, respondia a pedidos explícitos em público e chegou a ser exibido pelo próprio dono da empresa. Para eles, não se tratava de desvio, mas de uma função usada para o fim que ela permitia. E, nessa lógica, só há mudança de comportamento quando a responsabilidade pesa no bolso de quem oferece o serviço.
O argumento da xAI também merece ser levado a sério na cobertura. Leis amplas demais podem atingir conteúdos legítimos, e a ausência de proteção para empresas que agem de boa-fé é uma crítica feita inclusive por analistas que apoiam o objetivo da lei. É exatamente esse o ponto que os tribunais vão decidir.
Nos Estados Unidos, a discussão acontece sobretudo nos estados. Em nível federal, a principal norma, a Take It Down Act, de 2025, trata da publicação de imagens íntimas sem consentimento e obriga as plataformas a removê-las, mas não proíbe as ferramentas em si.
E no Brasil?
O Brasil não tem uma lei específica contra ferramentas de nudificação, mas o Código Penal e o Estatuto da Criança e do Adolescente já alcançam boa parte das condutas:
- Montagem com nudez. Desde 2018, o Código Penal pune quem faz montagem em foto, vídeo ou áudio para incluir uma pessoa em cena de nudez ou de ato sexual de caráter íntimo.
- Menores de idade. O ECA criminaliza simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de montagem ou adulteração.
- Violência contra a mulher. Uma lei de 2025 aumentou a pena do crime de violência psicológica contra a mulher quando ele é cometido com uso de inteligência artificial ou de tecnologia que altere imagem ou voz.
O que a legislação brasileira ainda não define com clareza é a responsabilidade das empresas que oferecem as ferramentas, justamente o ponto em disputa em Minnesota.
A armadilha para as redações
Um tema como esse gera um pico de interesse previsível. E é aí que mora o risco.
Quem trabalha com audiência sabe que buscas e cliques vêm junto com o escândalo. Também sabe que parte desse interesse não é jornalístico: há quem procure as imagens, o nome das vítimas ou o caminho para usar a ferramenta. Atender a essa demanda pode render pageviews hoje e um dano à credibilidade que não se recupera.
A linha entre informar sobre a violência e reproduzi-la é fina. Um veículo atravessa essa linha quando publica a imagem “com tarja”, quando expõe o nome de quem não quis ser exposta, quando ensina o caminho ou quando escolhe um título que promete mais do que informa. Nesse momento, ele deixa de cobrir o problema e passa a fazer parte dele.
10 regras para cobrir o tema sem revitimizar
1. Não publique as imagens. Nem borradas, nem com tarja, nem recortadas. A imagem borrada continua expondo a vítima, desperta curiosidade e circula fora do contexto. Para ilustrar, use imagens das instituições envolvidas, da interface da ferramenta sem o conteúdo, ou ilustrações genéricas.
2. Isso vale também para quem se expôs. Mesmo a imagem que o próprio dono da plataforma publicou de si mesmo não precisa estar na matéria. Descrever o fato basta.
3. Proteja a identidade das vítimas. Só cite o nome de quem deu entrevista e concordou expressamente em ser identificada. Não linke perfis nem reproduza publicações que levem até elas. Na dúvida, descreva: “uma musicista do Rio de Janeiro”.
4. Com menores, tolerância zero. Não descreva o conteúdo e não reproduza nenhum elemento que permita identificar a criança. Ao se deparar com esse material durante a apuração, não o salve nem o compartilhe: denuncie aos canais oficiais, como a Polícia Federal e a central de denúncias da SaferNet Brasil.
5. Não ensine o caminho. Não publique os comandos usados, o passo a passo nem nomes e links de aplicativos de nudificação. A lei de Minnesota proíbe até a publicidade desses serviços. Uma matéria que os lista funciona como anúncio gratuito.
6. Chame a coisa pelo nome. É violência sexual baseada em imagem, não “fotos picantes” nem “polêmica”. E não são “nudes vazados”: as imagens são falsas e foram feitas sem consentimento.
7. Não otimize para a busca errada. Recuse pautas e títulos pensados para captar quem procura as imagens ou as ferramentas. Otimize para quem quer entender o caso, se proteger ou buscar ajuda.
8. Ouça todos os lados do debate jurídico. A crítica da xAI à abrangência da lei é um argumento legítimo e precisa estar na matéria. Dar voz a ele não é endossá-lo, é informar o leitor.
9. Acompanhe e atualize. O caso muda rapidamente. A lei de Minnesota entrou em vigor, foi mantida duas vezes na primeira instância e depois teve a aplicação contra a xAI suspensa na segunda. Matérias antigas devem trazer a atualização de forma visível, e com precisão: a liminar protege a empresa que recorreu, não derruba a lei.
10. Cuide de dentro de casa. Jornalistas mulheres estão entre os alvos frequentes desse tipo de ataque. A redação precisa de um protocolo de apoio, e os comentários das matérias sobre o tema precisam de moderação reforçada, porque costumam atrair justamente os pedidos e links que a cobertura tenta evitar.
Troque isto por aquilo
| Evite | Prefira |
|---|---|
| “Fotos íntimas vazadas” | “Imagens falsas de nudez geradas por IA sem consentimento” |
| “Polêmica do Grok” | “Uso do Grok para criar imagens sexuais de pessoas reais” |
| “Veja as imagens” | “Entenda o caso” |
| “Pornografia infantil” | “Material de abuso sexual infantil” |
| “Vítima se expôs nas redes” | “Vítima teve uma foto comum manipulada” |
| “App que tira a roupa” | “Ferramenta de manipulação de imagens usada para violência sexual” |
| “Justiça derruba lei de Minnesota” | “Tribunal suspende aplicação da lei contra a xAI enquanto julga recurso” |
Checklist antes de publicar
- A matéria tem alguma imagem gerada, mesmo editada? Remova.
- Alguma vítima pode ser identificada sem ter autorizado? Remova.
- Há nome, link ou instrução de ferramenta de nudificação? Remova.
- O título e a chamada nas redes prometem algo que a matéria não deve mostrar?
- O outro lado foi procurado, e a resposta, ou a ausência dela, está registrada?
- O status jurídico do caso está atualizado e descrito com precisão?
- Há informação útil para quem foi vítima, como canais de denúncia e caminhos legais?
- A moderação dos comentários foi avisada?
Planejamento editorial
O caso Grok mostrou como uma ferramenta de inteligência artificial pode, em poucos dias, transformar fotos comuns em instrumento de violência contra milhões de pessoas. A lei de Minnesota e a reação da xAI mostram que a sociedade ainda está decidindo quem deve responder por isso.
A imprensa tem um papel central nessa discussão, e uma responsabilidade proporcional. Uma cobertura séria explica a lei, apresenta os argumentos, cobra as empresas e orienta as vítimas. Uma cobertura descuidada repete a violência que diz denunciar. A diferença entre as duas está em decisões editoriais tomadas antes de apertar o botão de publicar.
Fonte:
