Governo Lula e MPF recomendam que X impeça conteúdos sexualizados indevidos por meio do Grok

A imprensa nacional e internacional têm reportado o uso da ferramenta para a criação dos chamados deepfakes, imagens falsas a partir de pessoas reais, com caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.

"Dada a seriedade das ocorrências, elas podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes", escreveram as instituições.

O MPF, a ANPD e a Senacon deram até 27 de janeiro para a empresa informar a adoção de medidas técnicas, administrativas e de governança de dados para impedir que a ferramenta de inteligência artificial Grok produza conteúdos que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou de maiores de idade sem sua autorização. Isso vale para a manipulação de fotografias, imagens reais, vídeos ou arquivos de voz.

Leia Também

Tecnologia

Inep avalia uso de Inteligência Artificial na elaboração do Enem; entenda

Destaque

Inteligência Artificial escolhe o escudo mais bonito do Nordeste

Caso a recomendação não seja acatada dentro desse prazo, as instituições dizem que poderão adotar as providências cabíveis, nas esferas administrativa e judicial, inclusive aquelas previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados.

Também foi recomendada a suspensão imediata de contas envolvidas nesse tipo de produção, via Grok. ANPD, Senacom e MPF defenderam que essa suspensão seja feita continuamente e determinaram sua comprovação por meio de relatórios mensais apresentados pela empresa, "como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla".

Além disso, as instituições também recomendaram à empresa:

• criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários;
• implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável;
• elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural;
• aplicar, com urgência e efetividade, a política relacionada à nudez não consensual e a política contra a exploração sexual de menores anunciadas como atualmente vigentes perante os usuários do X.

Estadão Conteúdo