A Autoridade Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) fizeram uma série de recomendações à empresa controladora da plataforma digital X para que a ferramenta de inteligência artificial da plataforma, o Grok, não seja usada indevidamente para a geração e circulação de conteúdos sexualizados indevidos.
Segundo o documento divulgado nesta terça-feira (20), entre as recomendações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo Grok a partir de comandos feitos por usuários.
As instituições pedem também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade, sem sua autorização, feitas com o Grok.
Direitos e mecanismos de denúncia
Também foi recomendada a implementação de mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. As recomendações foram elaboradas diante de denúncias de usuários que apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.
Também foram tomados como base reportagens e testes realizados pelas instituições, que apontam o uso da ferramenta ilegalmente para a produção de deepfakes. Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.
As instituições alertam que esse tipo de conteúdo pode impactar a proteção de dados pessoais, as relações de consumo e a dignidade humana. “Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados”, argumentam as instituições.
Responsabilidade da plataforma
De acordo com o documento, as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas por meio de uma interação entre usuários e a ferramenta de inteligência artificial do X, o que tornaria a plataforma coautora e não mera intermediadora.
O documento destaca ainda que, recentemente, o Supremo Tribunal Federal (STF) fixou que provedores têm o dever de cuidado para evitar a circulação de crimes graves, como os praticados contra as mulheres. As instituições lembram que a própria política do X proíbe nudez não consensual, tornando insustentável a falta de filtros rigorosos no Grok. Caso as recomendações não sejam acatadas, medidas administrativas e judiciais poderão ser adotadas.
Entre no nosso canal no WhatsApp – clique aqui
*Por Agência Brasil
