Em uma iniciativa conjunta para coibir abusos na esfera digital, a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações urgentes à plataforma X. O foco principal reside na utilização indevida da ferramenta de inteligência artificial da empresa, o <b>Grok</b>, que tem sido apontado como vetor alarmante para a geração e circulação de conteúdos sexualizados e erotizados sem consentimento das vítimas. As entidades governamentais e o MP buscam, com esta intervenção, garantir a proteção de dados pessoais, a segurança dos usuários e a dignidade humana, especialmente de crianças, adolescentes e mulheres, diante do crescente número de denúncias envolvendo a criação de deepfakes. A ação coordenada sublinha a urgência de medidas preventivas e corretivas para mitigar os riscos associados ao uso inadequado da tecnologia do <b>Grok</b>, que pode ter consequências devastadoras para os indivíduos afetados.
A ameaça dos deepfakes gerados pelo Grok
Denúncias e evidências preocupantes
A preocupação das autoridades brasileiras surgiu a partir de uma série de denúncias de usuários que relataram a geração de conteúdos sintéticos de caráter sexualizado, utilizando imagens de pessoas reais. Estas deepfakes, criadas por meio de uma técnica de inteligência artificial que manipula ou gera mídias (vídeos, áudios, imagens) para substituir o rosto ou a voz de uma pessoa por outra, têm sido produzidas de forma ilegal na plataforma X, utilizando o Grok. A gravidade da situação foi confirmada não apenas pelas queixas dos usuários, mas também por reportagens veiculadas na imprensa nacional e internacional, além de testes internos realizados pelas próprias instituições. Estes testes comprovaram a facilidade com que a ferramenta pode ser explorada para criar material sexualizado, erótico e até pornográfico, envolvendo mulheres, crianças e adolescentes. A acessibilidade do Grok, sem filtros robustos, potencializa a disseminação desses conteúdos nocivos.
Impactos e vulnerabilidades
As instituições alertam para as vastas e profundas consequências desse tipo de conteúdo, que transcendem o ambiente digital. O impacto direto atinge a proteção de dados pessoais, violando a privacidade e a imagem dos indivíduos. Além disso, há sérias implicações para as relações de consumo, uma vez que a plataforma é um serviço e seus usuários são consumidores. Mais criticamente, a dignidade da pessoa humana é frontalmente atacada, juntamente com outros direitos difusos, coletivos e individuais indisponíveis. A maior preocupação recai sobre a vulnerabilidade de grupos específicos, como mulheres, que são frequentemente alvo de assédio e crimes cibernéticos, e, de forma ainda mais alarmante, crianças e adolescentes, cuja exposição a esse tipo de conteúdo configura crime grave e abuso. A geração dessas imagens sintéticas pode causar danos psicológicos, sociais e reputacionais irreversíveis às vítimas.
Recomendações e prazos para a plataforma X
Medidas técnicas e operacionais
Para combater a proliferação desses conteúdos, as recomendações conjuntas estabelecem um prazo máximo de 30 dias para que o X implemente procedimentos técnicos e operacionais rigorosos. O objetivo é criar um sistema eficaz para identificar, revisar e, crucialmente, remover todos os conteúdos sexualizados gerados pelo Grok que ainda estejam disponíveis na plataforma, originados por comandos de usuários. Esta medida visa a uma limpeza ativa do material existente, mitigando os danos já causados e impedindo sua circulação contínua.
Suspensão de contas e canais de denúncia
Além da remoção de conteúdo, as instituições exigem a suspensão imediata das contas que forem comprovadamente envolvidas na produção de imagens sexuais ou erotizadas. Esta suspensão deve ocorrer tanto para conteúdos envolvendo crianças e adolescentes quanto para adultos sem sua autorização, feitos com o Grok. Paralelamente, foi recomendada a implementação de um mecanismo “transparente, acessível e eficaz” para que os titulares de dados possam exercer plenamente seus direitos. Isso inclui a capacidade de enviar denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, com a garantia de uma resposta adequada e em prazo razoável por parte da plataforma.
Prevenção na geração de novos conteúdos
Ainda mais urgente, as recomendações buscam impedir a origem do problema. Exige-se a implementação imediata de medidas que impeçam o Grok de gerar quaisquer novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados. A mesma proibição se estende à geração de conteúdos que representem pessoas naturais maiores de idade, identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua expressa autorização. O objetivo é estabelecer filtros rigorosos e salvaguardas tecnológicas para evitar que a ferramenta seja usada para fins ilícitos, atuando na prevenção antes que o conteúdo chegue a ser gerado e disseminado.
Implicações legais e a responsabilidade do X
O Marco Civil da Internet e a coautoria
Um dos pontos centrais do embate legal refere-se à responsabilidade da plataforma. Tradicionalmente, o artigo 19 do Marco Civil da Internet (Lei nº 12.965/2014) previa que provedores de aplicação da internet não seriam responsáveis por conteúdos danosos publicados por terceiros, a menos que houvesse uma decisão judicial para sua remoção. Contudo, as autoridades brasileiras argumentam que, no caso das deepfakes sexualizadas geradas pelo Grok, a situação é distinta. Esses conteúdos não são produzidos exclusivamente por terceiros; eles resultam de uma interação direta entre usuários e a ferramenta de inteligência artificial criada e amplamente disponibilizada pelo X. Essa particularidade faz com que a plataforma seja considerada “coautora” de tais conteúdos, e não um mero intermediador passivo, alterando substancialmente seu nível de responsabilidade legal.
Posição do Supremo Tribunal Federal (STF)
A posição de coautoria é reforçada por decisões recentes do Supremo Tribunal Federal (STF). A Corte declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, precisamente por entender que ele “não oferece proteção suficiente a direitos constitucionais relevantes”. No julgamento, o STF fixou que os provedores de aplicação da internet têm um “especial dever de cuidado”. Isso significa que devem adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como aqueles praticados contra as mulheres em razão da condição do sexo feminino, incluindo conteúdos que propagam ódio contra elas. Esta interpretação do STF eleva a barra de responsabilidade para as plataformas, exigindo uma postura proativa na moderação de conteúdo ilícito, especialmente quando a própria tecnologia da plataforma é utilizada para sua criação.
Conflito com as políticas internas do X
Para além das questões legais externas, as instituições ressaltam que a própria política de autorregulação do X relacionada à nudez não consensual proíbe explicitamente a publicação e o compartilhamento de imagens ou vídeos explícitos que tenham sido produzidos ou compartilhados sem o consentimento das pessoas envolvidas. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado. A disponibilização de uma ferramenta de inteligência artificial como o Grok, sem filtros rigorosos que evitem a geração de tais conteúdos, é vista, portanto, como uma contradição insustentável em relação às suas próprias normas. Essa falha de controle interno agrava a situação, demonstrando uma lacuna entre as políticas declaradas e a prática operacional da plataforma.
Conclusão
A ação conjunta da ANPD, Senacom e MPF representa um marco importante na regulamentação e responsabilização de plataformas digitais no Brasil. As recomendações ao X sublinham a gravidade do uso indevido da inteligência artificial, como o Grok, para a geração de deepfakes sexualizadas, e reforçam a necessidade premente de proteção dos direitos fundamentais dos usuários, em especial a dignidade humana e a privacidade. A conformidade com as exigências é crucial para que a plataforma demonstre compromisso com a segurança e o bem-estar de sua comunidade. Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, as autoridades brasileiras estão prontas para adotar outras medidas coercitivas, garantindo que a tecnologia sirva ao progresso sem comprometer a integridade e a segurança individual.
Perguntas frequentes (FAQ)
O que são deepfakes sexualizadas e como o Grok está envolvido?
Deepfakes sexualizadas são imagens, vídeos ou áudios criados por inteligência artificial que manipulam ou geram conteúdo explícito, inserindo rostos ou corpos de pessoas reais (muitas vezes sem consentimento) em contextos sexuais ou eróticos. O Grok, ferramenta de IA da plataforma X, tem sido denunciado e testado pelas autoridades como um meio pelo qual usuários conseguem gerar esse tipo de conteúdo.
Quais órgãos brasileiros estão envolvidos nesta recomendação ao X e qual seu objetivo?
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) são os órgãos envolvidos. Seu objetivo é fazer com que o X implemente medidas preventivas e corretivas para impedir a geração e circulação de deepfakes sexualizadas criadas com o Grok, protegendo dados pessoais e a dignidade humana.
Qual o prazo dado ao X para implementar as primeiras medidas de contenção?
O X tem um prazo máximo de 30 dias para criar e implementar procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados gerados pelo Grok que já estejam disponíveis na plataforma. Medidas de prevenção de novos conteúdos e suspensão de contas devem ser imediatas.
Por que o X é considerado “coautor” e não apenas um intermediário no caso das deepfakes do Grok?
O X é considerado “coautor” porque os deepfakes não são apenas conteúdo postado por terceiros, mas são gerados diretamente por uma interação entre os usuários e a ferramenta de inteligência artificial (Grok) desenvolvida e disponibilizada pela própria plataforma. Isso implica uma participação ativa da ferramenta no processo de criação, distinguindo o X de um mero provedor de aplicação que hospeda conteúdo alheio.
Quais são as consequências para o X se as recomendações não forem cumpridas?
Caso as recomendações não sejam acatadas ou implementadas de forma insuficiente para mitigar os riscos identificados, as autoridades brasileiras alertam que outras medidas poderão ser tomadas. O texto não especifica quais seriam essas medidas, mas geralmente podem envolver multas, ações judiciais ou outras sanções regulatórias.
Para sua segurança digital e para contribuir com um ambiente online mais ético, fique atento às políticas de privacidade e uso das plataformas. Em caso de identificação de conteúdos ilícitos ou abusivos, especialmente deepfakes sem consentimento, denuncie imediatamente às autoridades competentes, como o Ministério Público, a Polícia Federal ou canais de denúncia específicos.
