O Grok (Android, iOS), inteligência artificial generativa da xAI integrado à rede social X, mudou sua política e limitou o uso de edição de imagens apenas para usuários pagantes. A decisão ocorre após a empresa enfrentar críticas globais devido à possibilidade de usuários criarem deepfakes de cunho sexual, inclusive com menores de idade. Com a mudança, nomes e informações de pagamento devem constar nos registros para que o recurso seja acessado. A especialista Patricia Punder, CEO do Punder Advogados, especialista em LGPD, proteção de dados e gestão de riscos regulatórios, ouvida por Mobile Time, acredita que, por conta do ocorrido, a ferramenta de IA e o X serão acionados judicialmente para responderem sobre os crimes de sexualização e nudez de mulheres e menores de idade no Brasil e na Europa, onde há um rigor maior nas leis.
“São crimes contra a dignidade sexual para mulheres adultas; nudez simulada, sem consentimento e configuração de violação de intimidade, violência psicológica digital e dano grave, além de crimes contra crianças e adolescentes. A IA não afasta a responsabilidade nem civil nem penal. A base legal é o Código Penal e também o Marco Civil da Internet. Toda a jurisprudência que temos no Brasil abrange revenge porn e deepfake section”, explica Punder.
Segundo reportagem da Bloomberg, a ferramenta teria produzido 6,7 mil imagens por hora entre segunda, 5, e terça, 6, desta semana, de cunho sexual ou de nudez – número encontrado pela pesquisadora Genevieve Oh.
Nos últimos dias, o Grok passou a ser alvo de críticas e investigações em várias partes do mundo por gerar imagens eróticas de pessoas reais, inclusive de menores de idade, e sem consentimento. No Brasil, a deputada federal Erika Hilton (PSOL-SP) denunciou a ferramenta ao Ministério Público. Para este noticiário, o MPF-SP confirmou o recebimento da representação e o caso está em processamento interno preliminar para distribuição. Em seguida, será analisado por um procurador da República, que definirá os próximos passos da tramitação. “Não há prazo preestabelecido para a finalização dos andamentos”, explicou a Mobile Time a assessoria de imprensa do órgão.
O caso repercutiu em outros países como Inglaterra, França e Estados Unidos. Por conta dá má repercussão, Grok recuou, mas não por completo, e permitiu que edição de imagens e criação de imagens fossem feitas somente por assinantes da ferramenta.
MCI e a ditadura das plataformas
Além de haver a possibilidade de responder criminalmente, as ferramentas tecnológicas poderão também responder de acordo com o artigo 21 do Marco Civil da Internet (MCI) que estabelece responsabilidade de provedores de aplicação, provedores de conexão e usuários, determinando a remoção imediata do conteúdo sem a necessidade de ordem judicial prévia para conteúdo de nudez, atos sexuais de caráter privado divulgado sem autorização.
A advogada explica que a inteligência artificial generativa responde a questionamentos do usuário, cria conteúdos a partir de prompts, e o Grok controla o resultado. A pessoa indica o que quer e a IA cria o conteúdo.
“Existe uma falha estrutural de governança. Quando a gente fala em dados, ferramentas com IA, a governança é importante. Mas isso custa caro, significa ter um comitê de ética, desenvolvimento de ferramentas de proteção, ter moderadores e filtros. Mas as empresas não querem, gostam de polemizar. Então, se perguntam, para que vou fazer algo controlado se o mercado pode, entre aspas, se autorregular?”, comenta.
Grok e a tentativa de redimir os danos
Por outro lado, Pedro Sanches, sócio do escritório Prado Vidigal Advogados e especialista em direito digital, privacidade e proteção de dados, acredita que a atitude do X ao fechar a ferramenta somente para assinantes pode ser vista como uma medida protetora e de rastreabilidade. “É criado um rastro financeiro que, querendo ou não, inibe o anonimato e facilita a identificação do usuário em eventuais casos de abuso. Pode ser até uma questão de fricção necessária que tenta desestimular o uso massivo da ferramenta para um fim ilícito, mas, ainda assim, sem inviabilizar a inovação e a ferramenta em si”, afirma.
O especialista pondera sobre a neutralidade da tecnologia e a distinção de quem disponibiliza a tecnologia e de quem faz uso dela. “No final do dia, o dolo, a intenção de prejudicar, é do utilizador, de quem de fato utiliza ali a tecnologia com um fim próprio”, diz.
Como se proteger
Para quem foi atingida pela manipulação de imagens por inteligência artificial, Fernando Moreira, advogado, especialista em Direito Empresarial e doutor em Engenharia de Produção com ênfase em Governança e Compliance, recomenda que preserve as provas — por meio de capturas de tela completas e Ata Notarial —, evitando-se repostar o conteúdo para denúncia. Uma forma de remover o conteúdo seria acionando X e Grok, alegando que o caso está inserido no artigo 21 do MCI.
“No âmbito judicial, a defesa da vítima se estende às esferas criminal e cível. A divulgação não consentida pode ser enquadrada no artigo 218-C do Código Penal, sendo tratada com gravidade extrema quando envolve crianças ou adolescentes. Já na esfera cível, é possível pleitear indenizações, multas diárias e, fundamentalmente, a quebra de sigilo de dados para identificar os autores das postagens, garantindo a responsabilização de quem produziu ou compartilhou a fraude”, explica Moreira.
