Em nota, o Idec afirmou que o pedido se baseia em “evidências robustas de violações reiteradas”, com impactos diretos sobre crianças, adolescentes e mulheres. Na semana passada, o g1 revelou o caso de uma brasileira que teve uma foto de biquíni manipulada por meio da ferramenta. Ao tomar conhecimento da imagem, a vítima relatou à reportagem um “sentimento horrível”.

A prática, conhecida como deepfake, quando imagens reais são alteradas com o uso de inteligência artificial, já existe há alguns anos, mas ganhou grande disseminação no X no mês passado, tornando-se uma tendência no Brasil e em outros países.

De acordo com o Idec, o Grok vem sendo utilizado para a difusão de “imagens sexualizadas não consentidas, inclusive de menores de idade”, sem que haja salvaguardas mínimas de segurança, mecanismos de consentimento ou medidas eficazes de prevenção de abusos. Para a entidade, isso caracteriza um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança esperado.

O instituto também aponta possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital. No documento, o Idec lembra ainda que o caso já provocou reações em outros países, com investigações e ordens de remoção de conteúdo por autoridades da União Europeia, do Reino Unido, da França e da Índia.

Para o Idec, o episódio evidencia os riscos de uma inovação tecnológica sem responsabilidade. “Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, afirma a entidade.