O governo federal determinou que a plataforma X, antigo Twitter, adote providências imediatas para impedir a geração de conteúdos pelo Grok, ferramenta de Inteligência Artificial integrada à rede social. A decisão foi anunciada na quarta-feira (11), após novas críticas envolvendo o uso do recurso para criar conteúdos sexualizados envolvendo mulheres e crianças.
De acordo com o governo, esta é a segunda vez que a empresa é formalmente cobrada a apresentar soluções eficazes. Em janeiro, já havia sido solicitado que a plataforma implementasse mecanismos técnicos capazes de bloquear a produção de imagens e vídeos manipulados, inclusive com uso de deepfakes, que envolvessem menores de idade ou adultos em situações íntimas sem consentimento.
Embora o X tenha informado anteriormente a adoção de medidas de segurança e a suspensão de perfis responsáveis por divulgar esse tipo de material, as ações foram consideradas insuficientes pelas autoridades brasileiras. Segundo avaliação técnica, ainda persistem falhas que permitem a geração e circulação de conteúdos inadequados.
O acompanhamento do caso está sendo realizado em conjunto pelo governo federal, Ministério Público Federal (MPF) e Agência Nacional de Proteção de Dados (ANPD). Testes conduzidos por equipes técnicas indicaram que o sistema ainda possibilita a criação de material que descumpre as recomendações já estabelecidas.
Diante disso, foi exigida a implementação de novos mecanismos de bloqueio e a entrega de relatórios mensais detalhando as providências adotadas. A empresa deverá informar, por exemplo, a quantidade de publicações removidas e o número de contas suspensas por envolvimento na disseminação desse tipo de conteúdo.
A Secretaria Nacional do Consumidor (Senacon) alertou que, em caso de descumprimento das determinações, poderão ser aplicadas sanções administrativas, incluindo multa diária. Também não está descartada a adoção de medidas judiciais e responsabilização por eventual desobediência às determinações oficiais.
