A Comissão Europeia anunciou nesta segunda-feira a abertura de uma investigação contra a rede social X pela criação de imagens sexualizadas e sem consentimento por parte de sua inteligência artificial, o Grok, e examinará se a empresa de propriedade do magnata Elon Musk cumpre com suas obrigações sob as leis digitais europeias.

Em comunicado, Bruxelas informou que avaliará se o X examinou adequadamente e mitigou os riscos associados à implementação das funções do Grok na União Europeia, incluindo a possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente explícitas que podem, até mesmo, ser consideradas material de abuso sexual infantil.

“Estes riscos parecem ter se concretizado. Por isso, a Comissão investigará se o X cumpre com suas obrigações sob a Lei de Serviços Digitais para avaliar e mitigar riscos sistêmicos (…) e de produzir e enviar à Comissão um relatório de riscos ad hoc sobre as funcionalidades do Grok que tenham um impacto fundamental no perfil de risco do X antes de lançá-lo”, declarou.

Mesmo antes de iniciar a investigação, a Comissão Europeia já havia ordenado à rede social X que conservasse toda a sua documentação interna relativa ao Grok durante o ano de 2026, no âmbito da investigação em curso sobre a plataforma para analisar sua política contra conteúdos ilegais.

A ordem ocorreu em plena polêmica pelas imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, que levaram o governo francês a processar o X nos tribunais. Estes casos somam-se a outros conteúdos, como o negacionismo do Holocausto, que a IA da rede social publicou no final do ano passado.

A Comissão Europeia acredita que, se estas alegações forem comprovadas, o X estaria infringindo vários artigos da Lei de Serviços Digitais à qual está sujeito ao operar na União Europeia, inclusive sobre a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.

Bruxelas já multou o X em dezembro do ano passado em 120 milhões de euros por descumprir obrigações de transparência de acordo com esta lei, devido ao “design enganoso” de seu selo de verificação azul, à falta de transparência de seu repositório publicitário e à falta de acesso a dados públicos para pesquisadores.

Em paralelo, Bruxelas também prorrogou nesta segunda-feira sua investigação iniciada em 2023 sobre se o X cumpre com suas obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, o que incluirá o impacto da mudança para um sistema baseado na inteligência artificial do Grok.

*EFE