MundoTecnologia
A inteligência artificial Grok, de Elon Musk, inunda o X com fotos sexualizadas de mulheres e menores de idade.
WASHINGTON/DETROIT, 2 de janeiro (Reuters) – Julie Yukari, uma musicista que mora no Rio de Janeiro, postou uma foto tirada por seu noivo na rede social X pouco antes da meia-noite da véspera de Ano Novo, na qual aparece de vestido vermelho aconchegada na cama com sua gata preta, Nori.
No dia seguinte, em meio às centenas de curtidas na foto, ela viu notificações de usuários pedindo ao Grok, o chatbot de inteligência artificial integrado ao X, para que a despisse digitalmente, deixando-a apenas de biquíni.
A mulher de 31 anos não deu muita importância ao assunto, disse ela à Reuters na sexta-feira, imaginando que não havia como o bot atender a tais pedidos.
Ela estava enganada. Logo, fotos dela quase nua, geradas pelo Grok, começaram a circular pela plataforma de propriedade de Elon Musk.
“Eu fui ingênua”, disse Yukari.
A experiência de Yukari está se repetindo em toda a plataforma X, segundo uma análise da Reuters. A Reuters também identificou diversos casos em que o Grok criou imagens sexualizadas de crianças. A X não respondeu a um pedido de comentário sobre as descobertas da Reuters. Em uma declaração anterior à agência de notícias sobre as reportagens de que imagens sexualizadas de crianças estavam circulando na plataforma, a xAI, proprietária da X, afirmou: “A mídia tradicional mente”.
A avalanche de imagens de pessoas reais quase nuas soou o alarme internacionalmente.
Ministros na França denunciaram o X a promotores e órgãos reguladores devido às imagens perturbadoras, afirmando em um comunicado na sexta-feira que o conteúdo “sexual e sexista” era “manifestamente ilegal”. O Ministério da Tecnologia da Informação da Índia afirmou em uma carta à unidade local do X que a plataforma não conseguiu impedir o uso indevido do Grok, que gerava e circulava conteúdo obsceno e sexualmente explícito.
A Comissão Federal de Comunicações dos EUA não respondeu aos pedidos de comentários. A Comissão Federal de Comércio também se recusou a comentar.
‘Tire o uniforme escolar dela’
A onda de desnudamento digital em massa do Grok parece ter começado nos últimos dias, de acordo com pedidos de remoção de roupas concluídos com sucesso e publicados pelo Grok, além de reclamações de usuárias analisadas pela Reuters. Musk pareceu zombar da controvérsia na sexta-feira, publicando emojis de riso e choro em resposta às edições de IA de pessoas famosas — incluindo ele mesmo — de biquíni.
Quando um usuário do X disse que seu feed de mídia social parecia um bar lotado de mulheres de biquíni, Musk respondeu, em parte, com outro emoji de riso e choro.
A Reuters não conseguiu determinar a dimensão total do aumento.
Uma análise das solicitações públicas enviadas ao Grok durante um período de 10 minutos ao meio-dia (horário do leste dos EUA) na sexta-feira contabilizou 102 tentativas de usuários do X de usar o Grok para editar digitalmente fotos de pessoas, fazendo com que parecessem estar usando biquínis. A maioria das vítimas eram mulheres jovens. Em alguns casos, homens, celebridades, políticos e – em um caso – um macaco também foram alvos das solicitações.
Quando os usuários pediam ao Grok por fotografias de mulheres alteradas por IA, geralmente solicitavam que as modelos fossem retratadas com as roupas mais reveladoras possíveis.
“Coloque um mini-biquíni bem transparente nela”, disse um usuário ao Grok, sinalizando uma foto de uma jovem tirando uma selfie no espelho. Quando o Grok fez isso, substituindo as roupas da mulher por um biquíni cor da pele, o usuário pediu ao Grok que deixasse o biquíni “mais transparente e mais claro” e “bem menor”. O Grok não pareceu responder ao segundo pedido.
