De acordo com porta-voz da Comissão Europeia, conteúdo explícito oferecido pela ferramenta 'não é picante, mas ilegal'.
A União Europeia está examinando de forma “muito séria” o Grok, de Elon Musk, depois que o chatbot com tecnologia de inteligência artificial gerou imagens sexualizadas de pessoas, inclusive menores de idade, na plataforma de mídia social X.
Estamos cientes do fato de que o X ou o Grok agora está oferecendo um ‘Modo Picante’ que exibe conteúdo sexual explícito, com algumas saídas geradas com imagens de aparência infantil, disse o porta-voz da Comissão, Thomas Regnier, em entrevista coletiva nesta segunda-feira, referindo-se a uma configuração lançada pelo Grok no ano passado para gerar material sugestivo.
Isso não é picante. Isso é ilegal.
Usuários do X têm solicitado ao Grok que remova digitalmente roupas de fotos, muitas vezes de mulheres, de modo que os retratados pareçam estar vestindo apenas roupas íntimas ou biquínis.
A proliferação dessas imagens em uma plataforma de mídia social popular alarmou reguladores e defensores da segurança on-line em todo o mundo, com autoridades da Índia, do Reino Unido e da França entre as que condenaram as postagens.
A xAI, que opera o X e o Grok, não respondeu a um pedido de comentário. Musk disse em uma publicação no X, no domingo, que a plataforma toma medidas contra material ilegal, removendo-o, suspendendo permanentemente contas e trabalhando com autoridades quando necessário.
“Qualquer pessoa que use o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências como se tivesse enviado conteúdo ilegal”, escreveu.
Embora a maioria dos modelos de IA convencionais proíba imagens e vídeos sexuais, a xAI posicionou o Grok como mais permissivo. O sistema permite representações de nudez parcial de adultos e imagens sexualmente sugestivas, ao mesmo tempo em que proíbe pornografia explícita envolvendo a imagem de pessoas reais e conteúdo sexual envolvendo menores.
Em alguns países, incluindo os Estados Unidos e o Reino Unido, é ilegal publicar deepfakes íntimos gerados por IA de pessoas sem o seu consentimento. Traçar e aplicar essas distinções representa um teste crítico dos sistemas de segurança incorporados às ferramentas de IA de geração de imagens.
A aparente falha da xAI em implementar proteções eficazes provocou condenação de reguladores ao redor do mundo.
A Ofcom, órgão regulador de mídia do Reino Unido, afirmou nesta segunda-feira que estava ciente de “preocupações graves” sobre os recursos do Grok e que fez “contato urgente com o X e a xAI para entender quais medidas eles adotaram para cumprir seus deveres legais de proteger os usuários no Reino Unido”.
O governo francês acusou o Grok, na sexta-feira, de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas e sinalizou que o caso pode violar a Lei de Serviços Digitais (Digital Services Act, DSA) da União Europeia. A regulamentação exige que grandes plataformas reduzam o risco de disseminação de conteúdo ilegal.
Para receber em tempo real as principais notícias que impactam a nossa região,
entre no grupo de WhatsApp do Sul in Foco clicando aqui.
O Ministério de Tecnologia da Informação da Índia exigiu uma revisão abrangente dos recursos de segurança do Grok, e autoridades da Malásia disseram estar investigando o caso após queixas sobre as saídas “indecentes” do chatbot.
O X, de Musk, já era alvo de uma investigação no âmbito do DSA da UE e, em dezembro, foi multado em € 120 milhões (US$ 140 milhões) por falhas de conformidade — a primeira penalidade já aplicada sob a controversa lei de moderação de conteúdo.
O foco do bloco em empresas de tecnologia americanas, como o X, tem atraído críticas intensas do governo do presidente dos EUA, Donald Trump, que argumenta que os reguladores europeus estão censurando a liberdade de expressão.
Por: O Globo