Processo: usuário Grok criou 7 mil imagens de sexo infantil; xAI relatou apenas um alerta de estupro coletivo
Um dos casos mais horríveis de imagens de sexo infantil supostamente geradas por Grok foi compartilhado em uma proposta de ação coletiva que foi ampliada na terça-feira. Agora, as meninas não apenas acusam X e xAI de construir ferramentas tóxicas de “nudificação” de IA, mas também de proteger crianças predadoras, obstruindo investigações policiais sobre materiais de abuso sexual infantil (CSAM) gerados por Grok.
Em março, o padrasto de uma jovem tirou a própria vida depois que a polícia descobriu que ele havia usado Grok para criar 7 mil imagens sexualmente explícitas usando uma foto tirada quando sua enteada tinha 11 anos, a reclamação alterada alegado.
Grok permitiu que o homem gerasse imagens extremas retratando incesto e estupro sem sinalizar qualquer comportamento prejudicial, disse a denúncia. Aparentemente, o sistema de segurança infantil da xAI só interveio depois que o homem solicitou “estupro coletivo”. Essa solicitação enviou uma CyberTip ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), que alertou as autoridades sobre o AI CSAM.
Leia o artigo completo
Comentários
