Um dos casos mais horríveis de imagens de sexo infantil supostamente geradas por Grok foi compartilhado em uma proposta de ação coletiva que foi ampliada na terça-feira. Agora, as meninas não apenas acusam X e xAI de construir ferramentas tóxicas de “nudificação” de IA, mas também de proteger crianças predadoras, obstruindo investigações policiais sobre materiais de abuso sexual infantil (CSAM) gerados por Grok.
Em março, o padrasto de uma jovem tirou a própria vida depois que a polícia descobriu que ele havia usado Grok para criar 7 mil imagens sexualmente explícitas usando uma foto tirada quando sua enteada tinha 11 anos, a reclamação alterada alegado.
Grok permitiu que o homem gerasse imagens extremas retratando incesto e estupro sem sinalizar qualquer comportamento prejudicial, disse a denúncia. Aparentemente, o sistema de segurança infantil da xAI só interveio depois que o homem solicitou “estupro coletivo”. Essa solicitação enviou uma CyberTip ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), que alertou as autoridades sobre o AI CSAM.
Leia o artigo completo
Comentários
Leave a comment