Il caso di Grok riaccende il dibattito sui rischi dell’intelligenza artificiale generativa quando finisce nelle mani sbagliate. Una donna del Wyoming ha infatti denunciato xAI, sostenendo che il chatbot abbia permesso la creazione di deepfake sessuali a partire da una sua foto d’infanzia.
Secondo quanto riportato nella denuncia, il patrigno avrebbe usato il sistema per generare migliaia di immagini esplicite, poi diffuse online. La vicenda ha sollevato nuove domande sull’efficacia delle protezioni integrate nei modelli AI e sulla responsabilità delle aziende quando gli utenti aggirano i limiti imposti.
Grok al centro della denuncia contro xAI
Nella denuncia la donna, indicata come Jane Doe 4, racconta di aver visto la polizia arrivare a casa dei genitori con un mandato di perquisizione per i dispositivi elettronici del patrigno. Solo in seguito avrebbe scoperto che l’uomo aveva utilizzato Grok per produrre oltre 7.000 immagini esplicite che la ritraevano, manipolando una foto scattata quando aveva 11 anni.
Le immagini, sempre secondo l’accusa, sarebbero state condivise online. Due giorni dopo la perquisizione, il patrigno si sarebbe suicidato. Un epilogo drammatico che rende ancora più grave una vicenda già segnata da violenza, abuso e uso distorto della tecnologia.
Il nodo delle protezioni e delle responsabilità
La causa sostiene che xAI non sia riuscita a impedire la generazione di contenuti pedopornografici tramite il proprio chatbot. L’azienda di Elon Musk, dal canto suo, ha più volte provato a spostare l’attenzione sugli utenti che riescono ad aggirare le protezioni. In questo caso, infatti, la cosiddetta modalità Spicy di Grok non dovrebbe consentire la creazione di deepfake sessuali con persone reali.
Eppure la denuncia si inserisce in un contesto più ampio, fatto di contestazioni già arrivate negli Stati Uniti e in Europa. Il Parlamento europeo, ad esempio, ha introdotto il divieto di tool per la nudificazione nell’AI Act, a conferma di una preoccupazione sempre più diffusa per gli abusi possibili con questi strumenti.
Verso una class action e nuove regole per l’AI
Il procedimento è stato unito a un’altra denuncia presentata a marzo da tre teenager del Tennessee davanti a un tribunale della California. L’obiettivo dei querelanti è ottenere lo status di class action e chiedere un risarcimento danni sulla base della Masha’s Law, che prevede fino a 150.000 dollari per ogni violazione.
La vicenda mostra quanto sia urgente rafforzare i controlli sui modelli di AI capaci di generare immagini. Non basta affidarsi alle limitazioni tecniche se poi esistono modi per superarle: servono verifiche più solide, regole più chiare e una responsabilità più netta per chi sviluppa e distribuisce questi sistemi.
