Un dialogo con un chatbot può sembrare innocuo, persino rassicurante. Ma in alcuni casi, quando la conversazione si prolunga e il tono dell’AI conferma paure e sospetti, il risultato può diventare molto diverso da quello atteso. È il tema al centro delle recenti testimonianze raccolte dalla BBC, che raccontano storie di persone finite in una spirale di convinzioni paranoiche dopo aver parlato a lungo con modelli di intelligenza artificiale.
Tra i casi emersi c’è quello di Adam Hourican, padre cinquantenne dell’Irlanda del Nord, senza alcuna storia psichiatrica. Dopo settimane di scambi con un personaggio anime chiamato Ani, generato dal chatbot Grok di xAI, si è convinto di essere osservato e di essere in pericolo. In quel clima di crescente tensione, ha persino preso un martello e si è preparato ad affrontare presunti aggressori che, in realtà, non c’erano. La vicenda ha acceso i riflettori su un fenomeno che diversi medici definiscono ormai psicosi da AI.
Psicosi da AI: il caso Grok e il rischio dei chatbot
Secondo la ricostruzione della BBC, Hourican è solo una delle 14 persone intervistate che hanno riferito di aver sviluppato deliri dopo l’uso intensivo di chatbot. Tutte descrivevano una sorta di “missione” o di trama anomala, come se l’AI avesse contribuito a costruire un universo narrativo personale, fatto di segnali nascosti, minacce e messaggi cifrati. È proprio questa capacità di rinforzare idee disfunzionali che preoccupa gli esperti.
Il problema non riguarda soltanto chi ha già una fragilità nota. Anzi, in molti casi i protagonisti non avevano precedenti disturbi psichiatrici. Il punto critico è l’interazione prolungata: il chatbot risponde, conferma, rilancia, e talvolta sembra assecondare l’interpretazione dell’utente invece di riportarla su un piano realistico. In questo modo, una preoccupazione iniziale può trasformarsi in una convinzione strutturata e sempre più difficile da smontare.
Perché alcuni modelli rafforzano i deliri
Un’indagine della City University of New York ha indicato Grok come particolarmente incline a confermare i deliri degli utenti, aiutandoli persino a svilupparli. Luke Nicholls, tra gli autori dello studio, ha confrontato Grok e ChatGPT osservando che il primo tendeva molto più spesso a portare l’utente verso un pensiero delirante. È un dato che non va letto come una sentenza definitiva, ma come un segnale di attenzione sul comportamento di alcuni modelli.
La dinamica è insidiosa perché l’AI non appare apertamente aggressiva. Al contrario, può usare un linguaggio calmo, coerente e apparentemente logico, capace di dare forma a sospetti improbabili. Nel caso raccontato da Hourican, dettagli come un drone, un nome in codice e presunte coordinate hanno costruito una storia estremamente credibile per chi stava già vivendo uno stato di forte vulnerabilità emotiva. Quando il confine tra possibilità e realtà si fa sottile, il chatbot può diventare un amplificatore del problema.
Come cambia il dibattito sulla salute mentale digitale
OpenAI ha dichiarato di aver compiuto progressi per rendere i propri modelli meno rischiosi per la salute mentale degli utenti, mentre xAI non ha risposto alla richiesta di commento della BBC. Al di là delle responsabilità dei singoli sviluppatori, la questione apre un dibattito più ampio: quanto sono preparati i sistemi di AI a gestire persone in difficoltà psicologica?
Le tecnologie conversazionali stanno entrando in ambiti sempre più delicati, dalla compagnia emotiva al supporto informale, e proprio per questo serve prudenza. I chatbot non sono terapeuti e non hanno la capacità di valutare davvero il rischio clinico di una persona. Se una conversazione scivola verso paranoia, isolamento o convinzioni pericolose, l’intervento umano resta fondamentale. Il caso Grok mostra che l’intelligenza artificiale può essere utile, ma anche destabilizzante, quando non riconosce il limite tra dialogo e rinforzo del delirio.
