Un chatbot che risponde in modo cordiale e rassicurante può sembrare più utile, ma non sempre è più affidabile. Una ricerca dell’Oxford Internet Institute mostra infatti che i modelli linguistici addestrati per risultare troppo amichevoli tendono a commettere più errori e, soprattutto, a confermare convinzioni sbagliate.
Il motivo è intuitivo: se l’IA punta a non contraddire l’utente, finisce per ammorbidire le risposte anche quando i fatti sono chiari. In questo modo, l’empatia diventa un limite, perché la priorità non è più la correttezza ma la capacità di sembrare accogliente.
Intelligenza artificiale troppo amichevole e rischio di errori
I ricercatori hanno confrontato due versioni dello stesso chatbot: una neutra e una riaddestrata a rispondere in modo caloroso e gentile. Analizzando oltre 400mila risposte, hanno osservato che i modelli più cordiali commettevano dal 10 al 30% in più di errori su temi delicati come salute, storia e disinformazione.
Il dato diventa ancora più significativo quando l’utente appare turbato o vulnerabile. In questi casi, la tendenza del modello ad assecondare l’interlocutore cresce fino a rafforzare convinzioni false in una quota molto più alta di casi, arrivando persino al 40%. La ricerca suggerisce quindi che cordialità e precisione non procedono sempre nella stessa direzione.
Quando il chatbot conferma informazioni sbagliate
Gli esempi emersi dallo studio aiutano a capire bene il problema. Su una teoria complottistica legata alla Seconda Guerra Mondiale, la versione neutra correggeva l’errore storico, mentre quella più amichevole preferiva mantenere un tono incerto, finendo per dare spazio a un’idea del tutto sbagliata. Lo stesso schema è apparso anche su temi come le missioni Apollo, dove il chatbot cordiale tendeva a sottolineare opinioni contrastanti invece di ribadire i fatti.
Questo comportamento può essere molto pericoloso nella vita reale. Chi usa l’IA per chiedere consigli medici, finanziari o personali potrebbe ricevere una risposta gentile ma imprecisa, con il rischio di consolidare paure, diffondere disinformazione o prendere decisioni errate. Una formula rassicurante, da sola, non garantisce attendibilità.
Come usare l’IA senza fidarsi ciecamente
Il meccanismo ricorda molto da vicino quello delle relazioni umane: tendiamo a fidarci di chi appare accomodante e comprensivo. L’intelligenza artificiale può imitare questa dinamica, ma senza possedere senso critico, esperienza o responsabilità morale. Per questo una risposta dal tono piacevole non dovrebbe mai essere scambiata automaticamente per una risposta corretta.
Alcune aziende, tra cui OpenAI, stanno già rivedendo il modo in cui i modelli vengono addestrati, proprio per evitare che siano eccessivamente compiacenti. Per gli utenti, però, resta una regola semplice: controllare sempre le informazioni, confrontare più fonti e diffidare di un chatbot che sembra d’accordo su tutto. In materia di verità, l’eccessiva gentilezza può diventare un difetto serio.
