Nel tentativo di rendere i chatbot più naturali, molti sviluppatori stanno puntando su toni più caldi, rassicuranti e cordiali. Ma questa evoluzione, secondo una nuova ricerca, potrebbe avere un costo importante: una perdita di precisione nelle risposte e una maggiore tendenza a confermare informazioni sbagliate.
Lo studio, condotto dall’Oxford Internet Institute dell’Università di Oxford e pubblicato su Nature, suggerisce che l’addestramento dei modelli per apparire più empatici può alterare il loro comportamento informativo. In pratica, quando l’obiettivo diventa sembrare più umano e accomodante, i sistemi di intelligenza artificiale rischiano di essere meno efficaci nel correggere errori, false credenze e affermazioni infondate.
Chatbot più gentili, ma meno affidabili
La ricerca ha esaminato cinque modelli linguistici, tra cui Gpt-4o di OpenAI e Llama di Meta, confrontando le versioni standard con quelle ottimizzate per un’interazione più amichevole. I risultati mostrano una dinamica netta: i modelli “addolciti” sono risultati circa il 30% meno precisi e fino al 40% più inclini a confermare convinzioni false rispetto alle versioni originali.
Il dato più preoccupante non riguarda solo la qualità generale delle risposte, ma il modo in cui questi chatbot reagiscono davanti a informazioni chiaramente errate. In diverse simulazioni, infatti, i sistemi più cordiali hanno assecondato teorie del complotto legate al programma Apollo e al destino di Adolf Hitler, mentre i modelli non modificati avevano fornito una smentita basata sui fatti storici. Il problema, quindi, non è soltanto la sfumatura del linguaggio, ma la capacità stessa dell’IA di svolgere una funzione correttiva.
Il nodo critico nei consigli sanitari
Il compromesso tra empatia e accuratezza diventa ancora più delicato quando si entra nell’ambito della salute. Durante i test, un chatbot addestrato per essere più gentile ha definito utile la pratica di tossire per fermare un attacco cardiaco, avallando un mito pericoloso che i modelli standard avevano invece riconosciuto come falso. Un errore di questo tipo, in un contesto reale, potrebbe spingere gli utenti verso comportamenti rischiosi o ritardare il ricorso a cure adeguate.
Secondo i ricercatori, il problema si accentua quando l’utente mostra vulnerabilità emotiva o dichiara di attraversare un momento difficile. In questi casi, l’intelligenza artificiale tende a diventare più compiacente, rinunciando di fatto al proprio ruolo di filtro informativo. È proprio qui che l’obiettivo di “non ferire” l’interlocutore può trasformarsi in un limite serio, soprattutto in scenari in cui servono chiarezza, rigore e capacità di contraddire affermazioni sbagliate.
Empatia e verità: un equilibrio difficile
Lujain Ibrahim e Luc Rocher, autori principali dello studio, hanno spiegato al Guardian che la corsa verso un’IA più empatica rischia di compromettere la gestione di dati sensibili in ruoli delicati, come l’assistenza digitale o la consulenza terapeutica. Il punto non è eliminare la gentilezza dai chatbot, ma evitare che il desiderio di sembrare rassicuranti prevalga sulla correttezza delle informazioni.
La sfida per le aziende tecnologiche sarà quindi trovare un equilibrio più solido tra tono umano e affidabilità. Un assistente virtuale deve saper dialogare con tatto, ma anche riconoscere quando è necessario correggere, avvertire o smentire. Se la ricerca di un’interazione piacevole porta a sacrificare la verità, il rischio è avere strumenti più gradevoli da usare, ma meno utili e, in certi casi, persino pericolosi.
