L’AGCM ha chiuso tre istruttorie avviate nei confronti di DeepSeek, Mistral AI e Scaleup, accettando gli impegni proposti dalle società per aumentare la trasparenza sull’uso dei chatbot. Al centro dell’intervento dell’Autorità c’è il tema delle allucinazioni, cioè le risposte che un sistema generativo può produrre in modo errato, impreciso o del tutto inventato.
Le verifiche dell’Antitrust erano partite in momenti diversi: ad aprile 2025 per DeepSeek, a maggio 2025 per Scaleup e a giugno 2025 per Mistral AI. Secondo l’AGCM, nelle interfacce web e app dei servizi non risultavano presenti informazioni sufficientemente chiare sul rischio che i chatbot potessero generare contenuti inattendibili. Una mancanza ritenuta potenzialmente rilevante ai fini del Codice del consumo, con possibile configurazione di una pratica commerciale scorretta.
Per Scaleup, inoltre, l’Autorità aveva rilevato che non erano state descritte in modo adeguato le caratteristiche del servizio NOVA AI, presentato come un chatbot cross-platform capace di offrire accesso ad altri modelli conversazionali. In assenza di informazioni complete, l’utente poteva non comprendere con precisione natura, limiti e modalità di funzionamento del servizio.
AGCM e trasparenza sui chatbot: gli impegni accettati
L’AGCM ha ritenuto sufficienti gli impegni assunti dalle tre società, chiudendo così i procedimenti senza applicare sanzioni, come previsto dall’articolo 27, comma 7, del Codice del consumo. Le misure concordate puntano a rafforzare l’informazione lungo tutto il percorso di utilizzo, dal sito o dall’app fino alle fasi che precedono registrazione e acquisto.
Tra gli interventi più importanti figurano l’introduzione di disclaimer permanenti nelle interfacce di utilizzo, collocati sotto la chat e redatti in lingua italiana, con richiami espliciti alla presenza delle allucinazioni. In alcuni casi sono stati previsti anche hyperlink dedicati, così da consentire all’utente di accedere con facilità a spiegazioni più estese sul funzionamento del sistema e sui suoi limiti.
Le aziende hanno inoltre aggiornato l’informativa precontrattuale, integrandola con avvertenze specifiche sulla necessità di verificare sempre i contenuti generati. Il messaggio richiesto è chiaro: un chatbot può essere utile e rapido, ma non sostituisce il controllo umano quando si tratta di informazioni importanti, sensibili o destinate a essere utilizzate in modo professionale.
Le misure adottate da DeepSeek, Mistral AI e Scaleup
Nel caso di DeepSeek, oltre agli adeguamenti informativi, è stato previsto anche un investimento tecnologico per ridurre il fenomeno delle allucinazioni. L’Autorità ha comunque ricordato che questo problema non può essere eliminato del tutto, perché è legato alla natura stessa dei sistemi di intelligenza artificiale generativa.
Scaleup, invece, ha chiarito in modo più netto la funzione di NOVA AI, specificando che si tratta di un servizio che consente l’accesso a chatbot di terze parti e non di una piattaforma che aggrega o elabora direttamente le risposte. Questa precisazione aiuta a distinguere meglio il ruolo del servizio e a evitare possibili equivoci sulle responsabilità dei contenuti mostrati agli utenti.
Perché il caso AGCM è rilevante per gli utenti
La decisione dell’AGCM segna un passaggio importante nel rapporto tra intelligenza artificiale e tutela del consumatore. La diffusione dei chatbot rende sempre più necessario fornire avvisi semplici, visibili e comprensibili, soprattutto quando l’output può sembrare autorevole anche se non è corretto. In questo senso, la trasparenza diventa uno strumento essenziale per un uso più consapevole dell’AI.
Per gli utenti, la novità principale è la maggiore evidenza dei limiti dei servizi: i chatbot possono sbagliare, inventare dettagli o formulare risposte fuorvianti. Sapere questo prima dell’uso permette di valutare meglio l’affidabilità delle informazioni ricevute e di adottare le dovute verifiche, soprattutto in ambiti in cui precisione e attendibilità sono fondamentali.
