OpenAI ha intercettato e fermato una campagna coordinata che mirava a ottenere informazioni protette dai suoi modelli. Il caso riguarda la cosiddetta distillazione non autorizzata, una pratica con cui gli output dell’intelligenza artificiale, e in alcuni casi i suoi processi di ragionamento, vengono sfruttati per addestrare sistemi concorrenti.
Secondo quanto riportato dall’azienda, l’attività sarebbe stata condotta in modo organizzato e su larga scala, senza violare la crittografia o accedere direttamente alle conversazioni degli utenti. Al centro dell’indagine c’è un insieme di comportamenti sospetti attribuiti a soggetti collegati a Moonshot AI, società cinese che sviluppa il modello Kimi.
Distillazione non autorizzata e controlli rafforzati da OpenAI
La distillazione non autorizzata è una delle nuove frontiere del confronto tra i grandi modelli di intelligenza artificiale. In termini pratici, consiste nell’usare risposte e catene di ragionamento di un modello per trasferire conoscenze a un altro sistema, aggirando di fatto il valore proprietario di quei dati. OpenAI sostiene di aver individuato questa attività all’inizio di luglio, dopo aver osservato schemi di utilizzo anomali.
Stando alla ricostruzione fornita dall’azienda, gli autori avrebbero adottato tecniche mirate a far emergere ragionamenti nascosti, ad esempio copiando contenuti cifrati da una conversazione e chiedendo poi al modello di un’altra sessione di decifrarli e trascriverli. L’obiettivo era rendere visibile ciò che normalmente resta protetto, così da raccogliere materiale utile all’addestramento di modelli alternativi.
Le verifiche hanno individuato un primo flusso di attività il 1 luglio, inizialmente con volumi contenuti. Il 24 e il 25 luglio è stato però registrato un picco superiore alle 16.000 richieste, provenienti da oltre 4.000 utenti e riconducibili a uno schema preciso di estrazione. Ulteriori controlli hanno rilevato dinamiche simili in un gruppo più ampio di oltre 15.000 utenti. L’intera operazione è stata bloccata entro il 28 luglio.
Il ruolo di Moonshot AI e i rischi per la sicurezza
OpenAI precisa di non poter confermare se dietro la campagna ci sia stato un solo autore. Tuttavia, il numero più elevato di richieste è arrivato da soggetti associati a Moonshot AI, elemento che ha portato l’azienda a chiudere tutti gli account coinvolti e a rafforzare i sistemi di login e le protezioni sui dati di ragionamento. La misura punta a limitare nuovi tentativi di accesso indiretto ai contenuti protetti.
La vicenda riaccende anche il tema della competizione globale sull’intelligenza artificiale. I modelli statunitensi restano tra i più avanzati, ma quelli cinesi hanno ridotto il divario, anche grazie alla diffusione di soluzioni open source. Secondo OpenAI, però, la distillazione non autorizzata non è solo un problema di concorrenza tecnologica: può diventare un rischio per la sicurezza nazionale, soprattutto se le capacità acquisite vengono usate per creare strumenti offensivi o per facilitare attività informatiche malevole.
Perché la distillazione dei modelli preoccupa l’industria AI
Il punto più delicato è che il furto di segnali di ragionamento può consentire di replicare prestazioni avanzate senza sostenere gli stessi costi di ricerca e sviluppo. In questo modo, un modello può essere migliorato sfruttando capacità altrui e riducendo le limitazioni originarie. È proprio questo aspetto a rendere la distillazione una pratica particolarmente sensibile per le aziende che investono risorse enormi nella costruzione dei propri sistemi.
La risposta di OpenAI va quindi letta anche come un messaggio all’intero settore: la protezione dei modelli non riguarda più soltanto i dati degli utenti, ma anche il valore strategico dei meccanismi interni che permettono a un’AI di ragionare e generare risposte. In un mercato sempre più competitivo, difendere questi elementi diventa essenziale quanto migliorare le prestazioni del modello stesso.