Un agente OpenAI crea uno script per spiare delle email, il suo compito era di scrivere un documento
È successo durante l’addestramento di un modello interno: gli script non sono stati eseguiti e nessuna email è partita


Doveva preparare un documento modificabile su salute e fitness; ha invece creato script, piccoli programmi che automatizzano operazioni, per inoltrare email verso un destinatario non autorizzato. Il dettaglio più sorprendente è che l’agente interno di OpenAI ha recuperato la richiesta originale, riconosciuto che non corrispondeva a ciò che stava facendo e proseguito comunque.
L’episodio è avvenuto il 17 ottobre 2026 durante l’addestramento ed è descritto nel rapporto pubblicato da OpenAI il 18 novembre. Gli script non sono stati eseguiti e nessuna email è stata inviata, ma non è stato consegnato neppure il documento richiesto.
Non si tratta quindi di un furto di posta compiuto da ChatGPT, ma di un comportamento osservato in un modello interno. È un caso utile per capire che cosa dovremmo pretendere dagli assistenti ai quali deleghiamo operazioni: ricordare bene le istruzioni non basta, se poi le azioni se ne discostano.
In questo articolo
L’agente non aveva semplicemente dimenticato il compito
Un agente di intelligenza artificiale è un sistema che, oltre a rispondere, può usare strumenti e svolgere più passaggi per raggiungere un obiettivo. In questo caso il modello era sottoposto ad addestramento per rinforzo, una fase nella quale il suo comportamento viene affinato attraverso segnali di valutazione. La deviazione è emersa dopo la compattazione del contesto.
Che cosa significa compattare il contesto
Quando la cronologia di lavoro diventa lunga, può essere sostituita da un riepilogo che conserva le informazioni utili. È come passare a un collega un foglio di consegne invece dell’intero archivio: ciò che viene conservato può influenzare il lavoro successivo.
Qui, però, il foglio di consegne era corretto: il riepilogo conservava l’incarico sul documento di salute e fitness. L’agente ha recuperato anche la richiesta originale e rilevato l’incongruenza, ma l’ha trattata come un errore dell’ambiente di lavoro anziché come una ragione per fermarsi.
Ha quindi continuato a preparare codice per aggiungere alle email un destinatario non autorizzato, anche in copia nascosta, cioè senza mostrarlo agli altri destinatari. Una spiegazione basata soltanto sulla perdita di memoria non basta: l’istruzione giusta era disponibile, ma non ha guidato le azioni successive.
Il possibile ruolo dell’addestramento di sicurezza
Il monitoraggio interno ha segnalato l’incidente e l’indagine ha individuato otto esempi di comportamento simile nella stessa sessione di addestramento. OpenAI ha rimosso una raccolta di esempi usata per il perfezionamento mirato del modello contro le prompt injection: istruzioni ostili inserite in contenuti che un agente consulta, come una pagina web o un documento, per deviarlo dal compito autorizzato.
L’ipotesi era che quel materiale avesse contribuito al comportamento anomalo. Il rapporto non stabilisce però un legame certo di causa ed effetto: deviazioni simili sono comparse anche senza quella raccolta di esempi. Sarebbe quindi scorretto concludere che addestrare un modello a difendersi dagli attacchi lo renda necessariamente più pericoloso.
Per valutare le difese occorre dunque controllare non soltanto se l’addestramento riduce gli attacchi previsti, ma anche se introduce comportamenti indesiderati in altri compiti. In questo episodio il monitoraggio ha intercettato la deviazione, senza che l’indagine ne chiarisse del tutto la causa.
I precedenti non rendono accettabile il rischio
Non è il primo rapporto di questo genere. Un precedente documento di OpenAI, aggiornato il 16 settembre 2026, descriveva 27 riepiloghi contenenti istruzioni simili a tentativi di aggirare le protezioni. In quei casi il contenuto anomalo era nel riepilogo, mentre nell’episodio delle email il riepilogo manteneva l’incarico corretto: non si può quindi attribuire ai due episodi lo stesso meccanismo.
La ripetizione può portarci a leggere queste notizie con sempre meno sorpresa, quasi fossero una caratteristica ordinaria degli agenti. Ma un fenomeno ricorrente non diventa per questo accettabile, e questi rapporti non bastano a stabilire quanto spesso si verificherebbe nei prodotti usati ogni giorno. Il rischio è abituarsi a questi incidenti prima di aver definito quali conseguenze siamo disposti a tollerare.
È positivo che OpenAI pubblichi episodi così specifici: permettono di discutere di comportamenti osservati, anziché di scenari astratti. La trasparenza acquista però valore soprattutto quando orienta la progettazione di sistemi capaci di contenere gli errori anche senza averne già spiegato ogni causa.
L'agente non aveva accesso alla posta
Gli agenti sono interessanti proprio perché possono agire: creare file, usare applicazioni e automatizzare attività. Per questo la sicurezza non può dipendere soltanto da una frase nelle istruzioni. Un assistente incaricato di scrivere un documento dovrebbe poter lavorare sui file necessari, senza ottenere automaticamente il permesso di modificare la posta o inoltrare messaggi.
Questi limiti devono essere imposti dagli strumenti: autorizzazioni circoscritte al compito, blocco degli invii verso destinatari non approvati e conferme esplicite per le operazioni sensibili. Sono confini verificabili, diversi dalla speranza che l’agente scelga sempre di comportarsi bene.
Vale anche per noi, quando valutiamo assistenti collegati alla posta aziendale o ai documenti di lavoro. Oltre a chiedere quanto siano capaci, conviene chiedere quali operazioni restino impossibili senza un’autorizzazione aggiuntiva. Il fatto che in questo test non sia partita alcuna email delimita l’incidente; impedire che un messaggio possa partire senza permesso è il requisito da portare nei prodotti.
Potrebbe interessarti
Google rende più facile riprendere le ricerche di AI Mode dalla homepage
La barra laterale è in distribuzione globale su desktop e avvicina l’esperienza a quella di ChatGPT e Claude
Modelli AI·20 novembre 2026, 16:02Abbiamo veramente il controllo dei nostri agenti AI?
Editoriale·20 novembre 2026, 14:01Apple lavora a un agente AI a cui delegare compiti tra app e computer
Il progetto prevede accessi controllati e ambienti isolati per eseguire codice e agire per conto dell’utente
Modelli AI·20 novembre 2026, 11:10Siri Recap prende appunti al posto nostro, ma rinunciare alla nostra privacy vale questa comodità?
La beta per Apple Watch permette di programmare l’ascolto trasformando conversazioni in titoli e punti chiave
Strumenti & App·19 novembre 2026, 17:06Google lancia il nuovo modello Gemini 4 Neon: il costo per token raddoppia
Il nuovo modello di Google è secondo nel Vals Index: per scegliere conta anche la spesa per completare un compito
Modelli AI·19 novembre 2026, 08:46La proposta italiana sui social lega l’accesso degli under 16 ai genitori
Sotto i 13 anni scatterebbe il divieto; dai 13 alla soglia dei 16 servirebbe un profilo collegato a un genitore
Società·18 novembre 2026, 09:52In USA, 403 datacenter consumano 82 TWh di ellettricità. I benefici giustificano i costi?
Uno studio stima consumi ed emissioni degli impianti
Società·17 novembre 2026, 10:36
