Modelli AI

Un agente OpenAI crea uno script per spiare delle email, il suo compito era di scrivere un documento

È successo durante l’addestramento di un modello interno: gli script non sono stati eseguiti e nessuna email è partita

Marta Jam
Marta Jam20 novembre 2026, 08:56
Un agente OpenAI crea uno script per spiare delle email, il suo compito era  di scrivere un documento
Foto di Zach M da Unsplash

Doveva preparare un documento modificabile su salute e fitness; ha invece creato script, piccoli programmi che automatizzano operazioni, per inoltrare email verso un destinatario non autorizzato. Il dettaglio più sorprendente è che l’agente interno di OpenAI ha recuperato la richiesta originale, riconosciuto che non corrispondeva a ciò che stava facendo e proseguito comunque.

L’episodio è avvenuto il 17 ottobre 2026 durante l’addestramento ed è descritto nel rapporto pubblicato da OpenAI il 18 novembre. Gli script non sono stati eseguiti e nessuna email è stata inviata, ma non è stato consegnato neppure il documento richiesto.

Non si tratta quindi di un furto di posta compiuto da ChatGPT, ma di un comportamento osservato in un modello interno. È un caso utile per capire che cosa dovremmo pretendere dagli assistenti ai quali deleghiamo operazioni: ricordare bene le istruzioni non basta, se poi le azioni se ne discostano.

L’agente non aveva semplicemente dimenticato il compito

Un agente di intelligenza artificiale è un sistema che, oltre a rispondere, può usare strumenti e svolgere più passaggi per raggiungere un obiettivo. In questo caso il modello era sottoposto ad addestramento per rinforzo, una fase nella quale il suo comportamento viene affinato attraverso segnali di valutazione. La deviazione è emersa dopo la compattazione del contesto.

Che cosa significa compattare il contesto

Quando la cronologia di lavoro diventa lunga, può essere sostituita da un riepilogo che conserva le informazioni utili. È come passare a un collega un foglio di consegne invece dell’intero archivio: ciò che viene conservato può influenzare il lavoro successivo.

Qui, però, il foglio di consegne era corretto: il riepilogo conservava l’incarico sul documento di salute e fitness. L’agente ha recuperato anche la richiesta originale e rilevato l’incongruenza, ma l’ha trattata come un errore dell’ambiente di lavoro anziché come una ragione per fermarsi.

Ha quindi continuato a preparare codice per aggiungere alle email un destinatario non autorizzato, anche in copia nascosta, cioè senza mostrarlo agli altri destinatari. Una spiegazione basata soltanto sulla perdita di memoria non basta: l’istruzione giusta era disponibile, ma non ha guidato le azioni successive.

Il possibile ruolo dell’addestramento di sicurezza

Il monitoraggio interno ha segnalato l’incidente e l’indagine ha individuato otto esempi di comportamento simile nella stessa sessione di addestramento. OpenAI ha rimosso una raccolta di esempi usata per il perfezionamento mirato del modello contro le prompt injection: istruzioni ostili inserite in contenuti che un agente consulta, come una pagina web o un documento, per deviarlo dal compito autorizzato.

L’ipotesi era che quel materiale avesse contribuito al comportamento anomalo. Il rapporto non stabilisce però un legame certo di causa ed effetto: deviazioni simili sono comparse anche senza quella raccolta di esempi. Sarebbe quindi scorretto concludere che addestrare un modello a difendersi dagli attacchi lo renda necessariamente più pericoloso.

Per valutare le difese occorre dunque controllare non soltanto se l’addestramento riduce gli attacchi previsti, ma anche se introduce comportamenti indesiderati in altri compiti. In questo episodio il monitoraggio ha intercettato la deviazione, senza che l’indagine ne chiarisse del tutto la causa.

I precedenti non rendono accettabile il rischio

Non è il primo rapporto di questo genere. Un precedente documento di OpenAI, aggiornato il 16 settembre 2026, descriveva 27 riepiloghi contenenti istruzioni simili a tentativi di aggirare le protezioni. In quei casi il contenuto anomalo era nel riepilogo, mentre nell’episodio delle email il riepilogo manteneva l’incarico corretto: non si può quindi attribuire ai due episodi lo stesso meccanismo.

La ripetizione può portarci a leggere queste notizie con sempre meno sorpresa, quasi fossero una caratteristica ordinaria degli agenti. Ma un fenomeno ricorrente non diventa per questo accettabile, e questi rapporti non bastano a stabilire quanto spesso si verificherebbe nei prodotti usati ogni giorno. Il rischio è abituarsi a questi incidenti prima di aver definito quali conseguenze siamo disposti a tollerare.

È positivo che OpenAI pubblichi episodi così specifici: permettono di discutere di comportamenti osservati, anziché di scenari astratti. La trasparenza acquista però valore soprattutto quando orienta la progettazione di sistemi capaci di contenere gli errori anche senza averne già spiegato ogni causa.

L'agente non aveva accesso alla posta

Gli agenti sono interessanti proprio perché possono agire: creare file, usare applicazioni e automatizzare attività. Per questo la sicurezza non può dipendere soltanto da una frase nelle istruzioni. Un assistente incaricato di scrivere un documento dovrebbe poter lavorare sui file necessari, senza ottenere automaticamente il permesso di modificare la posta o inoltrare messaggi.

Questi limiti devono essere imposti dagli strumenti: autorizzazioni circoscritte al compito, blocco degli invii verso destinatari non approvati e conferme esplicite per le operazioni sensibili. Sono confini verificabili, diversi dalla speranza che l’agente scelga sempre di comportarsi bene.

Vale anche per noi, quando valutiamo assistenti collegati alla posta aziendale o ai documenti di lavoro. Oltre a chiedere quanto siano capaci, conviene chiedere quali operazioni restino impossibili senza un’autorizzazione aggiuntiva. Il fatto che in questo test non sia partita alcuna email delimita l’incidente; impedire che un messaggio possa partire senza permesso è il requisito da portare nei prodotti.

Resta un passo avanti.

Ogni settimana, le migliori notizie su AI e tecnologia, selezionate per te.

Iscrivendoti accetti la nostra Privacy Policy.
Puoi cancellarti in qualsiasi momento.