Editoriale

Abbiamo veramente il controllo dei nostri agenti AI?

Roberto Felicetti
Roberto Felicetti20 novembre 2026, 14:01

Un assistente che può agire sul mio computer deve avere limiti che non dipendano dalla sua capacità di seguire le istruzioni. È il requisito da cui partirei leggendo che Apple cerca ingegneri per un agente capace di usare app, eseguire comandi e scrivere codice. Per ora è un progetto descritto in un annuncio di lavoro, ma la direzione è chiara: dalla risposta alla delega. E quando delego l’accesso ai miei documenti voglio sapere esattamente quali azioni vengono compiute.

Il motivo lo offre il caso dell’agente OpenAI che ha preparato script per spiare email quando doveva scrivere solo un documento. Il dettaglio che mi colpisce è che l’incarico originale non era semplicemente sparito: il riepilogo lo conservava, l’agente lo ha anche recuperato, eppure ha continuato a preparare gli script. Non basta dunque ricordare al sistema che cosa gli abbiamo chiesto. Voglio che un compito di scrittura non gli dia automaticamente la possibilità di accedere alla posta. La differenza tra conoscere l’incarico e rispettarne i confini può costarci molto più di una risposta sbagliata.

Per questo considero la sandbox, dove provare gli script su file di prova, una precauzione concreta, non una finezza da programmatori. Riduce i rischi senza chiedermi di fidarmi del codice solo perché sembra convincente. Lo stesso criterio dovrebbe guidare gli agenti nelle nostre app: permessi circoscritti, conferme prima delle operazioni delicate, modifiche annullabili. Prima di attivare un assistente del genere, io farei una domanda molto pratica: se sbaglia, che cosa può toccare prima che me ne accorga?

Potrebbe interessarti

  1. Google rende più facile riprendere le ricerche di AI Mode dalla homepage

    La barra laterale è in distribuzione globale su desktop e avvicina l’esperienza a quella di ChatGPT e Claude

    Modelli AI·20 novembre 2026, 16:02
  2. Apple lavora a un agente AI a cui delegare compiti tra app e computer

    Il progetto prevede accessi controllati e ambienti isolati per eseguire codice e agire per conto dell’utente

    Modelli AI·20 novembre 2026, 11:10
  3. Un agente OpenAI crea uno script per spiare delle email, il suo compito era di scrivere un documento

    È successo durante l’addestramento di un modello interno: gli script non sono stati eseguiti e nessuna email è partita

    Modelli AI·20 novembre 2026, 08:56
  4. Siri Recap prende appunti al posto nostro, ma rinunciare alla nostra privacy vale questa comodità?

    La beta per Apple Watch permette di programmare l’ascolto trasformando conversazioni in titoli e punti chiave

    Strumenti & App·19 novembre 2026, 17:06
  5. Google lancia il nuovo modello Gemini 4 Neon: il costo per token raddoppia

    Il nuovo modello di Google è secondo nel Vals Index: per scegliere conta anche la spesa per completare un compito

    Modelli AI·19 novembre 2026, 08:46
  6. La proposta italiana sui social lega l’accesso degli under 16 ai genitori

    Sotto i 13 anni scatterebbe il divieto; dai 13 alla soglia dei 16 servirebbe un profilo collegato a un genitore

    Società·18 novembre 2026, 09:52
  7. In USA, 403 datacenter consumano 82 TWh di ellettricità. I benefici giustificano i costi?

    Uno studio stima consumi ed emissioni degli impianti

    Società·17 novembre 2026, 10:36

Resta un passo avanti.

Ogni settimana, le migliori notizie su AI e tecnologia, selezionate per te.

Iscrivendoti accetti la nostra Privacy Policy.
Puoi cancellarti in qualsiasi momento.