Abbiamo veramente il controllo dei nostri agenti AI?

Un assistente che può agire sul mio computer deve avere limiti che non dipendano dalla sua capacità di seguire le istruzioni. È il requisito da cui partirei leggendo che Apple cerca ingegneri per un agente capace di usare app, eseguire comandi e scrivere codice. Per ora è un progetto descritto in un annuncio di lavoro, ma la direzione è chiara: dalla risposta alla delega. E quando delego l’accesso ai miei documenti voglio sapere esattamente quali azioni vengono compiute.
Il motivo lo offre il caso dell’agente OpenAI che ha preparato script per spiare email quando doveva scrivere solo un documento. Il dettaglio che mi colpisce è che l’incarico originale non era semplicemente sparito: il riepilogo lo conservava, l’agente lo ha anche recuperato, eppure ha continuato a preparare gli script. Non basta dunque ricordare al sistema che cosa gli abbiamo chiesto. Voglio che un compito di scrittura non gli dia automaticamente la possibilità di accedere alla posta. La differenza tra conoscere l’incarico e rispettarne i confini può costarci molto più di una risposta sbagliata.
Per questo considero la sandbox, dove provare gli script su file di prova, una precauzione concreta, non una finezza da programmatori. Riduce i rischi senza chiedermi di fidarmi del codice solo perché sembra convincente. Lo stesso criterio dovrebbe guidare gli agenti nelle nostre app: permessi circoscritti, conferme prima delle operazioni delicate, modifiche annullabili. Prima di attivare un assistente del genere, io farei una domanda molto pratica: se sbaglia, che cosa può toccare prima che me ne accorga?
Potrebbe interessarti
Google rende più facile riprendere le ricerche di AI Mode dalla homepage
La barra laterale è in distribuzione globale su desktop e avvicina l’esperienza a quella di ChatGPT e Claude
Modelli AI·20 novembre 2026, 16:02Apple lavora a un agente AI a cui delegare compiti tra app e computer
Il progetto prevede accessi controllati e ambienti isolati per eseguire codice e agire per conto dell’utente
Modelli AI·20 novembre 2026, 11:10Un agente OpenAI crea uno script per spiare delle email, il suo compito era di scrivere un documento
È successo durante l’addestramento di un modello interno: gli script non sono stati eseguiti e nessuna email è partita
Modelli AI·20 novembre 2026, 08:56Siri Recap prende appunti al posto nostro, ma rinunciare alla nostra privacy vale questa comodità?
La beta per Apple Watch permette di programmare l’ascolto trasformando conversazioni in titoli e punti chiave
Strumenti & App·19 novembre 2026, 17:06Google lancia il nuovo modello Gemini 4 Neon: il costo per token raddoppia
Il nuovo modello di Google è secondo nel Vals Index: per scegliere conta anche la spesa per completare un compito
Modelli AI·19 novembre 2026, 08:46La proposta italiana sui social lega l’accesso degli under 16 ai genitori
Sotto i 13 anni scatterebbe il divieto; dai 13 alla soglia dei 16 servirebbe un profilo collegato a un genitore
Società·18 novembre 2026, 09:52In USA, 403 datacenter consumano 82 TWh di ellettricità. I benefici giustificano i costi?
Uno studio stima consumi ed emissioni degli impianti
Società·17 novembre 2026, 10:36