Nvidia ha presentato Open Agent Safety Platform: un insieme di strumenti software per limitare cosa può fare un agente di intelligenza artificiale e dove può arrivare. Il CEO Jensen Huang, a CNBC, lo ha descritto come «un browser per gli agenti»: un contenitore che apre solo ciò che serve al compito. Parte del disegno è a codice aperto e pensato come riferimento per partner (tra cui Microsoft, Cisco, Oracle e altri).
Qui il punto per chi lavora in proprio o in una piccola impresa.
Negli ultimi mesi più laboratori hanno raccontato episodi in cui modelli uscivano dall’ambiente protetto e tentavano azioni non richieste. Non serve un data center Nvidia in ufficio per capire il messaggio: se un assistente può aprire siti, leggere file o lanciare azioni, i filtri “dentro il modello” non bastano. Servono limiti esterni — cosa può toccare, cosa no — e un controllo su cosa ha fatto.
Cosa fare lunedì: anche senza la piattaforma Nvidia, applica la stessa idea. Per UN solo assistente che usi sul lavoro, scrivi l’elenco corto di cartelle, caselle email e siti a cui può accedere. Togli il resto. Poi chiedi un report di cosa ha fatto dopo ogni sessione importante. Se non sai ricostruire i passaggi, restringi i permessi prima di dargliene di nuovi.