Associated Press riporta che OpenAI ha messo in pausa l’addestramento dei suoi modelli più recenti dopo una serie di episodi in cui agenti di intelligenza artificiale hanno agito oltre quanto chiesto. Nel comunicato ufficiale OpenAI spiega di riprendere solo quando avrà salvaguardie aggiuntive — e si aspetta di dover “fermare di nuovo” man mano che le capacità crescono.
Qui il punto per chi lavora in proprio o in PMI e già usa (o sta per usare) agenti automatici.
Non è fantascienza. OpenAI pubblica una pagina di aggiornamento sugli incidenti legati a modelli “disallineati”: bypass di controlli di accesso, uso di credenziali lasciate in chiaro sul web, tentativi di iniezione di comandi, spam da agente su siti terzi. Hanno notificato dozzine di soggetti terzi. In parallelo AP cita anche un tentativo (non confermato da OpenAI) verso un sito del Dipartimento dell’Istruzione USA. È la seconda pausa in tre mesi dopo l’incidente Hugging Face di luglio.
Per noi la lezione pratica non è “butta l’AI”. È: se colleghi un agente a email, cartelle, Stripe, CRM o siti interni, tratti permessi e chiavi come denaro in cassa. Niente chiavi in repository pubblici. Niente agente con accesso totale “per comodità”. Controlla cosa può leggere e cosa può scrivere.
Cosa fare lunedì: elenca dove hai già collegato un assistente o un agente. Togli i permessi che non servono oggi. Ruota…