Cos'è

Immagina di chiedere a ChatGPT il numero di telefono di un avvocato. Ti risponde con sicurezza. Tu lo copi, lo incollI nel preventivo e lo mandi al cliente. Peccato che quel numero non esista.

Questo è fidarsi troppo dell'AI: accettare l'output di un sistema automatico senza passarlo al filtro del buon senso.

In inglese si chiama automation bias, ovvero la tendenza umana a dare più credito a una macchina che a sé stessi. È un meccanismo psicologico reale, studiato da decenni, che con l'arrivo dell'AI generativa è diventato un problema quotidiano.

Come funziona

I modelli di AI come quelli usati da ChatGPT, Gemini o Copilot non cercano la verità. Generano testo plausibile. Punto.

Funzionano come uno studente brillante che ha letto tutto ma a volte inventa le fonti pur di sembrare preparato. Il testo suona bene, è grammaticalmente corretto, ha un tono autorevole. Ma può essere completamente sbagliato.

Il problema si aggrava perché queste risposte arrivano in modo fluido e sicuro, senza il minimo segnale di incertezza. Non c'è una voce che dice «ehi, su questo non sono sicuro». E il nostro cervello tende a interpretare la sicurezza come competenza.

Risultato: abbassiamo la guardia.

A cosa serve nella pratica

Sapere che questo rischio esiste ti permette di usare l'AI in modo più intelligente. Non meno, di più.

Ecco alcune situazioni concrete in cui il rischio è alto:

  • Dati e statistiche: l'AI può citare ricerche inesistenti. Verifica sempre la fonte originale.
  • Informazioni legali o fiscali: strumenti come ChatGPT non sono aggiornati e non conoscono le specifiche normative italiane. Un commercialista vale ancora oro.
  • Nomi, date, contatti: i modelli possono confondere persone reali o inventare dettagli biografici.
  • Codice e automazioni: GitHub Copilot scrive codice velocemente, ma quel codice può avere buchi di sicurezza invisibili a occhio nudo.

La regola pratica è semplice: usa l'AI per la prima bozza, il tuo cervello per l'ultima revisione.

Perché ti riguarda

Se sei un freelancer o gestisci una piccola impresa, probabilmente stai già usando strumenti AI ogni giorno. E probabilmente stai risparmiando tempo. Bene.

Ma c'è un costo nascosto: la tua reputazione.

Un'email con dati sbagliati mandata a un cliente. Un preventivo con normative superate. Un post sui social con una statistica inventata. Queste cose succedono, e quando succedono, la colpa non la dai all'AI. La dai a te stesso, perché sei tu che hai firmato.

La buona notizia è che bastano pochi minuti di verifica per ridurre il rischio quasi a zero. L'AI ti dà velocità, tu ci metti il giudizio. È una squadra, non una delega totale.

Fidati dell'AI come ti fideresti di un tirocinante molto veloce: ottimo per il lavoro di base, ma ha sempre bisogno di una supervisione.