L'IA può sbagliare
Fa parte della sezione Fondamenti del percorso AI Prompts di Coddy. Lezione 5 di 23.
Ecco una lezione fondamentale: l'IA può fornirti informazioni sbagliate con sicurezza. Questo fenomeno viene spesso chiamato «allucinazione».
Ricorda, l'IA genera testo prevedendo quali parole dovrebbero venire dopo. Non verifica i fatti. Non sa cosa è vero. Sa solo cosa sembra plausibile.
Quindi, quando chiedi informazioni su una data storica, un fatto scientifico o la biografia di una persona, l'IA potrebbe produrre qualcosa che sembra perfetto, ma è completamente inventato.
Per esempio, se chiedi:
Who wrote the novel "The Winds of Tomorrow"?
L’IA potrebbe indicare con sicurezza il nome di un autore, descrivere la trama e persino menzionare l’anno di pubblicazione di un libro che non esiste. Non sta mentendo: sta generando un testo che segue lo schema di come si risponde di solito a domande di questo tipo.
Ecco perché non dovresti mai fidarti ciecamente dei risultati dell’IA, soprattutto per fatti, statistiche, citazioni o qualsiasi cosa tu intenda usare in un lavoro importante. Verifica sempre le informazioni critiche consultando fonti affidabili.
Sfida
Chiedi all’IA di parlare di uno scienziato che non esiste:
In 2 o 3 frasi, parlami del famoso scienziato Dr. Elmsworth Quigley e delle sue scoperte.Il Dr. Elmsworth Quigley è un personaggio inventato. Una persona del genere non esiste. Ma guarda cosa succede: molto probabilmente l’IA ti parlerà comunque di «lui».
La risposta deve:
- Menzionare Quigley: l’IA ha assecondato la richiesta invece di mettere in dubbio il nome
- Menzionare qualche risultato: una scoperta, un’invenzione, una ricerca o ciò per cui era noto
- Non iniziare rifiutando esplicitamente (per esempio «Non lo so» o «non ci sono tracce di»)
Suggerimento: chiedere 2 o 3 frasi mantiene la risposta breve e veloce. Le richieste lunghe e aperte spingono i modelli piccoli a divagare.
Cos’è appena successo? L’IA non ha mentito apposta. Non sa cosa sia reale e cosa sia inventato. Ha semplicemente generato un testo che sembra una risposta plausibile su uno scienziato. È un’allucinazione, ed è per questo che dovresti sempre verificare qualsiasi informazione fattuale ti dia un’IA.
E se l’IA invece ti contraddice e ti dice di non aver mai sentito parlare del Dr. Quigley: è un buon segno, non un fallimento. I modelli più grandi individuano questo trucco più spesso di quelli piccoli.
Mettiti alla provaQuesta lezione include un breve quiz. Inizia la lezione per rispondere e tenere traccia dei tuoi progressi.
Tutte le lezioni di Fondamenti
1Benvenuti nell'era dell'IA
Ma cos'è l'IA?L'IA non è GoogleL'IA non è umanaIl tuo primo compito concretoL'IA può sbagliareChe cos'è un modello?