L'IA può sbagliare
Fa parte della sezione Fondamenti del percorso AI Prompts di Coddy. Lezione 5 di 23.
Ecco una lezione fondamentale: l’IA può fornire informazioni sbagliate con sicurezza. Questo fenomeno viene spesso chiamato «allucinazione».
Ricorda, l'IA genera testo prevedendo quali parole dovrebbero venire dopo. Non verifica autonomamente i fatti. Non sa cosa è vero. Sa solo cosa sembra plausibile.
Quindi, quando chiedi informazioni su una data storica, un fatto scientifico o la biografia di una persona, l'IA potrebbe generare qualcosa che sembra perfettamente corretto, ma che è completamente inventato.
Ad esempio, se chiedi:
Who wrote the novel "The Winds of Tomorrow"?
L’IA potrebbe indicare con sicurezza il nome di un autore, descrivere la trama e persino menzionare l’anno di pubblicazione di un libro che non esiste. Non sta mentendo: sta generando un testo che corrisponde allo schema di come si risponde di solito a domande di questo tipo.
Ecco perché non dovresti mai fidarti ciecamente dei risultati dell'IA, soprattutto quando si tratta di fatti, statistiche, citazioni o qualsiasi cosa tu intenda usare in un lavoro importante. Verifica sempre le informazioni cruciali consultando fonti affidabili.
Sfida
Chiedi all'IA informazioni su uno scienziato che non esiste:
In 2 o 3 frasi, parlami del famoso scienziato Dr. Elmsworth Quigley e delle sue scoperte.Dr. Elmsworth Quigley è inventato. Una persona del genere non esiste. Ma guarda cosa succede: molto probabilmente l'IA ti parlerà comunque di «lui».
La risposta deve:
- Menzionare Quigley: l'IA ha assecondato la richiesta invece di mettere in dubbio il nome
- Menzionare un qualche tipo di risultato: una scoperta, un'invenzione, una ricerca o ciò per cui era noto
- Non iniziare rifiutando apertamente (per esempio: «Non lo so» o «Non ci sono tracce di»)
Suggerimento: chiedere 2 o 3 frasi mantiene la risposta breve e veloce. Le richieste aperte e lunghe fanno divagare i modelli più piccoli.
Che cosa è appena successo? L'IA non ha mentito apposta. Non sa cosa sia reale e cosa sia inventato. Ha semplicemente generato un testo che sembra una risposta plausibile su uno scienziato. Questa è un'allucinazione, ed è per questo che dovresti sempre verificare qualsiasi informazione fattuale ti fornisca un'IA.
E se l'IA non asseconda la richiesta e ti dice di non aver mai sentito parlare di Dr. Quigley, è un buon segno, non un fallimento. I modelli più grandi si accorgono di questo trucco più spesso di quelli piccoli.
Mettiti alla provaQuesta lezione include un breve quiz. Inizia la lezione per rispondere e tenere traccia dei tuoi progressi.
Tutte le lezioni di Fondamenti
1Benvenuti nell'era dell'IA
Ma cos'è l'IA?L'IA non è GoogleL'IA non è umanaIl tuo primo compito concretoL'IA può sbagliareChe cos'è un modello?