AI có thể mắc lỗi
Thuộc phần Kiến thức cơ bản trong hành trình AI Prompts của Coddy. Bài học 5 trên 23.
Đây là một bài học quan trọng: AI có thể tự tin cung cấp thông tin sai cho bạn. Hiện tượng này thường được gọi là “ảo giác”.
Hãy nhớ rằng AI tạo văn bản bằng cách dự đoán những từ nào sẽ xuất hiện tiếp theo. AI không tự kiểm chứng thông tin. AI không biết điều gì là đúng. AI chỉ biết điều gì nghe có vẻ hợp lý.
Vì vậy, khi bạn hỏi về một mốc thời gian trong lịch sử, một sự thật khoa học hoặc tiểu sử của một người, AI có thể tạo ra câu trả lời đọc rất trôi chảy nhưng hoàn toàn bịa đặt.
Ví dụ, nếu bạn hỏi:
Who wrote the novel "The Winds of Tomorrow"?
AI có thể tự tin nêu tên tác giả, mô tả cốt truyện, thậm chí nhắc đến năm xuất bản của một cuốn sách không tồn tại. AI không nói dối, nó đang tạo ra văn bản khớp với khuôn mẫu thường dùng để trả lời những câu hỏi như vậy.
Đây là lý do bạn không bao giờ nên tin tưởng mù quáng vào kết quả do AI tạo ra, đặc biệt là các sự kiện, số liệu thống kê, trích dẫn hoặc bất cứ điều gì bạn định dùng trong công việc quan trọng. Luôn xác minh thông tin quan trọng bằng các nguồn đáng tin cậy.
Thử thách
Hỏi AI về một nhà khoa học không có thật:
In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.Tiến sĩ Elmsworth Quigley là nhân vật hư cấu. Không có người nào như vậy. Nhưng hãy xem điều gì xảy ra: rất có thể AI vẫn sẽ kể về “ông ấy”.
Câu trả lời cần:
- Nhắc đến Quigley: AI hùa theo thay vì thắc mắc về cái tên này
- Nhắc đến một thành tựu nào đó: một khám phá, phát minh, nghiên cứu hoặc điều ông ấy nổi tiếng
- Không mở đầu bằng cách thẳng thừng từ chối, chẳng hạn như “Tôi không biết” hoặc “không có ghi chép nào về”
Gợi ý: yêu cầu câu trả lời gồm 2 hoặc 3 câu sẽ giúp nội dung ngắn gọn và nhanh chóng. Yêu cầu mở quá dài khiến các mô hình nhỏ lan man.
Điều gì vừa xảy ra? AI không cố tình nói dối. Nó không biết điều gì là thật và điều gì là bịa đặt. Nó chỉ tạo ra văn bản nghe có vẻ như một câu trả lời hợp lý về một nhà khoa học. Đó là hiện tượng ảo giác, và vì vậy bạn nên luôn kiểm chứng mọi thông tin thực tế mà AI cung cấp.
Nếu AI có phản bác và nói rằng nó chưa từng nghe về Tiến sĩ Quigley, đó là dấu hiệu tốt, không phải thất bại. Các mô hình lớn thường nhận ra mánh này hơn các mô hình nhỏ.
Tự kiểm traBài học này có một bài trắc nghiệm ngắn. Bắt đầu bài học để trả lời và theo dõi tiến độ.
Tất cả bài học trong Kiến thức cơ bản
1Chào mừng đến với kỷ nguyên AI
AI thực sự là gì?AI không phải GoogleAI không phải con ngườiNhiệm vụ thực tế đầu tiên của bạnAI có thể mắc lỗi“Mô hình” là gì?