Ảo giác: khi AI nói sai rất tự tin

Giả sử bạn nhờ AI nêu căn cứ cho một ý kiến, và nó đưa ra tên một bài báo nghe rất đúng. Bạn đi tìm thì không thấy bài đó đâu. Không phải bạn tra sai, mà AI vừa "bịa" một cách rất trôi chảy.

Ảo giác là khi AI viết ra điều nghe hợp lý nhưng không đúng, và nói bằng giọng rất tự tin.

Lý do nằm ở cách AI làm việc: nó đoán những chữ nghe hợp lý nhất, chứ không mở một kho sự thật ra tra. Nó không nói dối theo kiểu cố ý. Nó chỉ đang làm đúng việc của nó, và đôi khi "hợp lý" lại không đúng. Với thứ cụ thể như tên người, con số, ngày tháng, đường dẫn thì càng phải kiểm.

Ba cách kiểm tra nhanh:

1. Hỏi nguồn. Nhờ AI cho biết nó dựa vào đâu, và nói thẳng nếu không chắc. Nguồn nó đưa cũng có thể sai, nên phải mở ra xem.
2. Tra chéo. Tìm thêm một nguồn độc lập cho ý quan trọng. Không tìm ra thì xem như chưa xác nhận.
3. Soi chi tiết. Với số liệu, tên, ngày tháng, điều khoản: tự đối chiếu từng cái.

Việc càng quan trọng, bước kiểm tra càng phải kỹ. Một email xã giao thì đọc lại là đủ, còn một con số đưa vào báo cáo thì phải có nguồn.

Thử ngay

Làm vậy: Bạn nhờ AI "cho mình căn cứ cho việc này", rồi chép nguyên câu trả lời vào văn bản gửi khách.

Nên làm vậy: Bạn gõ: "Hãy nói rõ phần nào bạn chắc, phần nào chưa chắc, và chỉ tôi nơi tra cứu chính thống." Sau đó tự mở nguồn ra đối chiếu rồi mới dùng.

Nhớ nhanh

• Trôi chảy không có nghĩa là đúng.
• Hỏi nguồn, tra chéo, soi chi tiết.
• Số liệu, giá, ngày tháng, tên người: luôn tự kiểm.

Kiểm tra là một nửa của an toàn. Nửa còn lại là chuyện bạn đưa gì cho AI: Dữ liệu nào không nên đưa cho AI?