AI không có gương mặt, không có chức danh và cũng không cần ngồi trong một văn phòng để tạo cảm giác đáng tin. Chỉ cần một câu trả lời rõ ràng, mạch lạc và tự tin, máy đã có thể khiến con người tạm quên rằng phía sau màn hình là một hệ thống có thể mắc sai lầm.
Hãy tưởng tượng hai câu trả lời cho cùng một câu hỏi.
Câu đầu tiên viết rất ngắn, có nhiều dấu hiệu không chắc chắn và liên tục nói rằng cần kiểm tra thêm.
Câu thứ hai giải thích rõ ràng, chia thành từng mục, dùng ngôn ngữ tự tin và đưa ra kết luận dứt khoát.
Nhiều người sẽ có xu hướng tin câu thứ hai hơn.
Vấn đề là câu trả lời thứ hai chưa chắc đúng hơn.
Đây chính là nghịch lý của AI tạo sinh: khả năng giao tiếp tự nhiên có thể khiến con người đánh giá cao độ tin cậy của một hệ thống vượt quá mức mà bằng chứng thực tế cho phép.
Một câu trả lời trôi chảy dễ tạo cảm giác “biết rất nhiều”
Con người thường sử dụng cách giao tiếp để suy đoán năng lực của người khác.
Một người nói chuyện rõ ràng, phản hồi nhanh và giải thích mạch lạc thường được đánh giá là có kiến thức.
AI được thiết kế để tạo ra ngôn ngữ tự nhiên.
Vì vậy, nó vô tình sở hữu một đặc điểm rất dễ tạo niềm tin: khả năng nói chuyện giống con người.
Một hệ thống có thể trả lời hàng chục câu hỏi liên tục mà không tỏ ra mệt mỏi.
Nó có thể trình bày thông tin theo từng bước.
Nó có thể sử dụng những từ ngữ rất chắc chắn.
Tất cả những yếu tố đó tạo ra một cảm giác về năng lực.
Nhưng năng lực ngôn ngữ và độ chính xác của thông tin là hai chuyện khác nhau.
AI có thể viết một câu trả lời rất thuyết phục ngay cả khi nội dung bên trong có lỗi.
Con người thường nhầm sự tự tin với độ chính xác
Đây không phải vấn đề chỉ xuất hiện với AI.
Trong đời sống, con người cũng dễ bị ảnh hưởng bởi cách một thông tin được trình bày.
Một người nói chắc chắn thường tạo cảm giác đáng tin hơn một người liên tục do dự.
Một biểu đồ đẹp có thể khiến một lập luận trông thuyết phục hơn.
Một bài viết được trình bày chuyên nghiệp có thể khiến người đọc ít đặt câu hỏi hơn.
AI chỉ đẩy hiện tượng này lên một cấp độ mới.
Nó có thể tạo ra văn bản có vẻ chuyên nghiệp gần như ngay lập tức.
Vì vậy, người dùng cần học cách tách hai câu hỏi:
“Câu trả lời này nghe có hợp lý không?”
và
“Có bằng chứng nào cho thấy câu trả lời này đúng không?”
Hai câu hỏi đó không giống nhau.
AI càng giống một “trợ lý”, con người càng dễ quên nó là máy
Cách gọi cũng có ảnh hưởng.
Khi người dùng gọi AI là “trợ lý”, “gia sư”, “cố vấn” hay thậm chí trò chuyện với hệ thống bằng những đại từ dành cho con người, khoảng cách tâm lý giữa người và máy có thể giảm xuống.
Điều này giúp trải nghiệm dễ sử dụng hơn.
Nhưng nó cũng có mặt trái.
Người dùng có thể bắt đầu gán cho AI những phẩm chất mà hệ thống không thực sự sở hữu.
Ví dụ, họ có thể nghĩ rằng AI “biết mình”, “hiểu hoàn cảnh của mình” hoặc “đã kiểm tra thông tin” chỉ vì câu trả lời được cá nhân hóa và trình bày tự nhiên.
Trong khi đó, AI không có trách nhiệm cá nhân theo cách một chuyên gia hay cố vấn con người có.
Những lĩnh vực càng quan trọng, sự cảnh giác càng cần thiết
Một lỗi trong việc hỏi AI về cách viết email có thể chỉ gây bất tiện.
Một lỗi trong thông tin học thuật có thể dẫn đến bài làm sai.
Một lỗi trong lĩnh vực tài chính, pháp lý hoặc sức khỏe có thể gây hậu quả nghiêm trọng hơn.
Vì vậy, mức độ kiểm chứng cần phụ thuộc vào mức độ rủi ro.
Không phải câu trả lời nào cũng cần kiểm tra năm nguồn khác nhau.
Nhưng những quyết định quan trọng không nên dựa hoàn toàn vào một câu trả lời chỉ vì nó nghe hợp lý.
AI nên được xem như một công cụ hỗ trợ xử lý thông tin, không phải một con dấu xác nhận sự thật.
Cách sử dụng AI mà không “trao quyền phán quyết”
Một trong những cách đơn giản nhất là yêu cầu hệ thống chỉ rõ nguồn hoặc đưa ra những điểm chưa chắc chắn.
Người dùng cũng có thể hỏi ngược:
“Có giả định nào trong câu trả lời này không?”
“Điểm nào cần kiểm chứng?”
“Có cách giải thích nào khác không?”
Những câu hỏi như vậy biến AI từ một “người trả lời cuối cùng” thành một đối tác để kiểm tra suy nghĩ.
Quan trọng hơn, người dùng nên giữ quyền quyết định cuối cùng đối với những vấn đề quan trọng.
AI có thể giúp chúng ta suy nghĩ nhanh hơn.
Nhưng nhanh hơn không đồng nghĩa với đúng hơn.
Niềm tin vào AI cuối cùng vẫn là vấn đề của con người
AI không cần được tin tuyệt đối để trở nên hữu ích.
Một công cụ tốt không nhất thiết phải luôn đúng.
Điều quan trọng là người dùng biết nó mạnh ở đâu, yếu ở đâu và khi nào cần kiểm chứng.
Thách thức lớn nhất có thể không phải là làm cho AI đáng tin hơn đến mức hoàn hảo.
Mà là làm cho con người biết tin AI đến mức nào.
Trong một thế giới mà máy móc ngày càng nói chuyện tự nhiên, kỹ năng quan trọng không còn chỉ là đặt câu hỏi hay.
Đó còn là khả năng nhận ra khi nào một câu trả lời quá trơn tru để có thể được tin ngay.
