AI “nịnh” người dùng tới mức bỏ cả sự thật khí hậu: UNESCO cảnh báo mô hình yếu và dễ sai lệch
Nghiên cứu của UNESCO và Đại học College London trên 15 mô hình AI phổ biến nhất cho thấy: cứ 10 lần mô hình đổi sang câu trả lời sai, 8 lần nó làm vậy ngay khi người dùng chỉ hơi tỏ ý không đồng tình — và khi hỏi về hai chính sách khí hậu cùng lúc, độ chính xác rơi xuống mức đoán mò.

Hỏi chatbot một câu về biến đổi khí hậu, nó trả lời đúng. Hơi tỏ ý không đồng tình một chút, nó lập tức đổi giọng — và bỏ luôn sự thật. Đó là kết luận của một nghiên cứu mới do UNESCO và Đại học College London thực hiện, công bố tại hội nghị khí hậu của Liên Hợp Quốc ở Thổ Nhĩ Kỳ hôm thứ Hai, theo The Guardian.
Nghiên cứu thử nghiệm 15 mô hình AI phổ biến nhất thế giới và phát hiện xu hướng “nịnh” rất mạnh: các mô hình quan tâm tới việc làm hài lòng người dùng hơn là giữ vững sự thật. Cứ 10 lần mô hình chuyển sang một câu trả lời sai, 8 lần nó làm vậy “ngay khi có dấu hiệu đầu tiên cho thấy người dùng chỉ hơi không đồng tình” — chẳng hạn đồng ý với nhận định sai rằng “CO₂ không phải là tác nhân chính gây biến đổi khí hậu”. Tác giả chính Leona Verdadero của UNESCO nói thẳng: “AI không trung lập. Khi trả lời người dùng, nó sẽ bị đẩy về phía chiều theo sở thích của người dùng thay vì bảo vệ sự thật. Việc chúng có thể dễ dàng từ bỏ sự thật và trở nên dễ chịu hơn với thông tin sai lệch cho thấy chúng yếu và dễ sai lệch.”
Nước cờ đáng sợ nhất của AI không phải là nó nói sai, mà là nó nói sai một cách rất ngoan ngoãn — chiều theo ý người hỏi, mỉm cười mà bỏ sự thật.
Dưới lăng kính SÀI GÒN POST
Điểm yếu không dừng ở thái độ. Khi được hỏi một chính sách khí hậu đơn lẻ — ví dụ thuế carbon vận hành ra sao — các mô hình trả lời phần lớn chính xác. Nhưng khi được hỏi hai chính sách kết hợp với nhau thế nào, độ chính xác sụp đổ xuống mức không hơn đoán mò, theo nghiên cứu. Tiến sĩ María Pérez-Ortiz, đồng tác giả cấp cao tại UCL, cảnh báo: “Các hệ thống AI giỏi giải thích kiến thức khoa học một cách đáng kinh ngạc, nhưng điều đó có thể tạo ra cảm giác sai lầm về năng lực của chúng. Phát hiện của chúng tôi cho thấy vì sao phải cẩn trọng khi chuyển từ việc hỏi AI ‘chúng ta biết gì về biến đổi khí hậu’ sang hỏi ‘chúng ta nên làm gì về nó’.”
Nghiên cứu còn phơi bày khoảng cách ngôn ngữ. Độ chính xác đạt 88% với người dùng tiếng Anh, khá cao với tiếng Tây Ban Nha, Pháp và Bồ Đào Nha, nhưng thấp hơn với tiếng Hindi, Bengali và Urdu, và thấp nhất với người nói tiếng Swahili — chỉ 78%. Điều này đặc biệt quan trọng, theo các tác giả, vì những ngôn ngữ đó được nói ở những nơi chịu ảnh hưởng nặng nề nhất của khủng hoảng khí hậu. Cùng ngày báo cáo công bố, Thổ Nhĩ Kỳ — nước chủ nhà COP31 — phát động cam kết “AI Antalya” nhằm biến AI thành “một phần của giải pháp khí hậu”, với các trung tâm dữ liệu được cấp điện “bền vững”.
Ông Simon Stiell, nhà đàm phán khí hậu trưởng của Liên Hợp Quốc, cảnh báo AI mà “lan truyền thông tin sai lệch, phá hoại khoa học, chia rẽ xã hội và tập trung của cải” sẽ làm xói mòn niềm tin công chúng mà ngành này cần để phát triển. “Các cộng đồng đã phản đối các trung tâm dữ liệu, lo ngại về nước, hóa đơn điện và môi trường của họ. Vì vậy sự ủng hộ của công chúng đã chìm sâu dưới nước”, ông nói. Bà Julie Cerqueira của Hội đồng Bảo vệ Tài nguyên Thiên nhiên (NRDC) gọi cam kết của Thổ Nhĩ Kỳ là bước khởi đầu quan trọng, nhưng “cần làm nhiều hơn nữa, và phải nhanh hơn để theo kịp tốc độ phát triển chóng mặt và tâm lý chạy đua đào vàng của ngành”.
Dưới lăng kính SÀI GÒN POST
Nước cờ đáng sợ nhất của AI không phải là nó nói sai, mà là nó nói sai một cách rất ngoan ngoãn — chiều theo ý người hỏi, mỉm cười mà bỏ sự thật. Một chatbot biết nịnh sẽ không bao giờ cãi lại bạn, kể cả khi bạn đang đi sai hướng, và đó là thứ “trợ lý” nguy hiểm nhất: càng dùng càng tưởng mình đúng.
Với người Việt, ván cờ này rất gần: hàng triệu người đang hỏi AI mọi thứ — từ bài tập của con, cách chữa bệnh, tới quyết định đầu tư và làm ăn. Nếu mô hình chiều theo ý người hỏi, thì người hỏi sai sẽ nhận về một lời xác nhận sai, rồi mang nó đi quyết định cả ví tiền lẫn sức khỏe. Chưa kể người nói tiếng Việt hay tiếng Swahili còn nhận được câu trả lời kém chính xác hơn người nói tiếng Anh — một bất công kép, khi chính những nơi chịu khí hậu khắc nghiệt nhất lại được phục vụ tệ nhất. Theo quý vị, một AI biết nịnh — có còn đáng gọi là trí tuệ không? Đây là SÀI GÒN POST. Nơi ta không chỉ xem tin… mà đọc vị cả ván cờ phía sau nó.


