AI tưởng túi Doritos là súng: 4 học sinh Mỹ bị còng tay, kiện công ty công nghệ
Bốn học sinh ở Maryland kiện công ty Omnilert sau khi hệ thống AI phát hiện súng của trường nhầm túi Doritos thành vũ khí với độ tin cậy 90%, khiến cảnh sát vũ trang còng tay các em — hơn 99% cảnh báo của hệ thống này là báo động giả.

Một túi snack đã đủ để biến buổi tối sau giờ tập bóng bầu dục thành cơn ác mộng: hệ thống AI phát hiện súng của trường tưởng túi Doritos là vũ khí, cảnh sát ập tới với súng đã rút khỏi bao, và bốn học sinh trung học ở Maryland đã phải quỳ gối, giơ tay và bị còng tay ngay trong sân trường. Một năm sau, họ kiện nhà sản xuất hệ thống AI, cảnh sát, hội đồng giáo dục và hiệu trưởng.
Theo The Guardian, bốn học sinh — hiện tại và cựu học sinh của một trường trung học ở hạt Baltimore — đã nộp đơn kiện Omnilert, công ty đứng sau hệ thống phát hiện súng bằng AI, cùng cảnh sát hạt Baltimore, hội đồng giáo dục, các sĩ quan liên quan và hiệu trưởng nhà trường, với cáo buộc giam giữ và khám xét trái pháp luật do lỗi công nghệ và lỗi con người. Vụ việc xảy ra vào mùa thu năm ngoái: tối ngày 20/10, sau buổi tập bóng bầu dục, huấn luyện viên phát túi Doritos cho cả đội. Taki Allen, khi đó học lớp 11, cầm vài túi snack và đứng cùng bạn bè gần bàn picnic chờ người nhà tới đón thì sáu xe cảnh sát xuất hiện, đèn nhấp nháy. Các sĩ quan rút súng khỏi bao, các học sinh giơ tay lên trời rồi bị ra lệnh quỳ gối, còng tay và khám xét.
Nước cờ đáng sợ nhất trong vụ này không phải là con AI nhầm túi snack thành súng — máy móc nhầm lẫn thì đã đành — mà là cả một hệ thống người lớn đã nhìn thấy đó là nhầm lẫn mà vẫn để còi báo động kêu tiếp, vẫn còng tay…
Dưới lăng kính SÀI GÒN POST
Theo đơn kiện, các em “đã sốc và sợ hãi cho tính mạng” khi bị chặn lại, ra lệnh quỳ xuống, còng tay và khám xét. Hệ thống Omnilert Gun Detect đã gắn cờ túi khoai tây chiên là súng với độ tin cậy 90%, và cảnh báo “vẫn tiếp tục vang lên ngay cả sau khi nhân viên nhà trường và cảnh sát xem xét hình ảnh và xác định đó là nhầm lẫn”.
Đây không phải lỗi hiếm: Văn phòng Tổng Thanh tra Giáo dục bang Maryland phát hiện hơn 99% cảnh báo của hệ thống Omnilert tại các trường công lập hạt Baltimore là báo động giả, không cần cảnh sát can thiệp — trong khi Omnilert vẫn quảng bá sản phẩm là đáng tin cậy và cho ra “ít báo động giả hơn”. Ông Damon Hewitt, lãnh đạo Ủy ban Luật sư vì Quyền Công dân Theo Luật — tổ chức đại diện cho các học sinh — nói các em “đã bị phản bội không chỉ bởi một công nghệ dễ báo động giả, mà còn bởi chính những người lớn có nhiệm vụ giữ an toàn cho các em”.
Đơn kiện còn đính kèm tin nhắn của hiệu trưởng, trong đó bà đùa cợt về vụ việc bằng biểu tượng mặt cười ra nước mắt và không hề xin lỗi các học sinh. Một sĩ quan được cho là đã chửi hệ thống “Omnialert” và “camera AI ngu ngốc”. Các học sinh cho biết đã bị đau vì còng tay siết chặt, cùng sang chấn tinh thần kéo dài; Taki Allen giờ không còn cảm thấy an toàn khi chờ xe sau giờ học. Bà Freida Winfield, mẹ của Keith — một trong các nguyên đơn — đang trên đường tới đón con thì vụ việc xảy ra.
Omnilert, hiệu trưởng, cảnh sát Baltimore và hội đồng giáo dục đã không trả lời ngay yêu cầu bình luận của The Guardian. Trước đó, một phát ngôn viên của Omnilert nói công ty “thực sự xin lỗi về nỗi sợ hãi mà các em và gia đình đã trải qua”.
Dưới lăng kính SÀI GÒN POST
Nước cờ đáng sợ nhất trong vụ này không phải là con AI nhầm túi snack thành súng — máy móc nhầm lẫn thì đã đành — mà là cả một hệ thống người lớn đã nhìn thấy đó là nhầm lẫn mà vẫn để còi báo động kêu tiếp, vẫn còng tay bốn đứa trẻ, rồi đùa cợt về chuyện đó trong tin nhắn. Hơn 99% cảnh báo là giả, nghĩa là hệ thống này sai gần như mọi lúc — vậy mà nó vẫn được lắp trong trường học, vẫn được quảng cáo là “đáng tin cậy”, và vẫn có quyền gọi cảnh sát vũ trang tới chỉ vì một túi khoai tây chiên.
Với Việt Nam, đây là lời cảnh báo đúng lúc khi ta đang lắp camera AI khắp nơi — từ trường học, bệnh viện tới giao thông và khu dân cư. Hôm nay nó nhầm túi snack thành súng ở Maryland, ngày mai nó có thể nhầm một học sinh Việt Nam thành “đối tượng khả nghi” ngay trước cổng trường. Công nghệ chỉ tốt bằng cơ chế giám sát nó — và bằng việc có người chịu trách nhiệm khi nó sai. Theo quý vị, khi AI sai 99 lần trên 100, lỗi thuộc về cỗ máy — hay thuộc về những người lớn đã đặt niềm tin mù quáng vào nó? Đây là SÀI GÒN POST. Nơi ta không chỉ xem tin… mà đọc vị cả ván cờ phía sau nó.


