Hệ thống trí tuệ nhân tạo ngày càng được triển khai trong các vai trò an ninh, hứa hẹn nâng cao an toàn công cộng thông qua việc phát hiện mối đe dọa tự động. Tuy nhiên, một sự cố gần đây tại một trường trung học ở Maryland làm nổi bật những cạm bẫy tiềm ẩn khi AI hiểu nhầm các vật dụng hàng ngày thành vũ khí nguy hiểm, làm dấy lên những câu hỏi quan trọng về độ tin cậy của các hệ thống này trong các tình huống thực tế.
Sự Cố Làm Rung Chuyển Cộng Đồng Trường Học
Vào tối ngày 20 tháng 10 năm 2025, một buổi tụ tập thông thường sau giờ học đã biến thành một trải nghiệm đau thương cho học sinh tại Trường Trung học Kenwood ở Baltimore County. Nhiều xe cảnh sát, theo một số báo cáo cuối cùng lên tới tám chiếc, đã ập xuống khuôn viên trường để đối phó với một cảnh báo từ hệ thống phát hiện súng AI Omnilert. Hệ thống này đã đánh dấu thứ mà nó tin là một khẩu súng, thúc đẩy phản ứng ngay lập tức của lực lượng thực thi pháp luật. Đoạn phim từ camera đeo người sau này đã ghi lại những khoảnh khắc căng thẳng khi các sĩ quan, hành động dựa trên đánh giá của AI, tiếp cận học sinh với vũ khí rút ra.
Dòng thời gian sự kiện chính:
- 20 tháng 10 năm 2025, 7:23 tối: Hệ thống Omnilert cảnh báo chính quyền nhà trường về khả năng có súng
- Trong vài phút: Tám xe cảnh sát ứng phó đến trường trung học Kenwood High School
- 7:26 tối: Cảnh sát xác định vật thể thực tế - một túi snack Doritos
- Sau sự kiện: Các quan chức Baltimore County kêu gọi rà soát lại hệ thống
Cái Giá Con Người Phải Trả Cho Sai Số Thuật Toán
Trọng tâm của phản ứng cảnh sát là học sinh Taki Allen, người đang chờ xe đón sau buổi tập bóng bầu dục. Các sĩ quan ra lệnh cho Allen nằm xuống đất và còng tay anh trước khi tiến hành khám xét kỹ lưỡng. Tình huống chỉ được giải quyết khi cảnh sát xác định được vật thể thực tế đã kích hoạt báo động: một túi khoai tây chiên Doritos màu xanh mà Allen đang ăn. Khi cố gắng giải thích tình huống với các học sinh đang bối rối, một sĩ quan nhận xét, Tôi đoán là do cách các em ăn bánh snack… Doritos hay gì đó, nó đã nhận diện thành súng. Một sĩ quan khác sau đó đã nói với một học sinh, AI không phải là thứ tốt nhất, thừa nhận sự thất bại của hệ thống trong trường hợp này.
Những Phát Ngôn Đáng Chú Ý Từ Các Bên Liên Quan:
- Cảnh Sát: "AI không phải là tốt nhất"
- Học Sinh Taki Allen: "Tôi không nghĩ mình đủ an toàn để ra ngoài, đặc biệt là khi ăn một túi snack"
- Ủy Viên Hội Đồng Julian Jones: "Làm thế nào mà chúng ta lại có cảnh sát rút súng tiếp cận một đứa trẻ chỉ vì một túi Doritos?"
- Hiệu Trưởng Tiến Sĩ Myriam Rogers: "Chương trình đã hoạt động đúng như dự định"
 |
|---|
| Công nghệ phát hiện súng bằng AI của Omnilert, làm nổi bật vai trò của nó trong việc có thể nhận diện nhầm các vật thể vô hại thành mối đe dọa |
Hệ Thống Omnilert Được Cho Là Hoạt Động Như Thế Nào
Công nghệ phát hiện súng AI của Omnilert được thiết kế để tích hợp với các hệ thống camera an ninh hiện có, phân tích luồng video theo thời gian thực để xác định các loại súng tiềm năng. Theo tài liệu được công bố của công ty, quy trình bao gồm ba giai đoạn riêng biệt: phát hiện AI ban đầu, xác minh của con người, và cuối cùng là thông báo tự động và phản ứng khẩn cấp nếu mối đe dọa được xác nhận. Hệ thống tự tiếp thị mình như một giải pháp tiềm năng cho các thảm kịch xả súng học đường, đặc biệt nhắc đến các sự cố như Uvalde, Sandy Hook, và Parkland trong tài liệu quảng bá của mình như những ví dụ về điều mà công nghệ của họ có thể ngăn chặn.
Quy trình hoạt động của Hệ thống Phát hiện Súng bằng AI Omnilert:
- Bước 1: AI phân tích các luồng camera an ninh trực tiếp để phát hiện các khẩu súng tiềm ẩn
- Bước 2: Các phát hiện dương tính được chuyển đến để con người xác minh
- Bước 3: Sau khi xác minh, các thông báo tự động kích hoạt các quy trình ứng phó khẩn cấp
Hậu Quả Và Phản Ứng Của Tổ Chức
Sau sự cố, giám đốc các Trường Công lập Baltimore County, Tiến sĩ Myriam Rogers, đã bảo vệ hoạt động của hệ thống, tuyên bố, Chương trình đã làm điều nó phải làm, đó là báo hiệu một cảnh báo và để con người xem xét để tìm hiểu xem liệu có nguyên nhân đáng lo ngại vào lúc đó hay không. Trong khi đó, Omnilert đã ra một tuyên bố lưu ý rằng trong vòng vài phút, sự kiện đã được đánh dấu là đã giải quyết trong hệ thống của chúng tôi và rằng hệ thống hoạt động như được thiết kế — phát hiện mối đe dọa có thể xảy ra, chuyển hướng nó cho con người xem xét và đảm bảo việc ra quyết định nhanh chóng, có đầy đủ thông tin. Cả trường học và Omnilert đều đã đề nghị cung cấp dịch vụ tư vấn tâm lý cho các học sinh liên quan.
Mối Quan Ngại Ngày Càng Tăng Và Lời Kêu Gọi Rà Soát
Sự cố này đã thúc đẩy các Ủy viên Hội đồng Baltimore County Iazzy Patoka và Julian Jones kêu gọi rà soát lại hệ thống Omnilert. Jones bày tỏ sự nhẹ nhõm vì tình huống không nghiêm trọng hơn trong khi chất vấn chuỗi sự kiện: Làm thế nào mà chuyện lại diễn ra theo cách chúng ta có những sĩ quan cảnh sát rút súng tiếp cận một đứa trẻ chỉ vì một túi Doritos? Đối với Taki Allen, tác động tâm lý là rất đáng kể. Anh nói với các phóng viên, Giờ đây, đôi khi tôi cảm thấy sau buổi tập tôi không ra ngoài nữa. Bởi vì nếu tôi ra ngoài, tôi không muốn - không nghĩ rằng mình đủ an toàn để ra ngoài, đặc biệt là khi ăn một túi khoai tây chiên hay uống thứ gì đó. Tôi chỉ ở trong nhà cho đến khi xe tôi tới đón.
Hàm Ý Rộng Lớn Hơn Cho Các Hệ Thống An Ninh AI
Sự cố này xảy ra vào thời điểm các hệ thống an ninh AI đang ngày càng phổ biến tại nhiều không gian công cộng khác nhau, bao gồm trường học, sân bay và các tòa nhà chính phủ. Việc nhận diện nhầm Doritos làm dấy lên những câu hỏi cơ bản về sự trưởng thành của các thuật toán thị giác máy tính trong việc phân biệt giữa các vật thể vô hại và các mối đe dọa thực sự. Nó cũng làm nổi bật tầm quan trọng then chốt của bước xác minh con người trong các hệ thống như vậy và điều gì xảy ra khi quy trình đó có khả năng thất bại hoặc bị bỏ qua. Khi các cơ sở giáo dục và các tổ chức khác ngày càng chuyển hướng sang AI để tìm giải pháp an ninh, sự kiện này đóng vai trò như một câu chuyện cảnh tỉnh về việc cân bằng giữa đổi mới công nghệ với độ tin cậy thực tế và thấu hiểu những hậu quả trong thế giới thực của các lỗi thuật toán.