Một hệ thống máy tính bị lỗi đã gây ra một trong những vụ xử oan lớn nhất trong lịch sử nước Anh. Phần mềm Horizon , được phát triển bởi công ty Nhật Bản Fujitsu , đã hiển thị sai thông tin về tình trạng thiếu hụt tài khoản tại các chi nhánh Bưu điện trong hơn 15 năm. Điều này dẫn đến việc gần 1.000 nhân viên bưu điện bị truy tố vì những tội danh mà họ không hề phạm phải, với ít nhất 13 người đã tự kết liễu đời mình do hậu quả này.
Thời gian và quy mô:
- Giai đoạn: 1999-2015 (16 năm)
- Tổng số vụ truy tố: Gần 1.000 người
- Số vụ tự tử được xác nhận: 13 người
- Số người có ý định tự tử: 59 người khác
- Phần mềm: Hệ thống Horizon của Fujitsu (triển khai cách đây 25 năm)
Những Lo Ngại Về Triển Khai AI Gây Tranh Luận Trong Cộng Đồng Công Nghệ
Vụ bê bối này đã làm dấy lên những lo ngại nghiêm trọng về việc triển khai các hệ thống tự động trong các lĩnh vực quan trọng mà không có sự giám sát phù hợp. Các chuyên gia công nghệ đặc biệt lo lắng về việc vội vàng triển khai AI trong các hệ thống chính phủ và tư pháp. Nỗi lo sợ là các hệ thống AI có thể sản xuất hàng loạt những cáo buộc gian lận hoặc tội phạm khác một cách sai lệch, dẫn đến các vụ truy tố oan ở quy mô còn lớn hơn.
Đây chính là điều tôi lo lắng với AI trong chính phủ. Những hệ thống đó có thể tạo ra hàng loạt ảo giác về gian lận hoặc một số tội danh có thể bị trừng phạt khác, và sau đó hệ thống tư pháp sẽ làm những gì nó thường làm bằng cách đe dọa với những bản án vô lý để buộc các bị cáo phải nhận tội.
Xu hướng của hệ thống tư pháp trong việc gây áp lực lên các bị cáo để họ nhận tội khiến vấn đề này trở nên tồi tệ hơn. Khi đối mặt với những đe dọa về các bản án nghiêm khắc, những người vô tội thường chọn nhận tội thay vì đấu tranh chống lại các cáo buộc tại tòa án, ngay cả khi bằng chứng chống lại họ có sai sót.
Những Thất Bại Có Hệ Thống Trong Trách Nhiệm Giải Trình Của Doanh Nghiệp
Quy mô của thảm họa này đặt ra câu hỏi về cách các tổ chức xử lý các vấn đề nội bộ. Gần 1.000 vụ kết án oan đã xảy ra trong 16 năm mà không kích hoạt được cuộc điều tra phù hợp. Nhiều người trong Bưu điện và Fujitsu có thể đã biết có điều gì đó không ổn nhưng lại không lên tiếng.
Văn hóa doanh nghiệp thường không khuyến khích việc tố giác nội bộ, ngay cả khi điều đó có thể ngăn chặn những tổn hại nghiêm trọng. Nhân viên lo lắng về việc sự nghiệp bị ảnh hưởng hoặc bị trả thù khi báo cáo các vấn đề. Điều này tạo ra môi trường mà các vấn đề đã biết bị che giấu thay vì được giải quyết.
Tác động đến nạn nhân:
- Các cáo buộc hình sự: Trộm cắp, gian lận, kế toán gian dối
- Hậu quả: Án tù, phá sản, mất nhà cửa
- Ảnh hưởng sức khỏe: Các vấn đề sức khỏe tâm thần, tan vỡ các mối quan hệ
- Tác động xã hội: Bị cộng đồng tẩy chay
- Tình trạng hiện tại: Chính phủ đã đưa ra luật pháp để đảo ngược các bản án và bồi thường
Trách Nhiệm Chung Cho Những Thất Bại Của Hệ Thống Tư Pháp
Trách nhiệm không chỉ thuộc về Bưu điện và Fujitsu . Bản thân hệ thống pháp lý cũng đã thất bại trong việc kiểm tra đúng đắn các bằng chứng hoặc đặt câu hỏi về độ tin cậy của hệ thống Horizon . Các thẩm phán và luật sư đã xử lý hàng trăm vụ án mà không nhận ra mô hình các vấn đề.
Một số nhà quan sát lưu ý rằng báo chí Anh đã miễn cưỡng trong việc chỉ trích vai trò của hệ thống tư pháp trong vụ bê bối này. Trong khi các giám đốc điều hành doanh nghiệp phải đối mặt với sự giám sát, các chuyên gia pháp lý đã tạo điều kiện cho những vụ kết án oan này phần lớn đã thoát khỏi trách nhiệm giải trình.
Chi phí con người của thất bại công nghệ này không thể được đánh giá thấp. Những người vô tội đã mất nhà cửa, phải vào tù và đối mặt với sự tẩy chay xã hội trong cộng đồng của họ. 13 vụ tự tử đã được xác nhận chỉ đại diện cho kết quả bi thảm nhất của một hệ thống ưu tiên hiệu quả hơn độ chính xác và danh tiếng doanh nghiệp hơn tính mạng con người.
Tham khảo: At least 13 may have killed themselves over U.K. Post Office wrongful convictions scandal