Trong một thời đại mà việc chứng minh bạn là bạn ngày càng được giao phó cho các thuật toán, ngày càng nhiều người phát hiện ra rằng khuôn mặt của họ không phù hợp với khuôn mẫu kỹ thuật số. Trường hợp gần đây của Britain's King of Ink Land, người có khuôn mặt được xăm trổ dày đặc bị phần mềm xác minh độ tuổi nhầm lẫn thành mặt nạ, đã châm ngòi cho một cuộc thảo luận quan trọng về những hạn chế vốn có và bản chất phân biệt đối xử của công nghệ nhận diện khuôn mặt đang được sử dụng rộng rãi. Vấn đề không chỉ nằm ở ngoại hình độc đáo của một người đàn ông; đó là triệu chứng của một lỗ hổng hệ thống ảnh hưởng đến hàng triệu người.
Cái Giá Con Người Phải Trả Cho Những Điểm Mù Thuật Toán
Vấn đề cốt lõi mở rộng ra xa hơn rất nhiều so với cuộc vật lộn của một cá nhân để truy cập vào một trang web. Các cuộc thảo luận trong cộng đồng nổi bật lên rằng đây là một vấn đề phổ biến đối với những người có nhiều dạng khuôn mặt khác nhau. Từ các tình trạng phổ biến như bệnh rụng tóc từng vùng, ảnh hưởng đến lông mày và lông mi, cho đến những khác biệt đáng kể hơn về khuôn mặt, các hệ thống AI thường xuyên thất bại. Một bình luận viên đã chia sẻ một trải nghiệm cá nhân đầy căng thẳng: không thể vượt qua bài kiểm tra 'xác thực trực tiếp' bằng AI, một yêu cầu bắt buộc cho một công việc mới, gây ra căng thẳng tột độ. Điều này nhấn mạnh một điểm then chốt: khi những hệ thống này thất bại, chúng khóa chặn mọi người khỏi các dịch vụ thiết yếu, cơ hội việc làm và các hoạt động trực tuyến hàng ngày, trên thực tế đang tạo ra một tầng lớp dưới mới trong thế giới số.
Những mô hình này mang tính phân biệt đối xử với rất nhiều người, tôi cho là vậy, và không nên được cho phép.
Các Nguyên Nhân Phổ Biến Khiến Nhận Diện Khuôn Mặt Thất Bại: Hình xăm dày đặc trên khuôn mặt Bệnh rụng tóc từng mảng (mất lông mày/lông mi) Các đặc điểm khác biệt khác trên khuôn mặt (scar, vết bớt, tình trạng y tế) Một số loại trang điểm hoặc phụ kiện được thiết kế theo kiểu "CV Dazzle"
Vượt Ra Ngoài Hình Xăm: Sự Trỗi Dậy Của Thẩm Mỹ Chống Giám Sát
Phản ứng của công chúng trước những thất bại công nghệ này tiết lộ một phong trào phản kháng thú vị và có lẽ là không thể tránh khỏi. Các bình luận viên ngay lập tức bắt đầu thảo luận về CV Dazzle—một khái niệm liên quan đến kiểu tóc và trang điểm được thiết kế đặc biệt để đánh lừa các thuật toán phát hiện khuôn mặt. Ý tưởng này, lấy cảm hứng từ kỹ thuật ngụy trang dazzle được sử dụng trên các tàu chiến trong Thế chiến thứ I, đang ngày càng thu hút sự chú ý như một hình thức tự vệ chống lại sự giám sát công cộng không được mong muốn. Trong khi ngoại hình của người đàn ông có nhiều hình xăm nhất là một lựa chọn cá nhân, tình thế khó khăn của anh ta chứng minh một nguyên tắc mạnh mẽ: thay đổi ngoại hình có thể là một phương pháp hiệu quả, dù có phần cực đoan, để né tránh sự nhận dạng tự động. Điều này mở ra một cuộc tranh luận phức tạp về tính hợp pháp và sự chấp nhận xã hội trong tương lai đối với loại hình ngụy trang như vậy, đặc biệt là đối với các nhà hoạt động và người biểu tình.
Khái niệm liên quan: CV Dazzle - Một kỹ thuật sử dụng kiểu tóc, trang điểm và phụ kiện để tạo ra các hoa văn gây nhiễu loạn cho thị giác máy tính (CV) và các thuật toán nhận dạng khuôn mặt, lấy cảm hứng từ kỹ thuật ngụy trang dazzle trong lịch sử.
Nền Tảng Khiếm Khuyết và Sự Thiếu Hụt Các Phương Án Dự Phòng
Một phần đáng kể của vấn đề, như được phân tích trong các bình luận của cộng đồng, không chỉ nằm ở AI chưa hoàn hảo, mà còn ở cách triển khai. Đạo luật An toàn Trực tuyến (OSA) của Vương quốc Anh bắt buộc xác minh độ tuổi nhưng không yêu cầu các công ty về mặt pháp lý phải cung cấp các tùy chọn dự phòng dễ tiếp cận cho những trường hợp phương thức chính thất bại. Khi lựa chọn duy nhất của một trang web là quét khuôn mặt mà không thể xử lý được khuôn mặt của người dùng, người dùng đó sẽ hoàn toàn bị loại trừ. Trách nhiệm được chuyển giao cho các công ty tư nhân, những nơi thường chọn giải pháp tự động hóa rẻ nhất mà không có các phương án thay thế mạnh mẽ được xem xét bởi con người. Điều này tạo ra một hệ thống mà các trường hợp ngoại lệ không chỉ đơn thuần là bất tiện mà còn bị ngăn cản một cách có hệ thống khỏi sự tham gia.
Lỗ hổng chính trong triển khai: Đạo luật An toàn Trực tuyến (OSA) của Vương quốc Anh yêu cầu xác minh độ tuổi nhưng không bắt buộc về mặt pháp lý các nhà cung cấp dịch vụ phải triển khai phương thức dự phòng (ví dụ: xem xét thủ công, giấy tờ tùy thân thay thế) cho người dùng không vượt qua quá trình quét khuôn mặt bằng AI chính.
Con Dốc Trơn Trượt Đến Một Xã Hội Vô Danh
Những lo ngại của cộng đồng chỉ ra một tương lai rộng lớn hơn và đáng lo ngại hơn. Khi nhận diện khuôn mặt ngày càng ăn sâu vào cuộc sống hàng ngày—từ kiểm tra độ tuổi đến thực thi pháp luật—động cơ để hack nó sẽ tăng lên. Các bình luận viên suy đoán rằng chúng ta có thể đang hướng tới một thế giới nơi việc đeo mặt nạ hoặc sử dụng hình đại diện kỹ thuật số nơi công cộng trở nên bình thường để tránh bị theo dõi bởi các thực thể như ICE hoặc để bảo vệ sự tham gia biểu tình. Điều bắt đầu như một giải pháp thay thế cho một hệ thống khiếm khuyết có thể định hình lại cơ bản các chuẩn mực xã hội xung quanh sự ẩn danh và danh tính công cộng, có khả năng dẫn đến một tương lai mà, như một người dùng đã nói thẳng thừng, Chúng ta sẽ kết thúc bằng việc tất cả trở thành Anonymous.
Cuộc đấu tranh của những cá nhân có khuôn mặt không được AI công nhận là một dấu hiệu cảnh báo mạnh mẽ. Nó làm nổi bật sự ngắt kết nối sâu sắc giữa thế giới sạch sẽ, được tiêu chuẩn hóa mà các thuật toán được xây dựng để hiểu và thực tại hỗn độn, đa dạng của sự tồn tại con người. Khi các chính phủ và tập đoàn vội vã triển khai công nghệ này, những tiếng nói từ các cuộc thảo luận cộng đồng này đóng vai trò như một lời cảnh báo quan trọng: một hệ thống không hoạt động vì mọi người là một hệ thống đã hỏng đối với tất cả chúng ta.
Tham khảo: Britain's most tattooed man says UK's age check system told him to remove his face