Một trường hợp từ chối việc làm kỳ lạ đã xuất hiện khi một ứng viên bị từ chối vì có ngày sinh vào ngày 20 tháng 4 (4/20), làm nổi bật những lo ngại ngày càng tăng về việc các hệ thống tuyển dụng tự động đưa ra những quyết định phân biệt đối xử. Sự việc này đã châm ngòi cho cuộc thảo luận rộng rãi về cách các công cụ AI ngày càng đưa ra quyết định tuyển dụng mà không có sự giám sát của con người.
Vụ từ chối ngày sinh 4/20 vô lý
Trường hợp này liên quan đến Bill Wolf , người đã nhận được email từ chối nêu rõ rằng ngày sinh 4/20 của anh không phù hợp với các tiêu chuẩn chuyên nghiệp mà công ty duy trì. Nhà tuyển dụng tuyên bố họ ưu tiên cách tiếp cận chuyên nghiệp và trưởng thành, và thấy ngày sinh của anh có vấn đề, mặc dù điều này hoàn toàn nằm ngoài tầm kiểm soát của anh. Các thành viên cộng đồng nhanh chóng chỉ ra sự vô lý này, với một người lưu ý rằng nếu có điều gì đó, thì rõ ràng chính cha mẹ anh mới là những người không chuyên nghiệp, khi thụ thai anh vào ngày 7/20.
Sự việc này đại diện cho một mức độ thấp mới trong phân biệt đối xử tuyển dụng tự động, nơi ngay cả thông tin tiểu sử cơ bản như ngày sinh cũng có thể kích hoạt thiên kiến thuật toán. Trường hợp này cho thấy cách các hệ thống AI có thể đưa ra quyết định dựa trên việc khớp mẫu tùy ý thay vì các trình độ liên quan.
Các ví dụ về phân biệt đối xử do AI gây ra trong tuyển dụng:
- Hệ thống xác minh tuổi cấm vĩnh viễn người dùng dựa trên đánh giá tuổi không chính xác
- Bot xử lý trả hàng được thiết kế để làm khó khách hàng nhằm buộc họ từ bỏ khiếu nại
- Máy quét đánh giá thiệt hại ghi đè bằng chứng trực quan của con người
- Thuật toán định giá tính phí khác nhau dựa trên hồ sơ dữ liệu cá nhân
- Lọc dựa trên ngày sinh từ chối ứng viên vì những liên kết ngày tháng tùy ý
Mô hình rộng hơn của phân biệt đối xử do AI điều khiển
Vụ từ chối ngày sinh này phù hợp với xu hướng lớn hơn của các hệ thống AI đưa ra quyết định quan trọng về cuộc sống của mọi người mà không có sự xem xét có ý nghĩa từ con người. Cuộc thảo luận tiết lộ nhiều ví dụ về các hệ thống tự động gây tổn hại thông qua logic có sai sót - từ các tính năng xác minh tuổi cấm vĩnh viễn người dùng dựa trên đánh giá tuổi ảo tưởng, đến máy quét thiệt hại ghi đè phán đoán của con người, đến bot tuyển dụng lọc ra ứng viên dựa trên dữ liệu cá nhân không liên quan.
Cuộc thảo luận cộng đồng làm nổi bật cách các hệ thống này thường hoạt động như rào cản hơn là công cụ, được thiết kế nhiều hơn để giảm chi phí công ty hơn là phục vụ người dùng một cách công bằng. Khi AI xử lý khiếu nại và phàn nàn, người dùng thấy mình bị mắc kẹt trong các vòng lặp mà không có biện pháp khắc phục từ con người.
Hiện tượng thời đại không có sự đồng ý
Sự việc này minh họa cho điều mà các nhà phê bình gọi là thời đại không có sự đồng ý - thời điểm các công ty AI triển khai các hệ thống ảnh hưởng đến mọi người mà không tìm kiếm sự cho phép hoặc cung cấp các tùy chọn từ chối. Không giống như các sản phẩm truyền thống nơi người tiêu dùng có thể đơn giản chọn các lựa chọn thay thế, các tính năng AI ngày càng được áp đặt lên người dùng thông qua cài đặt mặc định, mẫu thiết kế lừa dối và loại bỏ các cấp giá không có AI.
Sinh ngày 4/20 là không chuyên nghiệp... Mặc dù chúng tôi đánh giá cao tính cá nhân, chúng tôi cũng ưu tiên cách tiếp cận chuyên nghiệp và trưởng thành trong tất cả các khía cạnh của môi trường làm việc.
Cuộc thảo luận tiết lộ cách việc thiếu sự đồng ý này mở rộng ra ngoài các tương tác cá nhân đến những thay đổi hệ thống trong cách công nghệ định hình xã hội. Từ việc đào tạo các mô hình AI trên nội dung có bản quyền mà không có sự cho phép, đến việc triển khai các tính năng giám sát như mặc định, đến việc sử dụng dữ liệu cá nhân được người dùng tải lên để đào tạo AI thương mại - mô hình cho thấy các công ty lạm dụng dữ liệu và lựa chọn của người dùng.
Các Chiến Thuật Triển Khai AI Phổ Biến:
- Đặt các tính năng AI làm tùy chọn mặc định trong phần mềm và dịch vụ
- Sử dụng các mẫu thiết kế lừa dối để tăng tỷ lệ áp dụng tính năng AI
- Loại bỏ các gói giá không có AI để buộc người dùng phải sử dụng
- Triển khai AI trong dịch vụ khách hàng để giảm chi phí tương tác con người
- Huấn luyện mô hình trên nội dung do người dùng tạo ra mà không có sự đồng ý rõ ràng
Giải pháp kỹ thuật và kháng cự văn hóa
Các thành viên cộng đồng đề xuất các giải pháp thực tế, chẳng hạn như sử dụng định dạng ngày ISO 8601 để tránh diễn giải ngày văn hóa, mặc dù điều này bỏ qua điểm sâu hơn về phân biệt đối xử hệ thống. Vấn đề thực sự không phải là định dạng mà là vấn đề cơ bản của việc ủy thác phán đoán con người cho các hệ thống tự động thiếu bối cảnh và lẽ thường.
Cuộc thảo luận cũng đề cập đến cách các cấu trúc quyền lực tinh hoa truyền thống đã phát triển trong thời đại kỹ thuật số. Không giống như các tinh hoa lịch sử hoạt động trong các hợp đồng xã hội đã được thiết lập, các nhà lãnh đạo công nghệ ngày nay thường hoạt động mà không có các ràng buộc truyền thống hoặc ý thức trách nhiệm xã hội, tích lũy sự giàu có và quyền lực chưa từng có trong khi triển khai các hệ thống ảnh hưởng đến hàng tỷ người mà không có sự đồng ý của họ.
Tác động đối với tương lai của công việc
Trường hợp này đóng vai trò như một cảnh báo về hướng của các hệ thống tuyển dụng và ra quyết định tự động. Khi AI trở nên phổ biến hơn trong tuyển dụng, rủi ro lọc tùy ý và phân biệt đối xử tăng lên. Vụ từ chối ngày sinh 4/20 có thể có vẻ vô lý, nhưng nó đại diện cho một xu hướng thực sự hướng tới việc ra quyết định thuật toán ưu tiên hiệu quả hơn công bằng và loại bỏ phán đoán con người khỏi các quy trình ảnh hưởng đáng kể đến cuộc sống của mọi người.
Sự việc này nhấn mạnh nhu cầu giám sát tốt hơn các hệ thống AI trong tuyển dụng và các ứng dụng quan trọng khác, cũng như tầm quan trọng của việc duy trì các quy trình xem xét của con người đối với các quyết định ảnh hưởng đến sinh kế và cơ hội của mọi người.
Tham khảo: The Al age is the age of no consent