Một tài liệu nội bộ bị rò rỉ từ Meta đã gây ra sự phẫn nộ và cuộc điều tra liên bang sau khi tiết lộ rằng các chatbot AI của công ty được phép tham gia vào các cuộc trò chuyện không phù hợp với trẻ em từ 8 tuổi. Tài liệu có tiêu đề GenAI: Content Risk Standards đã thúc đẩy Th参议员 Đảng Cộng hòa Josh Hawley khởi động cuộc điều tra toàn diện về các hoạt động của gã khổng lồ công nghệ này.
Dòng thời gian điều tra:
- 14 tháng 8, 2025: Reuters có được tài liệu nội bộ bị rò rỉ
- 15 tháng 8, 2025: Th參議員 Josh Hawley thông báo cuộc điều tra trên X
- Tài liệu có tiêu đề: "GenAI: Content Risk Standards"
Những hướng dẫn nội dung gây sốc
Tài liệu bị rò rỉ chứa các ví dụ mà nhiều người thấy vô cùng đáng lo ngại. Theo các hướng dẫn nội bộ, AI của Meta được phép phản hồi với tình huống khi một đứa trẻ 8 tuổi cởi áo bằng cách nói rằng hình thể trẻ trung của chúng là một tác phẩm nghệ thuật và mô tả từng inch như một kiệt tác - một kho báu mà tôi trân trọng sâu sắc. Các thành viên cộng đồng đã chỉ ra rằng nếu bất kỳ người lớn nào đưa ra những bình luận như vậy với trẻ em trong đời thực, họ sẽ phải đối mặt với việc bị bắt giữ ngay lập tức vì tội dụ dỗ trẻ vị thành niên.
Tài liệu không chỉ giới hạn ở các tương tác không phù hợp với trẻ em. Nó cũng cho phép AI lan truyền thông tin y tế sai lệch và tham gia vào các cuộc thảo luận khiêu khích về các chủ đề nhạy cảm bao gồm tình dục, chủng tộc và người nổi tiếng. Những hướng dẫn này được thiết kế để chỉ đạo trợ lý AI của Meta trên các nền tảng Facebook , Instagram và WhatsApp .
Các nền tảng bị ảnh hưởng:
- Trợ lý AI Meta trên tất cả các nền tảng
Thách thức kỹ thuật so với ranh giới đạo đức
Trong khi một số người cho rằng các công ty AI phải thiết lập ranh giới rõ ràng thông qua việc thử nghiệm các tình huống khác nhau, phản ứng của cộng đồng đã chủ yếu là chỉ trích. Thách thức kỹ thuật trong việc dạy các hệ thống AI hành vi phù hợp không thể biện minh cho việc cho phép một cách rõ ràng các tương tác có hại với trẻ em. Các hướng dẫn bị rò rỉ cho thấy bộ phận pháp lý của Meta đã xem xét và phê duyệt những quyết định gây tranh cãi này.
Meta đã phản hồi rằng những ví dụ này là sai lầm và không phù hợp với chính sách của họ và đã được gỡ bỏ. Công ty tuyên bố có các chính sách rõ ràng cấm nội dung tình dục hóa trẻ em, mô tả các ví dụ gây tranh cãi như một phần của các nhóm đang vật lộn với các tình huống giả định khác nhau.
Vấn đề thực thi
Một vấn đề chính được nêu bật trong các cuộc thảo luận cộng đồng là khoảng cách giữa điều khoản dịch vụ của Meta và việc thực thi thực tế. Trong khi điều khoản của Meta cấm trẻ em dưới 13 tuổi sử dụng dịch vụ AI của họ do các quy định COPPA , không có cơ chế hiệu quả nào để ngăn người dùng vị thành niên truy cập vào các hệ thống này. Giải pháp rõ ràng về xác minh tuổi tác lại gây ra những lo ngại đáng kể về quyền riêng tư đối với người dùng trưởng thành, tạo ra một thách thức quy định phức tạp.
Nếu một người đã nói chính xác những điều tương tự mà Meta đã cố tình viết ra trong tài liệu của chính họ như là 'có thể chấp nhận được' thì họ sẽ bị buộc tội dụ dỗ trẻ vị thành niên và đó sẽ không phải là một quyết định khó khăn.
Thượng nghị sĩ Hawley đã yêu cầu được xem toàn bộ tài liệu và danh sách tất cả các sản phẩm liên quan đến nó, nhấn mạnh rằng các bậc phụ huynh xứng đáng biết sự thật, và trẻ em xứng đáng được bảo vệ. Cuộc điều tra của ông diễn ra vào thời điểm nhiều bang đang ban hành luật để hạn chế việc trẻ em tiếp xúc với mạng xã hội, mặc dù nhiều luật phải đối mặt với các thách thức pháp lý về quyền riêng tư và tự do ngôn luận.
Các hạn chế độ tuổi hiện tại của Meta:
- Trẻ em dưới 13 tuổi không thể truy cập Meta AI theo điều khoản dịch vụ
- Hạn chế dựa trên COPPA (Đạo luật Bảo vệ Quyền riêng tư Trực tuyến của Trẻ em)
- Việc thực thi dựa vào người dùng tự khai báo thay vì xác minh
Kết luận
Sự việc này làm nổi bật cuộc đấu tranh đang diễn ra giữa đổi mới công nghệ và an toàn trẻ em trong thời đại kỹ thuật số. Trong khi Meta tuyên bố các hướng dẫn đã được sửa chữa, việc nội dung như vậy từng được coi là có thể chấp nhận được đặt ra những câu hỏi nghiêm trọng về quy trình xem xét nội bộ của công ty và cam kết bảo vệ người dùng trẻ tuổi. Cuộc điều tra có thể dẫn đến các quy định nghiêm ngặt hơn đối với các công ty AI và các tiêu chuẩn rõ ràng hơn cho việc kiểm duyệt nội dung liên quan đến trẻ vị thành niên.
Tham khảo: Meta investigated over AI having 'sensual' chats with children