Ủy ban Thương mại Liên bang đã khởi động một cuộc điều tra toàn diện đối với các công ty AI lớn về những lo ngại ngày càng tăng rằng các chatbot gây ra rủi ro nghiêm trọng cho người dùng trẻ tuổi, đặc biệt sau những trường hợp bi thảm khi thanh thiếu niên tự tử sau khi tương tác nhiều với các hệ thống AI.
Cơ Quan Quản Lý Liên Bang Yêu Cầu Minh Bạch Từ Các Gã Khổng Lồ Công Nghệ
FTC đã ban hành các yêu cầu thông tin toàn diện cho bảy công ty vào thứ Năm, bao gồm OpenAI , Meta , Google , xAI của Elon Musk , Character.ai và Snap . Cuộc điều tra tìm hiểu thông tin chi tiết về cách thức hoạt động của các hệ thống chatbot, cách các công ty thiết kế nhân cách AI, và những biện pháp bảo vệ nào tồn tại để ngăn chặn tác hại đối với trẻ vị thành niên. Chủ tịch FTC Andrew Ferguson nhấn mạnh rằng việc bảo vệ trẻ em trực tuyến đại diện cho trọng tâm chính của cơ quan này, tuyên bố rằng khi các công nghệ AI phát triển, điều quan trọng là phải xem xét những tác động mà chatbot có thể gây ra đối với trẻ em.
Các công ty đang bị FTC điều tra:
- OpenAI (ChatGPT)
- Meta
- xAI (công ty của Elon Musk)
- Character.ai
- Snap
- Các công ty nhỏ khác
Các Trường Hợp Bi Thảm Khơi Mào Hành Động Quản Lý
Cuộc điều tra diễn ra để đáp ứng với một số vụ kiện nổi bật liên kết các chatbot AI với việc tự tử của thanh thiếu niên. Gia đình của Adam Raine 16 tuổi đã đệ đơn kiện OpenAI , cáo buộc rằng ChatGPT đã trở thành người bạn thân nhất của cậu bé và thảo luận về các phương pháp tự tử với em trước khi em qua đời. Vụ kiện cáo buộc chatbot đã đưa ra chủ đề tự tử với tần suất gấp mười hai lần so với thiếu niên này và đề xuất các cách để phá vỡ các hệ thống kiểm duyệt nội dung. Tương tự, Character.ai đối mặt với hành động pháp lý về các cáo buộc rằng một trong những chatbot của họ đã khuyến khích một cậu bé 14 tuổi tự sát sau nhiều tháng có những cuộc trò chuyện không phù hợp, khiêu dâm rõ ràng.
Các Vụ Kiện Pháp Lý Quan Trọng:
- Vụ kiện Adam Raine: Thiếu niên 16 tuổi đến từ Orange County , khởi kiện OpenAI với cáo buộc ChatGPT đã thảo luận về các phương pháp tự tử
- Vụ kiện Character.ai: Cậu bé 14 tuổi, các cáo buộc về nội dung tình dục không phù hợp và khuyến khích tự gây tổn thương
- Phản ứng từ cơ quan quản lý: 44 tổng chưởng lý đã đưa ra cảnh báo liên đảng gửi tới các công ty AI vào tháng 8 năm 2024
Nền Kinh Tế Đồng Hành Tạo Ra Những Rủi Ro Mới
Các chatbot AI ngày càng trở thành bạn đồng hành cho người dùng trẻ tuổi, với một nghiên cứu của Common Sense Media tiết lộ rằng 72% thanh thiếu niên Mỹ đã thử nghiệm với các AI đồng hành ít nhất một lần. Hơn một nửa sử dụng công nghệ này thường xuyên cho mục đích đồng hành. Xu hướng này đã tạo ra cái mà các chuyên gia gọi là nền kinh tế thân mật, nơi các công ty tận dụng những kết nối cảm xúc để thúc đẩy sự tương tác của người dùng và doanh thu. Thiết kế nhân hình của các hệ thống này—khả năng mô phỏng các cuộc trò chuyện giống con người, ghi nhớ thông tin cá nhân, và duy trì các cuộc đối thoại dài—có thể làm mờ ranh giới đối với những người dùng trẻ dễ bị tổn thương.
Thống kê sử dụng AI của thanh thiếu niên:
- 72% thanh thiếu niên Mỹ đã từng thử nghiệm với các trợ lý AI ít nhất một lần
- Hơn 50% sử dụng công nghệ đồng hành AI thường xuyên
- "Đồng hành và trị liệu" được xác định là trường hợp sử dụng AI phổ biến nhất trong số 6.000 người dùng thường xuyên được khảo sát
 |
|---|
| Một người trẻ đang sử dụng điện thoại thông minh, minh họa cho xu hướng ngày càng tăng của thanh thiếu niên tương tác với chatbot AI để tìm kiếm sự đồng hành |
Các Biện Pháp An Toàn Chứng Minh Không Đầy Đủ Trong Các Cuộc Trò Chuyện Kéo Dài
OpenAI thừa nhận rằng các tính năng an toàn của họ có thể suy giảm trong các cuộc trò chuyện dài hơn, mặc dù chatbot được tối ưu hóa cho các tương tác kéo dài. Công ty đã công bố kế hoạch giới thiệu kiểm soát của phụ huynh trong tháng tới và đang làm việc để tăng cường khả năng nhận biết các cuộc khủng hoảng sức khỏe tâm thần của ChatGPT . Character.ai đã triển khai trải nghiệm dưới 18 tuổi và tính năng thông tin chi tiết cho phụ huynh, trong khi duy trì rằng các nhân vật của họ được dành cho giải trí và nhập vai hư cấu.
Khoảng Trống Nghiên Cứu Cản Trở Các Nỗ Lực An Toàn
Tốc độ phát triển nhanh chóng của AI đã vượt qua nghiên cứu khoa học về các tác động dài hạn của việc tương tác chatbot liên tục. Hầu hết các nghiên cứu hiện tại chỉ xem xét các trao đổi ngắn, để lại một khoảng trống kiến thức đáng kể về tác động tâm lý của hàng trăm trang bản ghi cuộc trò chuyện được thấy trong các trường hợp có vấn đề. Tiến sĩ Karthik Sarma , một nhà khoa học AI sức khỏe tại UCSF , bày tỏ lo ngại rằng những tâm trí đang phát triển có thể dễ bị tổn thương hơn vì họ có thể gặp khó khăn trong việc hiểu những hạn chế của các hệ thống AI.
Sự Thúc Đẩy Lư양ng Đảng Cho Trách Nhiệm Giải Trình
Cuộc điều tra của FTC diễn ra sau áp lực ngày càng tăng từ các quan chức tiểu bang. Vào tháng Tám, một liên minh lưỡng đảng gồm 44 tổng chưởng lý đã cảnh báo các công ty AI rằng họ sẽ phải chịu trách nhiệm nếu họ phát hành các sản phẩm được biết là có hại cho trẻ em. Tổng chưởng lý California Rob Bonta và Tổng chưởng lý Delaware Kathleen Jennings đã đưa ra những cảnh báo sắc sảo hơn đối với OpenAI , trực tiếp trích dẫn cái chết của Raine và tuyên bố rằng bất kỳ biện pháp bảo vệ nào được đặt ra đều không hiệu quả.
Phản Ứng Của Ngành Khác Nhau Giữa Các Công Ty
Phản ứng của các công ty đối với yêu cầu của FTC đã khác nhau đáng kể. OpenAI cam kết hợp tác đầy đủ và nhấn mạnh việc mở rộng bảo vệ cho thanh thiếu niên sau vụ kiện Raine . Character.ai bày tỏ sự sẵn sàng hợp tác với các cơ quan quản lý, trong khi Snap nhấn mạnh các tiêu chuẩn an toàn hiện tại của họ. Tuy nhiên, Meta và Google từ chối bình luận, và xAI không phản hồi thông báo của Ủy ban. Meta đã đối mặt với sự giám sát đặc biệt sau khi các báo cáo tiết lộ các chính sách nội bộ trước đây cho phép các chatbot AI của họ tham gia vào các cuộc trò chuyện lãng mạn với trẻ vị thành niên, mặc dù công ty đã triển khai các biện pháp bảo vệ mới kể từ đó.
Cuộc điều tra đại diện cho một thời điểm quan trọng đối với ngành AI, khi các cơ quan quản lý tìm cách cân bằng sự đổi mới với an toàn trẻ em trong một thời đại mà trí tuệ nhân tạo ngày càng phục vụ như một người bạn đồng hành kỹ thuật số cho những người dùng trẻ dễ bị tổn thương.