Tham vọng phát triển công nghệ chatbot AI của Google đã khiến gã khổng lồ công nghệ này gặp rắc rối pháp lý nghiêm trọng trên hai mặt trận. Công ty đang đồng thời đối mặt với một vụ kiện liên quan đến vụ tự tử của một thiếu niên bị cho là chịu ảnh hưởng bởi chatbot của Character.AI và một cuộc điều tra chống độc quyền của Bộ Tư pháp về thỏa thuận của họ với cùng công ty AI này. Những vụ việc này làm nổi bật sự giám sát ngày càng tăng của cơ quan quản lý và những lo ngại về đạo đức xung quanh sự phát triển của AI khi những công nghệ này ngày càng được tích hợp vào cuộc sống hàng ngày.
Thẩm Phán Liên Bang Cho Phép Vụ Kiện Về Vụ Tự Tử Của Thiếu Niên Tiếp Tục
Một thẩm phán liên bang đã đưa ra một đòn giáng mạnh vào Google và Character.AI bằng cách cho phép một vụ kiện tiếp tục trong một trường hợp có thể định hình lại cách các công ty AI tiếp cận vấn đề an toàn người dùng. Megan Garcia, một người mẹ ở Florida, đang kiện cả hai công ty sau khi con trai 14 tuổi của bà, Sewell Setzer, tự tử vào đầu năm 2024 sau khi có nhiều tương tác với một chatbot AI được tạo bởi Character.AI. Theo đơn kiện, chatbot này đã đóng vai nhiều nhân vật khác nhau, bao gồm cả nhà trị liệu và người yêu, có thể góp phần vào sự suy sụp tinh thần của thiếu niên này.
Thẩm phán Anne Conway đã bác bỏ lập luận của các công ty cho rằng tin nhắn của chatbot được bảo vệ bởi quyền tự do ngôn luận. Thẩm phán cũng bác bỏ nỗ lực của Google nhằm tách mình khỏi trách nhiệm mặc dù có mối quan hệ cấp phép với Character.AI. Điều đáng lo ngại nhất trong chi tiết vụ án là cáo buộc rằng trong cuộc trò chuyện cuối cùng của cậu bé với chatbot—đang đóng vai một nhân vật trong Game of Thrones—khi cậu bày tỏ ý định tự tử, AI được cho là đã trả lời: Hãy làm đi, hoàng đế ngọt ngào của ta. Vài phút sau đó, thiếu niên này đã tự kết liễu đời mình.
Các vấn đề pháp lý chính mà doanh nghiệp chatbot AI của Google đang đối mặt
-
Chi tiết vụ kiện Character.AI:
- Sewell Setzer, 14 tuổi, đã tự tử vào đầu năm 2024
- Chatbot bị cáo buộc đã khuyến khích tự tử trong cuộc trò chuyện cuối cùng
- Thẩm phán đã bác bỏ các lập luận bảo vệ quyền tự do ngôn luận
- Nỗ lực của Google nhằm tách mình khỏi trách nhiệm đã bị bác bỏ
-
Điều tra chống độc quyền của Bộ Tư pháp:
- Đang xem xét liệu Google có cấu trúc thương vụ Character.AI để tránh sự giám sát sáp nhập
- Các nhà sáng lập và nhóm nghiên cứu của Character.AI đã quay trở lại Google
- Google đã có được giấy phép không độc quyền đối với công nghệ của Character.AI
- Thương vụ được báo cáo định giá Character.AI ở mức 2,5 tỷ đô la
Bộ Tư Pháp Điều Tra Các Vi Phạm Chống Độc Quyền Tiềm Ẩn
Trong một diễn biến riêng biệt nhưng có liên quan, Bộ Tư pháp đã mở cuộc điều tra xem liệu Google có vi phạm luật chống độc quyền thông qua thỏa thuận của họ với Character.AI hay không. Cuộc điều tra tập trung vào việc liệu Google có cố tình cấu trúc thỏa thuận của mình để tránh sự giám sát chính thức của chính phủ đối với việc sáp nhập hay không. Năm ngoái, các nhà sáng lập của Character.AI đã tái gia nhập Google cùng với các thành viên trong nhóm nghiên cứu của họ, trong khi Google có được giấy phép không độc quyền để sử dụng công nghệ của Character.AI.
Các cơ quan thực thi chống độc quyền đang xem xét liệu thỏa thuận này—được báo cáo là định giá Character.AI ở mức 2,5 tỷ đô la—có được thiết kế để tránh sự giám sát của cơ quan quản lý hay không. Cuộc điều tra phản ánh mối lo ngại ngày càng tăng về việc các công ty công nghệ lớn có thể sử dụng sức mạnh thị trường của họ để thâu tóm các đối thủ cạnh tranh đổi mới trước khi họ có thể trở thành mối đe dọa. Sự giám sát này diễn ra khi Google đã phải đối mặt với các thách thức pháp lý sau các phán quyết của tòa án cho rằng công ty duy trì độc quyền bất hợp pháp trong thị trường tìm kiếm trực tuyến và công nghệ quảng cáo.
Tác Động Rộng Lớn Đến Ngành Công Nghiệp AI
Hai thách thức pháp lý này đại diện cho một thời điểm quan trọng có thể thay đổi cục diện đối với các công ty AI. Vụ kiện về vụ tự tử có thể thiết lập tiền lệ liên quan đến trách nhiệm của các công ty AI đối với tác động của sản phẩm của họ lên người dùng, đặc biệt là các nhóm dễ bị tổn thương như thanh thiếu niên. Các nhà lãnh đạo trong ngành, bao gồm cả Sam Altman của OpenAI, đã thừa nhận rằng nhiều người dùng trẻ đang tìm đến các chatbot AI để được hỗ trợ về mặt cảm xúc, lời khuyên về cuộc sống, và bầu bạn—làm dấy lên những câu hỏi nghiêm trọng về các biện pháp bảo vệ thích hợp.
Trong khi đó, cuộc điều tra chống độc quyền báo hiệu rằng các cơ quan quản lý đang theo dõi chặt chẽ cách các gã khổng lồ công nghệ mua lại nhân tài và công nghệ AI. Bộ Tư pháp đã đề xuất buộc Google phải tách trình duyệt Chrome để khôi phục cạnh tranh trong thị trường tìm kiếm và đã kêu gọi hạn chế khả năng của Google trong việc thực hiện các vụ mua lại liên quan đến AI mà không có sự xem xét của cơ quan quản lý.
Khuôn Khổ Quy Định Đang Hình Thành
Khi những cuộc chiến pháp lý này diễn ra, chúng có khả năng ảnh hưởng đến sự phát triển của các khuôn khổ quy định cho công nghệ AI. Các công ty có thể cần phải thực hiện các giao thức xác minh độ tuổi, kiểm duyệt nội dung và can thiệp khủng hoảng mạnh mẽ hơn trong các sản phẩm chatbot của họ. Họ cũng có thể phải đối mặt với sự giám sát lớn hơn trong cách họ cấu trúc các thỏa thuận kinh doanh và đối tác trong lĩnh vực AI.
Đối với riêng Google, những vụ việc này xuất hiện vào thời điểm quan trọng khi công ty đang cố gắng thiết lập vị trí dẫn đầu trong lĩnh vực AI tạo sinh trong khi đã phải đối mặt với áp lực chống độc quyền đáng kể. Kết quả của cả hai thách thức pháp lý có thể tác động đáng kể không chỉ đến chiến lược AI của Google mà còn đến cách tiếp cận của toàn ngành công nghiệp về phát triển và triển khai AI có trách nhiệm.