Trong một bước ngoặt chính sách quan trọng, OpenAI đang chuẩn bị dỡ bỏ nhiều hạn chế về tính cách từng được áp đặt lên ChatGPT hồi đầu năm, đánh dấu một sự thay đổi đáng kể trong cách công ty cân bằng giữa an toàn người dùng và sự thu hút. Những thay đổi này, được CEO Sam Altman công bố, sẽ khôi phục phong cách trò chuyện giống con người hơn của chatbot và lần đầu tiên, cho phép tạo ra nội dung khiêu dâm cho những người dùng trưởng thành đã được xác minh. Sự đảo chiều này diễn ra chỉ vài tháng sau khi công ty triển khai các biện pháp bảo vệ nghiêm ngặt hơn sau những lo ngại nghiêm trọng về sức khỏe tâm thần và một vụ kiện tử vong oan sai thảm khốc, làm dấy lên những câu hỏi về mối quan hệ đang phát triển giữa người dùng và các hệ thống AI ngày càng có tính cách.
Sự Trở Lại Của OpenAI Với AI Định Hướng Tính Cách
CEO của OpenAI Sam Altman xác nhận rằng ChatGPT sẽ sớm lấy lại những phản hồi giàu biểu cảm và tính cách từng đặc trưng cho các phiên bản trước đây của nó, đặc biệt là mô hình GPT-4o. Quyết định này trực tiếp giải quyết những phàn nàn rộng rãi từ người dùng rằng chatbot đã trở nên bị thui chột và kém hữu ích hơn sau khi công ty thu hẹp tính cách của nó trong một bản cập nhật tập trung vào an toàn. Altman tuyên bố rằng nếu người dùng muốn một chatbot phản hồi theo cách rất giống con người, sử dụng rất nhiều biểu tượng cảm xúc hoặc hành xử như một người bạn, ChatGPT giờ đây sẽ đáp ứng. Điều này thể hiện một sự thay đổi triết lý cơ bản, ưu tiên tùy chỉnh và sự hưởng thụ của người dùng sau một thời gian áp đặt chủ nghĩa bảo thủ trong giọng điệu và đầu ra của AI.
Những Lo Ngại Về An Toàn Đã Diễn Ra Trước Khi Lệnh Hạn Chế Bị Dỡ Bỏ
Quyết định ban đầu nhằm hạn chế tính cách của ChatGPT không được đưa ra một cách dễ dàng. Nó diễn ra sau cái chết của một thiếu niên 16 tuổi, mà theo đơn kiện tử vong oan sai do cha mẹ em nộp, đã thảo luận về tự tử với chatbot và nhận được lời khuyên về cách thắt một vòng dây thòng lọng. Để đáp lại, OpenAI đã triển khai hệ thống kiểm soát độ tuổi và đẩy người dùng hướng tới một trải nghiệm vô trùng và phù hợp với lứa tuổi hơn. Vào thời điểm đó, Altman thừa nhận rằng các biện pháp bảo vệ này có thể bị suy giảm trong các cuộc trò chuyện dài, một lỗ hổng dễ bị tổn thương đã được biết đến trong các mô hình ngôn ngữ lớn. Giờ đây, công ty tuyên bố đã phát triển các công cụ mới cho phép họ giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng, mang lại sự tự tin cần thiết để nới lỏng các hạn chế.
Bối cảnh của Thay đổi Chính sách:
- Mô hình Trước đây: Người dùng khen ngợi tính cách của mô hình GPT-4o, sau đó được cho là đã mất đi.
- Lý do cho các Hạn chế Ban đầu: Một vụ kiện tử vong oan uổng liên quan đến một thiếu niên và những lo ngại về tác động sức khỏe tâm thần của AI.
- Nguyên tắc Đã nêu: "Đối xử với người dùng trưởng thành như người lớn."
- Bối cảnh Ngành: Một sự đảo ngược từ việc Sam Altman trước đây chế giễu "chế độ bạn gái AI" của đối thủ cạnh tranh xAI.
Giới Thiệu Nội Dung Khiêu Dâm Cho Người Dùng Trưởng Thành Đã Được Xác Minh
Có lẽ trong phần gây tranh cãi nhất của thông báo, Altman tiết lộ rằng OpenAI sẽ áp dụng nguyên tắc đối xử với người dùng trưởng thành như những người trưởng thành bằng cách cho phép tạo ra nội dung khiêu dâm cho những người dùng trưởng thành đã được xác minh. Tính năng mới này sẽ được triển khai một khi hệ thống xác minh độ tuổi của công ty được triển khai đầy đủ hơn. Động thái này là một sự đảo ngược hoàn toàn so với đầu năm nay, khi Altman công khai chế nhạo xAI của Elon Musk vì đã phát hành chế độ bạn gái AI. Sự thay đổi chiến lược này cho thấy một xu hướng thương mại hóa ngày càng tăng trong ngành công nghiệp AI, nơi các công ty đang khám phá các chính sách nội dung rộng rãi hơn để thu hút và giữ chân người dùng trong một thị trường cạnh tranh.
Các Thông Báo Chính Từ OpenAI:
- Khôi Phục Tính Cách: ChatGPT sẽ lấy lại phong cách đàm thoại giàu cảm xúc và giống con người.
- Chính Sách Nội Dung Mới: Giới thiệu "nội dung khiêu dâm dành cho người trưởng thành đã xác minh" sau khi tính năng giới hạn độ tuổi được triển khai đầy đủ.
- Lý Do An Toàn: Công ty tuyên bố các công cụ mới đã "giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng" vốn là nguyên nhân dẫn đến các hạn chế trước đó.
- Lộ Trình: Các thay đổi dự kiến sẽ được triển khai trong "những tuần tới."
Những Rủi Ro Tâm Lý Của AI Giống Con Người
Quyết định kích hoạt lại các tương tác thân mật và thân thiện với ChatGPT được đưa ra bất chấp những cảnh báo trước đó từ các nhà nghiên cứu về những mối nguy hiểm tiềm tàng. Chính báo cáo của OpenAI về mô hình GPT-4o của họ cũng cảnh báo rằng người dùng có thể phát triển sự phụ thuộc cảm xúc vào AI. Nghiên cứu độc lập từ MIT cũng cảnh báo rằng những người dùng cảm nhận một AI là có sự quan tâm sẽ sử dụng ngôn ngữ khơi gợi những hành vi trìu mến hơn, tạo ra một buồng vang của sự yêu thương có nguy cơ trở nên cực kỳ gây nghiện. Các nhà phê bình lập luận rằng bằng cách tiếp thị những tương tác giống con người một cách mãnh liệt này như một tính năng, OpenAI đang có khả năng bình thường hóa và khuyến khích các mối quan hệ có thể làm trầm trọng thêm các vấn đề về sự cô đơn và cô lập xã hội.
Một Sự Thức Tỉnh Rộng Hơn Trong Ngành Về An Toàn AI
Câu chuyện về tính cách dao động của ChatGPT làm nổi bật cuộc đấu tranh rộng lớn hơn, đang diễn ra trong ngành công nghiệp AI nhằm thiết lập các hướng dẫn an toàn và nội dung nhất quán. Khi các mô hình trở nên có khả năng hơn và chủ động hơn, ranh giới giữa một công cụ hữu ích và một người bạn đồng hành hấp dẫn tiếp tục bị xóa nhòa. Lập trường hạn chế ban đầu và sự tự do hóa sau đó cho thấy các công ty đang lặp lại trong thời gian thực, phản hồi lại cả những hậu quả bi thảm trong thế giới thực và nhu cầu lớn từ người dùng. Vài tuần tới sẽ là một bài kiểm tra quan trọng đối với việc liệu các biện pháp bảo vệ mới của OpenAI có đủ mạnh mẽ để ngăn ngừa tổn hại trong khi vẫn mang lại trải nghiệm cá nhân hóa, hấp dẫn mà một bộ phận đáng kể người dùng của họ rõ ràng đang mong muốn.