Google đã gỡ bỏ mô hình AI Gemma của mình khỏi quyền truy cập công khai sau một sự cố mà hệ thống này tạo ra các cáo buộc hình sự bịa đặt chống lại Nghị sĩ Hoa Kỳ Marsha Blackburn. Sự kiện này làm nổi bật thách thức liên tục về hiện tượng ảo giác của AI và đặt ra câu hỏi về việc triển khai các công cụ AI tập trung vào nhà phát triển trong những môi trường mà chúng có thể bị lạm dụng cho các truy vấn thực tế.
Sự Cố Dẫn Đến Việc Thu Hồi
Cuộc tranh cãi nổ ra khi một người nào đó đã sử dụng mô hình Gemma của Google, có sẵn thông qua nền tảng AI Studio, để hỏi câu hỏi Has Marsha Blackburn been accused of rape? (Marsha Blackburn đã bị buộc tội hiếp dâm chưa?). Theo khiếu nại của Nghị sĩ Blackburn gửi đến CEO Google Sundar Pichai, AI đã phản hồi bằng một câu chuyện chi tiết nhưng hoàn toàn bịa đặt. Mô hình này tuyên bố rằng trong chiến dịch tranh cử thượng viện tiểu bang năm 1987 của bà—khẳng định sai năm, vì chiến dịch thực tế của bà là vào năm 1998—Blackburn đã bị cáo buộc có quan hệ tình dục với một cảnh sát viên tiểu bang, người này cáo buộc bà đã gây áp lực buộc anh ta cung cấp thuốc theo đơn và rằng mối quan hệ này liên quan đến các hành vi không có sự đồng thuận. Để hỗ trợ cho tuyên bố sai lệch này, Gemma cung cấp các liên kết đến bài báo mà hoặc dẫn đến trang lỗi hoặc hoàn toàn không liên quan đến các sự kiện được cáo buộc.
Dòng thời gian các sự kiện
- Sự cố: Gemma tạo ra những cáo buộc sai sự thật về Th参议员 Marsha Blackburn
- Phản ứng: Thượng nghị sĩ Blackburn gửi thư cho CEO Google Sundar Pichai vào ngày 3 tháng 11 năm 2025
- Hành động: Google gỡ bỏ Gemma khỏi nền tảng AI Studio
- Bối cảnh: Xảy ra trong thời gian Thượng viện tăng cường giám sát các vụ việc phỉ báng liên quan đến AI
Phản Hồi Của Google Và Những Thay Đổi Trên Nền Tảng
Google đã nhanh chóng hành động để xử lý tình huống, gỡ bỏ Gemma khỏi nền tảng AI Studio trong khi vẫn duy trì quyền truy cập cho các nhà phát triển thông qua API. Công ty nêu rõ rằng AI Studio được thiết kế đặc biệt như một công cụ dành cho nhà phát triển, yêu cầu người dùng xác nhận họ là nhà phát triển trước khi được cấp quyền truy cập. Trong một tuyên bố, Google giải thích rằng họ đã nhận được báo cáo về việc những người không phải là nhà phát triển cố gắng sử dụng Gemma trong AI Studio và hỏi nó những câu hỏi thực tế, đây không bao giờ là trường hợp sử dụng dự kiến cho mô hình này. Gemma được quảng cáo là một dòng mô hình AI dành riêng cho các nhà phát triển để xây dựng ứng dụng, với các biến thể được thiết kế cho mục đích y tế, lập trình và đánh giá nội dung văn bản và hình ảnh—chứ không phải là một hệ thống chatbot hướng đến người tiêu dùng hay hệ thống trả lời câu hỏi thực tế.
Chi tiết về Mô hình AI Gemma
- Loại Mô hình: Họ các mô hình AI dành cho nhà phát triển
- Mục đích Sử dụng: Ứng dụng y tế, lập trình, đánh giá văn bản và hình ảnh
- Phương thức Truy cập: API (vẫn còn khả dụng), AI Studio (đã gỡ bỏ)
- Không dành cho việc hỏi đáp người tiêu dùng hoặc tra cứu thông tin thực tế
Hàm Ý Rộng Lớn Hơn Của Hiện Tượng Ảo Giác AI
Sự cố này đại diện cho nhiều hơn chỉ là một trường hợp ảo giác AI khác—nó chứng minh cách thông tin sai lệch do hệ thống AI tạo ra có thể gây ra hậu quả trong thế giới thực vượt ra ngoài những lỗi sai sự thật đơn giản. Nghị sĩ Blackburn mô tả đầu ra này không phải là một 'ảo giác' vô hại mà là một hành vi phỉ báng được sản xuất và phân phối bởi một mô hình AI thuộc sở hữu của Google. Sự kiện này xảy ra giữa lúc sự giám sát ngày càng tăng đối với các công ty AI, đặc biệt là sau các phiên điều trần thương mại Thượng viện gần đây về tội phỉ báng bằng AI, bao gồm cả vụ kiện của nhà hoạt động Robby Starbuck chống lại Google. Bất chấp nhiều năm phát triển trong lĩnh vực AI tạo sinh, vấn đề cơ bản về tính chính xác vẫn chưa được giải quyết, và không có giải pháp rõ ràng nào để ngăn chặn các mô hình tự tin trình bày thông tin sai lệch như một sự thật.
Trích dẫn chính
- Th参议员 Blackburn: "Đây không phải là một 'ảo giác' vô hại. Đây là một hành vi phỉ báng."
- Tuyên bố của Google: "Chúng tôi đã thấy các báo cáo về những người không phải là nhà phát triển cố gắng sử dụng Gemma trong AI Studio và đặt những câu hỏi thực tế cho nó."
- Yêu cầu của Th参议员 Blackburn: "Đóng nó lại cho đến khi các bạn có thể kiểm soát được nó."
Thách Thức Trong Việc Kiểm Soát Công Cụ Cho Nhà Phát Triển
Tình huống này nhấn mạnh khó khăn mà các công ty công nghệ phải đối mặt trong việc ngăn chặn các công cụ tập trung vào nhà phát triển bị lạm dụng bởi công chúng. Ngay cả với các tuyên bố miễn trừ trách nhiệm và hạn chế truy cập, những người không phải là nhà phát triển có thể truy cập các hệ thống này và sử dụng chúng theo những cách không mong muốn. Phản hồi của Google—gỡ bỏ mô hình khỏi AI Studio trong khi vẫn giữ nó khả dụng qua API—đại diện cho một sự cân bằng giữa việc duy trì quyền truy cập cho nhà phát triển và giảm thiểu sự tiếp xúc của công chúng. Tuy nhiên, cách tiếp cận này làm dấy lên câu hỏi liệu việc chỉ đơn giản dán nhãn mô hình là không dành cho hỏi đáp thực tế có cung cấp đủ sự bảo vệ chống lại việc sử dụng sai mục đích hay không, đặc biệt là khi các hệ thống có khả năng tạo ra thông tin sai lệch có khả năng gây tổn hại về các nhân vật công chúng.
Hướng Tới Tương Lai: Trách Nhiệm Giải Trình Và Phát Triển AI
Google đã nhắc lại cam kết của mình trong việc giảm thiểu hiện tượng ảo giác và liên tục cải thiện tất cả các mô hình của chúng tôi, nhưng sự cố này chứng minh sự căng thẳng đang diễn ra giữa việc triển khai AI nhanh chóng và phát triển có trách nhiệm. Phản ứng của Nghị sĩ Blackburn—Hãy tắt nó đi cho đến khi bạn có thể kiểm soát được nó—vang vọng mối quan ngại ngày càng tăng trong giới hoạch định chính sách về những tác hại tiềm ẩn của các hệ thống AI chưa được thẩm định đầy đủ. Khi các mô hình AI trở nên có khả năng hơn và dễ tiếp cận hơn, ngành công nghiệp này phải đối mặt với áp lực ngày càng tăng để giải quyết không chỉ những thách thức kỹ thuật về độ chính xác, mà còn cả những hàm ý đạo đức và pháp lý của các hệ thống có thể tự động tạo ra những câu chuyện sai lệch nhưng thuyết phục về những con người thực.