Tính năng AI Overview của Google đã thể hiện hành vi không nhất quán khi người dùng tìm kiếm các chủ đề chính trị nhạy cảm, đặc biệt là những chủ đề liên quan đến câu hỏi sức khỏe tâm thần về các tổng thống hiện tại và cựu tổng thống. Việc chặn có chọn lọc này đã gây ra các cuộc thảo luận trong cộng đồng công nghệ về kiểm duyệt, trách nhiệm doanh nghiệp và những thách thức trong việc quản lý nội dung do AI tạo ra trong môi trường chính trị căng thẳng.
Gã khổng lồ tìm kiếm dường như đang áp dụng cách tiếp cận thận trọng với một số truy vấn nhất định, nhưng việc triển khai có vẻ không đồng đều giữa các nhân vật chính trị khác nhau. Trong khi một số tìm kiếm kích hoạt thông báo tiêu chuẩn Tổng quan AI không có sẵn cho tìm kiếm này, những tìm kiếm khác lại cung cấp các bản tóm tắt chi tiết do AI tạo ra, tạo nên một mô hình khả dụng rời rạc đã thu hút sự chú ý của người dùng.
Các Mẫu Phản Hồi của Google Theo Loại Tìm Kiếm:
- Truy vấn về sức khỏe tâm thần liên quan đến Trump: Chặn AI Overview, chỉ hiển thị liên kết
- Truy vấn về sức khỏe tâm thần liên quan đến Biden: AI Overview có sẵn với tuyên bố từ chối trách nhiệm
- Truy vấn về sức khỏe tâm thần liên quan đến Obama: AI Overview có sẵn với tuyên bố từ chối trách nhiệm y tế
- Truy vấn tổng quát về tổng thống: Kết quả hỗn hợp tùy thuộc vào cách diễn đạt
Cộng đồng phát hiện các cách khắc phục và sự không nhất quán
Những người dùng am hiểu công nghệ đã thử nghiệm với các cách diễn đạt truy vấn khác nhau và khám phá ra những mô hình thú vị trong cơ chế chặn của Google. Một số đã phát hiện rằng việc diễn đạt lại câu hỏi hoặc sử dụng các thuật ngữ rộng hơn có thể bỏ qua hoàn toàn các hạn chế. Cộng đồng đã lưu ý rằng trạng thái đăng nhập cũng ảnh hưởng đến kết quả, với việc duyệt web ẩn danh đôi khi tạo ra các kết quả khác so với tìm kiếm khi đã đăng nhập.
Một phát hiện đặc biệt thú vị cho thấy rằng việc đặt câu hỏi chung về nhiều nhân vật chính trị cùng lúc có thể vượt qua các lệnh chặn ảnh hưởng đến các tìm kiếm cá nhân. Điều này cho thấy rằng hệ thống lọc của Google có thể đang sử dụng các kết hợp từ khóa cụ thể hoặc nhận dạng thực thể được đặt tên để kích hoạt các hạn chế.
Các phương pháp giải quyết được phát hiện:
- Sử dụng chế độ duyệt ẩn danh thay vì tài khoản đã đăng nhập
- Diễn đạt lại câu hỏi để tránh các từ khóa kích hoạt cụ thể
- Hỏi về nhiều nhân vật cùng một lúc
- Sử dụng thuật ngữ rộng hơn, ít cụ thể hơn
Xu hướng rộng lớn hơn trong ngành về hạn chế nội dung chính trị
Hành vi này phản ánh một mô hình rộng lớn hơn trên các nền tảng công nghệ lớn, nơi các công ty ngày càng thận trọng về nội dung chính trị do AI tạo ra. Một số dịch vụ AI lớn đã triển khai các hạn chế tương tự trong năm qua, được thúc đẩy bởi lo ngại về phản ứng tiêu cực tiềm tàng và sự không đáng tin cậy vốn có của các hệ thống AI khi xử lý các chủ đề nhạy cảm.
Rất nhiều công ty đang chặn các truy vấn chính trị vì họ muốn tránh những rắc rối PR từ việc mọi người dụ dỗ AI nói điều gì đó sẽ xúc phạm đến Lãnh đạo tối cao.
Xu hướng này đã mở rộng ra ngoài các công cụ tìm kiếm đến các công cụ tạo hình ảnh và các dịch vụ AI khác, khi các công ty tìm cách tránh những tranh cãi có thể làm tổn hại danh tiếng hoặc mối quan hệ kinh doanh của họ. Thách thức nằm ở việc cân bằng giữa quyền truy cập tự do thông tin với nhu cầu ngăn chặn việc lan truyền nội dung do AI tạo ra có thể có hại hoặc không chính xác.
 |
|---|
| Donald Trump đối mặt với sự giám sát khi các công ty điều hướng những thách thức của việc hạn chế nội dung chính trị trong AI |
Những tác động kỹ thuật và đạo đức
Việc áp dụng không nhất quán các hạn chế này đặt ra câu hỏi về tính minh bạch và công bằng trong việc tiếp cận thông tin. Người dùng đã báo cáo rằng các công cụ tìm kiếm thay thế và công cụ AI cung cấp các mức độ truy cập khác nhau đến thông tin tương tự, cho thấy rằng mỗi nền tảng đang phát triển cách tiếp cận riêng để xử lý các truy vấn chính trị nhạy cảm.
Tình huống này cũng làm nổi bật những thách thức đang diễn ra với độ tin cậy của AI trong các lĩnh vực nhạy cảm. Ngay cả khi các tổng quan AI được cung cấp, chúng thường bao gồm các tuyên bố từ chối trách nhiệm về những hạn chế của việc đưa ra đánh giá y tế hoặc tâm lý chỉ dựa trên thông tin công khai.
Cuộc thảo luận của cộng đồng tiết lộ những lo ngại ngày càng tăng về việc tập trung quyền truy cập thông tin trong tay một số ít công ty công nghệ lớn, đặc biệt khi những công ty đó đưa ra quyết định biên tập về thông tin nào mà hệ thống AI của họ sẽ tóm tắt và không tóm tắt. Khi AI trở thành cổng thông tin ngày càng quan trọng, những chính sách nội dung này có thể có những tác động đáng kể đến diễn ngôn công và các quy trình dân chủ.
Tham khảo: Google is blocking AI searches for Trump and dementia