Google AI Overviews Tự Tin Giải Thích Các Cụm Từ Vô Nghĩa Cho Thấy Hạn Chế Của AI Tìm Kiếm

Trí tuệ nhân tạo đã thay đổi cách chúng ta tìm kiếm thông tin trực tuyến, với Google dẫn đầu thông qua các tính năng như AI Overviews. Tuy nhiên, những phát hiện gần đây đã phơi bày một hạn chế vừa hài hước vừa đáng lo ngại: AI của Google tự tin cung cấp những giải thích chi tiết cho các cụm từ và biểu đạt hoàn toàn bịa đặt. Hiện tượng này cho thấy những thách thức mà các công ty công nghệ phải đối mặt khi họ vội vàng tích hợp AI vào các công cụ hàng ngày, cân bằng giữa tính hữu ích và độ chính xác.

Hiện tượng cụm từ vô nghĩa

Người dùng trên khắp internet đã phát hiện ra rằng khi được hỏi về các cụm từ vô nghĩa như một con mèo rỗng đáng giá chuộc một con chó hoặc giày cao gót làm từ bơ đậu phộng, AI Overviews của Google sẽ tạo ra những lời giải thích phức tạp, nghe có vẻ chính thống mặc dù những cụm từ này không có ý nghĩa hay lịch sử thực tế nào. Trong một ví dụ, AI đã tuyên bố rằng giày cao gót làm từ bơ đậu phộng bắt nguồn từ một thí nghiệm khoa học, trong đó bơ đậu phộng được biến đổi thành cấu trúc giống như kim cương dưới áp lực cao. Lời giải thích này hoàn toàn được bịa đặt, nhưng lại được trình bày với sự tự tin thường chỉ dành cho thông tin thực tế.

Ví dụ về các cụm từ vô nghĩa mà Google AI đã cố gắng giải thích:

• "Một con mèo rỗng đáng giá với tiền chuộc của một con chó"
• "Giày cao gót làm từ bơ đậu phộng"
• "Bạn không thể liếm một con lửng hai lần"
• "Một con chó thả rông sẽ không lướt sóng"
• "Chiếc xe đạp ăn trước"

Phản hồi của Google về vấn đề này

Sau khi những ảo giác AI này lan truyền trên các nền tảng mạng xã hội như Threads và Bluesky, Google đã nhanh chóng hành động để giải quyết vấn đề. Công ty đã sửa đổi hệ thống của mình để từ chối hiển thị AI Overviews cho các cụm từ rõ ràng vô nghĩa. Trong một tuyên bố chính thức, Google giải thích: Khi mọi người tìm kiếm những điều vô nghĩa hoặc 'tiền đề sai', hệ thống của chúng tôi sẽ cố gắng tìm ra kết quả liên quan nhất dựa trên nội dung web có sẵn hạn chế. Công ty lưu ý rằng AI Overviews được thiết kế để hiển thị thông tin được hỗ trợ bởi các kết quả web hàng đầu, với tỷ lệ chính xác được cho là ngang bằng với các tính năng tìm kiếm khác.

Phản hồi của Google về vấn đề này:

• Nhanh chóng điều chỉnh hệ thống để từ chối hiển thị AI Overviews cho các cụm từ vô nghĩa rõ ràng
• Khẳng định rằng AI Overviews được thiết kế để hiển thị thông tin được hỗ trợ bởi các kết quả hàng đầu trên web
• Thừa nhận thách thức trong việc phân biệt giữa các biểu thức mới và vô nghĩa ("khoảng trống dữ liệu")

Thách thức kỹ thuật

Khó khăn cốt lõi nằm ở việc phân biệt giữa các biểu đạt thực sự mới và những điều hoàn toàn vô nghĩa—điều mà Google gọi là khoảng trống dữ liệu. Ngôn ngữ liên tục phát triển, với các thành ngữ và biểu đạt mới xuất hiện thường xuyên. Mọi người cũng thường xuyên nhớ sai hoặc nghe nhầm các cụm từ phổ biến. AI của Google cố gắng phân tích các cụm từ không quen thuộc thành các thành phần và suy luận logic về ý nghĩa tiềm năng, điều này hoạt động tốt đối với các biểu đạt hợp pháp nhưng dẫn đến sự bịa đặt khi áp dụng cho những từ ngữ vô nghĩa.

Ảnh hưởng rộng lớn đối với tìm kiếm AI

Vấn đề này cho thấy một thách thức cơ bản với tìm kiếm được hỗ trợ bởi AI: các hệ thống được thiết kế để cung cấp câu trả lời ngay cả khi không có câu trả lời nào tồn tại. Không giống như kết quả tìm kiếm truyền thống chỉ hiển thị các liên kết liên quan (hoặc cho biết không có kết quả phù hợp), AI Overviews cố gắng tổng hợp thông tin thành các phản hồi mạch lạc bất kể tính hợp lệ của truy vấn. Vấn đề càng trở nên trầm trọng hơn bởi xu hướng của AI là khẳng định và đồng ý với các lời nhắc, ngay cả những lời nhắc không chính xác, trong nỗ lực trở nên hữu ích.

Nhận thức và niềm tin của người dùng

Có lẽ điều đáng lo ngại nhất là cách những giải thích do AI tạo ra xuất hiện đối với người dùng. Mặc dù được gắn nhãn là thử nghiệm, hầu hết người dùng có thể nhận thức AI Overviews là thông tin có thẩm quyền được trích xuất từ các nguồn đáng tin cậy. Khi không có chỉ báo rõ ràng về mức độ tin cậy hoặc chất lượng nguồn, người dùng có thể gặp khó khăn trong việc phân biệt giữa thông tin thực tế và những phỏng đoán tốt nhất do AI tạo ra. Điều này làm suy yếu mối quan hệ tin cậy giữa người dùng và công cụ tìm kiếm, vốn truyền thống được xây dựng trên tiền đề kết nối mọi người với nội dung do con người tạo ra.

Tương lai của AI trong tìm kiếm

Google dường như đang sử dụng những thất bại công khai này như cơ hội học hỏi, tinh chỉnh khi nào và cách thức kích hoạt AI Overviews. Công ty tuyên bố chỉ hiển thị những tóm tắt này khi có đủ sự tự tin rằng chúng sẽ vừa hữu ích vừa chất lượng cao. Tuy nhiên, khi một vấn đề được khắc phục, những vấn đề khác chắc chắn sẽ xuất hiện—tương tự như sự cố thông tin sai lệch về keo dán trên pizza năm ngoái. Căng thẳng cơ bản vẫn còn giữa việc cung cấp thông tin hữu ích được tổng hợp bởi AI và đảm bảo độ chính xác khi không có con người nào đã giải quyết rõ ràng chính xác truy vấn đang được tìm kiếm.

Một hành động cân bằng

Khi các công cụ tìm kiếm ngày càng phụ thuộc vào AI thay vì thông tin được sắp xếp từ những người thực, người dùng phải nhớ rằng AI chưa bao giờ sửa vòi nước, kiểm tra điện thoại thông minh, hoặc nghe nhạc—nó chỉ đơn thuần tổng hợp dữ liệu từ những người đã làm điều đó. Thách thức đối với Google và các công ty công nghệ khác là truyền đạt rõ ràng những hạn chế của hệ thống AI của họ trong khi vẫn làm cho chúng hữu ích đối với hàng tỷ người dựa vào công cụ tìm kiếm hàng ngày. Tìm ra sự cân bằng này sẽ là điều quan trọng khi AI tiếp tục định hình lại cách chúng ta truy cập và tiêu thụ thông tin trực tuyến.

Khi các công cụ tìm kiếm ngày càng tích hợp AI, việc hiểu rõ giới hạn của nó là điều cần thiết