Công cụ tìm kiếm DuckDuckGo đã giới thiệu tính năng mới để lọc bỏ những hình ảnh do AI tạo ra khỏi kết quả tìm kiếm, nhằm đáp ứng sự bức xúc ngày càng tăng của người dùng về việc nội dung nhân tạo tràn ngập internet. Bộ lọc này dựa vào các danh sách chặn mã nguồn mở được quản lý thủ công và thể hiện nỗ lực của công cụ tìm kiếm này nhằm giúp người dùng phân biệt giữa nội dung thật và nội dung nhân tạo.
Chi tiết Bộ lọc AI của DuckDuckGo:
- Sử dụng các danh sách chặn mã nguồn mở được tuyển chọn thủ công
- Bao gồm danh sách 'nuclear' từ uBlockOrigin và uBlacklist
- Được mô tả như một hệ thống loại bỏ theo phương thức cố gắng tối đa
- Vẫn cho phép một số nội dung AI lọt qua hệ thống phát hiện
 |
|---|
| DuckDuckGo giới thiệu tính năng lọc hình ảnh AI mới để nâng cao kết quả tìm kiếm |
Pinterest và Các Nền Tảng Mạng Xã Hội Bị Ảnh Hưởng Nặng Nề Bởi Nội Dung AI
Người dùng trên nhiều nền tảng khác nhau đang trải qua sự gián đoạn đáng kể từ nội dung do AI tạo ra. Pinterest , từng là điểm đến phổ biến để tìm cảm hứng hình ảnh, giờ đây đã trở nên gần như không thể sử dụng được đối với nhiều người dùng đang tìm kiếm nội dung chân thực. Những người đam mê kiến trúc và tìm kiếm công thức nấu ăn báo cáo rằng kết quả tìm kiếm hiện tại bị chi phối bởi những hình ảnh được AI cải tiến hoặc hoàn toàn nhân tạo, mà không có cách hiệu quả nào để lọc chúng.
Vấn đề này mở rộng ra ngoài Pinterest đến hầu hết các nền tảng nội dung do người dùng tạo ra cho phép hình ảnh và video. Các trang mạng xã hội liên quan đến nghệ thuật đã bị ảnh hưởng đặc biệt, với nội dung AI không chỉ làm cho chức năng tìm kiếm trở nên vô dụng mà còn làm nản lòng những người sáng tạo thực sự khi thấy nền tảng của họ tràn ngập tài liệu do bot tạo ra.
Các nền tảng bị ảnh hưởng nhiều nhất bởi nội dung AI:
- Pinterest : Các tìm kiếm về kiến trúc và công thức nấu ăn bị chi phối bởi nội dung được tăng cường bằng AI
- Các nền tảng mạng xã hội liên quan đến nghệ thuật: Làm nản lòng những người sáng tạo thực thụ
- Các trang web công thức nấu ăn: Tuân theo các công thức AI được tối ưu hóa SEO có thể dự đoán được
- Các trang web tư vấn y tế: Thông tin sức khỏe được tạo ra bởi AI đáng lo ngại
Công Cụ Tìm Kiếm Gặp Khó Khăn Với Việc Phát Hiện Nội Dung AI
Mặc dù bộ lọc mới của DuckDuckGo thể hiện sự tiến bộ, việc thử nghiệm ban đầu cho thấy một số hình ảnh do AI tạo ra vẫn lọt qua hệ thống phát hiện. Thách thức trong việc xác định nội dung AI trở nên ngày càng khó khăn khi công nghệ cải thiện và tiến gần đến chất lượng gần như hoàn hảo.
Khi công nghệ tiến gần đến sự hoàn hảo, việc xác định xem thứ gì đó có phải là 'AI' hay không sẽ trở thành một bài kiểm tra giống như việc xác định xem thứ gì đó có phải là nội dung khiêu dâm: 'Tôi biết khi tôi nhìn thấy nó.'
Các công cụ tìm kiếm khác cũng đang vật lộn với vấn đề này. Kagi đã triển khai tính năng tương tự Loại trừ hình ảnh do AI tạo ra, được mô tả là hệ thống loại bỏ với nỗ lực tốt nhất. Tuy nhiên, tính bền vững lâu dài của những phương pháp lọc này vẫn không chắc chắn khi việc tạo nội dung AI tiếp tục phát triển.
Các Giải Pháp Lọc AI Cạnh Tranh:
- Kagi: Tính năng "Loại trừ hình ảnh được tạo bởi AI" với khả năng loại bỏ tốt nhất có thể
- Mozilla: Mô hình phát hiện văn bản AI ( roberta-base-ai-text-detector ) với tỷ lệ dương tính giả cao
- User Scripts: Các công cụ do cộng đồng phát triển để làm nổi bật văn bản được tạo bởi AI
Tác Động Rộng Lớn Đến Chất Lượng Tìm Kiếm Web
Vấn đề nội dung AI mở rộng ra ngoài hình ảnh đến kết quả tìm kiếm dựa trên văn bản. Người dùng báo cáo gặp phải nhiều trang web nội dung do AI tạo ra sản xuất lời khuyên y tế và thông tin có thể gây hại khác. Một số đã phải dùng đến việc lọc kết quả tìm kiếm theo ngày tháng, tự động từ chối bất cứ thứ gì từ năm hiện tại vì có khả năng là spam SEO.
Tìm kiếm công thức nấu ăn đã trở nên đặc biệt có vấn đề, với nội dung do AI tạo ra theo những công thức có thể dự đoán được ưu tiên tối ưu hóa công cụ tìm kiếm hơn là tính hữu ích thực tế. Điều này đã khiến một số người dùng phải tự tay tuyển chọn danh sách các trang web đáng tin cậy thay vì dựa vào kết quả công cụ tìm kiếm.
Giải Pháp Kỹ Thuật và Thách Thức Tương Lai
Nhiều phương pháp kỹ thuật khác nhau đang được khám phá để giải quyết tình trạng ô nhiễm nội dung AI. Một số đề xuất các phương pháp mật mã dựa trên phần cứng máy ảnh để xác minh ảnh chụp chân thực, mặc dù những hệ thống này đối mặt với những thách thức riêng bao gồm các gốc tin cậy bị xâm phạm và khả năng chụp ảnh những hình ảnh do AI tạo ra.
Mozilla đã phát triển các mô hình phát hiện văn bản AI có thể làm nổi bật nội dung có khả năng nhân tạo, mặc dù những công cụ này vẫn tạo ra kết quả dương tính giả. Thách thức phát hiện có khả năng sẽ tăng cường khi công nghệ tạo AI tiếp tục cải thiện và trở nên khó phân biệt hơn với nội dung do con người tạo ra.
Việc giới thiệu các bộ lọc nội dung AI bởi các công cụ tìm kiếm như DuckDuckGo thể hiện một bước quan trọng trong việc duy trì chất lượng tìm kiếm, nhưng cuộc chạy đua vũ trang đang diễn ra giữa công nghệ tạo AI và phát hiện cho thấy đây sẽ vẫn là một thách thức đang phát triển trong tương lai gần.
Tham khảo: What is Mistral A1? Everything to know about the OpenAl competitor