Trong thế giới nội dung được tạo bởi AI đang phát triển nhanh chóng, xAI của Elon Musk đã ra mắt Grokipedia, định vị nó như một giải pháp thay thế cho Wikipedia với cam kết chống lại định kiến woke bị cáo buộc. Tuy nhiên, những người dùng đầu tiên và các chuyên gia công nghệ đang báo cáo về những vấn đề nghiêm trọng với độ chính xác, phong cách viết và độ tin cậy về trích dẫn của nền tảng này, làm dấy lên câu hỏi liệu AI đã sẵn sàng để đảm nhận nhiệm vụ phức tạp là quản lý tri thức của nhân loại hay chưa.
Lo ngại về Độ chính xác Bao trùm Bách khoa Toàn thư AI Mới
Mối quan tâm cấp thiết nhất xoay quanh Grokipedia tập trung vào độ chính xác thực tế. Người dùng khi kiểm tra các bài viết về các chủ đề họ biết rõ đang tìm thấy vô số lỗi và sự thiếu nhất quán. Một bình luận viên lưu ý rằng khi kiểm tra một chủ đề mà họ đã tự mình nghiên cứu, bài viết trên Grokipedia thậm chí còn tệ hơn bài viết trên Wikipedia, không thể kể một câu chuyện mạch lạc và tham khảo các nguồn không đáng tin cậy như những người dùng Reddit ngẫu nhiên. Vấn đề cốt lõi dường như là các mô hình ngôn ngữ lớn (LLM), dù rất giỏi trong việc tạo ra văn bản nghe có vẻ hợp lý, lại gặp khó khăn với độ tin cậy thực tế và tính nhất quán logic.
「Tại sao trên đời này chúng ta lại muốn một công nghệ vừa giỏi tóm tắt lại vừa giỏi tưởng tượng (hallucinations) để viết các mục bách khoa toàn thư chứ? Bạn không bao giờ có thể tin tưởng nó sẽ trung thành với các nguồn được.」
Vấn đề này trở nên đặc biệt rõ ràng khi xem xét các trích dẫn. Nhiều người dùng báo cáo rằng các tài liệu tham khảo của Grokipedia thường không hỗ trợ cho các tuyên bố mà chúng được cho là để xác thực, với một số trích dẫn dẫn đến nội dung hoàn toàn không liên quan hoặc các nguồn không đáng tin cậy bị xếp hạng thấp trên thang đo độ tin cậy.
Các vấn đề chính được người dùng ban đầu chỉ ra:
- Lỗi sai sự thật trong gần như mọi đoạn văn được kiểm tra
- Trích dẫn không hỗ trợ cho các tuyên bố được đưa ra
- Tham chiếu đến các nguồn không đáng tin cậy (Reddit, blog cá nhân, các trang web có độ tin cậy thấp)
- Các bài viết dài gấp 3-5 lần so với các bài tương đương trên Wikipedia nhưng chứa ít thông tin hữu ích hơn
- Thiên kiến chính trị nhất quán thiên về quan điểm cánh hữu
- Phong cách viết được tạo ra bởi AI được mô tả là dài dòng và khó đọc
Nguồn Tin Đáng Ngờ và Vấn đề Trích dẫn
Độ tin cậy của các nguồn tin của Grokipedia đã nổi lên như một điểm tranh cãi lớn trong cộng đồng công nghệ. Người dùng đã phát hiện ra rằng nhiều bài báo tham khảo các nguồn đáng ngờ, bao gồm blog cá nhân, các tổ chức tư tưởng thiên hữu, và thậm chí cả các bài đăng trên mạng xã hội. Một bình luận viên nêu bật việc nhiều bài báo đề cập đến các chủ đề châu Á đã tham khảo factsanddetails.com, một trang web chỉ đạt 12.2 trên 100 điểm trên thang đo độ tin cậy của scamdetector. Một người dùng khác phát hiện bài đăng Tumblr của chính họ đang được trích dẫn như một nguồn có thẩm quyền về một chủ đề chuyên môn.
Bản thân phương pháp luận trích dẫn dường như có sai sót. Không giống như hệ thống tài liệu tham khảo được quản lý cẩn thận của Wikipedia, Grokipedia dường như tạo ra các trích dẫn một cách thuật toán mà không có sự xác minh thích hợp. Điều này dẫn đến những tình huống mà các nguồn không thực sự hỗ trợ cho các tuyên bố được đưa ra, hoặc mối liên hệ giữa tài liệu nguồn và nội dung được tạo ra là rất mong manh. Việc nền tảng này thừa nhận nội dung được điều chỉnh từ Wikipedia càng làm phức tạp thêm các câu hỏi về tính nguyên bản và giá trị gia tăng.
So sánh độ tin cậy của nguồn:
- Wikipedia: Sử dụng các nguồn đáng tin cậy đã được công nhận với quy trình chỉnh sửa minh bạch
- Grokipedia: Trích dẫn các nguồn có chất lượng hỗn hợp bao gồm các tổ chức nghiên cứu, mạng xã hội và blog cá nhân
- Ví dụ: factsanddetails.com được sử dụng rộng rãi mặc dù có điểm tin cậy 12.2/100
Định kiến Chính trị và Định vị Tư tưởng
Bất chấp việc được tiếp thị như một liều thuốc giải cho định kiến bị cáo buộc của Wikipedia, Grokipedia dường như có khuynh hướng tư tưởng riêng biệt. Việc phân tích nhiều bài báo cho thấy một mô hình nhất quán trong việc phản bác các lập trường tiến bộ trong khi ủng hộ các quan điểm thiên hữu. Nền tảng này thường xuyên đưa vào các lập luận phản bác những gì nó mô tả là các lập trường tiến bộ hoặc woke, ngay cả khi những quan điểm phản biện này đến từ các nguồn thiên về tư tưởng hơn là sự đồng thuận học thuật chính thống.
Định kiến này thể hiện theo những cách tinh vi xuyên suốt nội dung. Các bài báo về các nhân vật và chủ đề gây tranh cãi liên tục bao gồm cách đặt vấn đề hoài nghi về các lập trường tiến bộ trong khi trình bày các quan điểm bảo thủ một cách thuận lợi hơn. Việc lựa chọn đưa vào lập luận nào và cách đánh giá chúng dường như bị nghiêng lệch một cách có hệ thống, làm dấy lên câu hỏi liệu nền tảng này có thể đạt được mục tiêu tuyên bố là ít thiên vị hơn đối thủ do con người biên tập hay không.
Hạn chế Kỹ thuật và Chất lượng Bài viết
Ngoài những lo ngại về chính trị, người dùng đang báo cáo những vấn đề đáng kể với việc triển khai kỹ thuật cơ bản của Grokipedia. Văn bản do AI tạo ra được mô tả là dài dòng, khó đọc và thiếu cấu trúc tường thuật rõ ràng như nội dung do con người viết. Các bài báo có xu hướng dài hơn đáng kể so với các bài tương ứng trên Wikipedia trong khi cung cấp ít thông tin thực tế hơn, chứa đầy thứ mà một bình luận viên gọi là sự dài dòng quá mức cố gắng nghe có vẻ uy quyền mà thực tế không nói lên được điều gì nhiều.
Phong cách viết thể hiện các đặc điểm LLM kinh điển: sử dụng quá mức dấu gạch ngang (em dash), cấu trúc câu lặp đi lặp lại, và giọng điệu học thuật nhìn từ hư không mà nhiều người thấy mệt mỏi khi đọc. Không giống như các biên tập viên con người có thể ưu tiên thông tin dựa trên tầm quan trọng và mức độ liên quan, AI dường như đưa vào mọi thứ nó tìm thấy trên mạng, dẫn đến các bài báo vừa bao quát mọi thứ lại vừa không cung cấp thông tin.
Phản ứng của Cộng đồng và Triển vọng Tương lai
Phản ứng của cộng đồng công nghệ đối với Grokipedia đã rất hoài nghi. Nhiều người coi đây là một ví dụ khác về công nghệ AI được triển khai trước khi nó sẵn sàng cho thời điểm quan trọng, trong khi những người khác xem nó như một dự án có động cơ chính trị hơn là một nỗ lực chân thành để cải thiện khả năng tiếp cận tri thức. So sánh với Wikipedia thời kỳ đầu dường như không thỏa đáng với nhiều nhà quan sát, vì những hạn chế ban đầu của Wikipedia bắt nguồn từ việc thiếu nội dung hơn là các vấn đề cơ bản về độ chính xác và độ tin cậy.
Một số nhà bình luận đang đưa ra những lo ngại rộng hơn về ý nghĩa của các cơ sở tri thức được tạo bởi AI. Khả năng tạo ra nhanh chóng hàng triệu bài báo với những định kiến tinh vi có thể đại diện cho một công cụ mạnh mẽ để thao túng quần chúng, đặc biệt khi được kiểm soát bởi một thực thể duy nhất có khuynh hướng tư tưởng rõ ràng. Như một bình luận viên đã lưu ý, điều này tạo ra cơ chế hoàn hảo để tạo ra những người theo dõi tuân theo các nhà lãnh đạo đang thúc đẩy lợi ích và chương trình nghị sự của riêng họ.
Bất chấp những lo ngại này, một số ít người nhìn thấy tiềm năng trong khái niệm này, lập luận rằng các phiên bản đầu tiên của công nghệ mới thường có những hạn chế đáng kể sẽ được cải thiện theo thời gian. Tuy nhiên, những thách thức cơ bản trong việc đảm bảo độ chính xác thực tế, nguồn trích dẫn phù hợp và quan điểm cân bằng có thể khó khắc phục với công nghệ AI hiện tại.
Việc ra mắt Grokipedia đại diện cho một trường hợp thử nghiệm quan trọng cho khả năng xử lý các nhiệm vụ quản lý tri thức phức tạp của AI. Mặc dù công nghệ này cho thấy hứa hẹn đối với một số ứng dụng nhất định, nhưng việc triển khai hiện tại cho thấy rằng việc tạo ra nội dung bách khoa toàn thư đáng tin cậy và cân bằng vẫn là một thách thức lớn. Khi AI tiếp tục phát triển, cuộc tranh luận xung quanh các trường hợp sử dụng thích hợp và các biện pháp bảo vệ cần thiết của nó có thể sẽ gia tăng, với Grokipedia đóng vai trò như một ví dụ ban đầu về cả tiềm năng và cạm bẫy của các hệ thống tri thức được tạo bởi AI.
Tham khảo: Grokipedia