Một nghiên cứu đột phá sử dụng trí tuệ nhân tạo để mô phỏng hành vi mạng xã hội đã mang đến tin tức đáng lo ngại cho bất kỳ ai hy vọng khắc phục các vấn đề độc hại đang hoành hành trên các nền tảng trực tuyến. Các nhà nghiên cứu từ University of Amsterdam đã kết hợp mô hình máy tính truyền thống với các mô hình ngôn ngữ lớn (LLMs) để tạo ra các nhân vật AI mô phỏng người dùng mạng xã hội thực tế, và những gì họ phát hiện thách thức mọi thứ chúng ta nghĩ rằng mình biết về sự rối loạn của nền tảng.
 |
|---|
| Hình ảnh này minh họa sự tập trung ngày càng tăng vào việc tiêu thụ phương tiện truyền thông kỹ thuật số, một chủ đề trung tâm trong nghiên cứu về hành vi mạng xã hội |
Vấn đề gốc rễ sâu hơn thuật toán
Cộng đồng nghiên cứu đang sôi nổi tranh luận về phương pháp và kết quả của nghiên cứu này. Trong khi một số chuyên gia đặt câu hỏi về tính hợp lệ của việc sử dụng các mô hình AI để đại diện cho hành vi con người, kết quả cho thấy rằng những vấn đề lớn nhất của mạng xã hội không phải do thuật toán xấu xa hay thao túng của doanh nghiệp gây ra. Thay vào đó, chúng dường như được tích hợp sẵn vào cấu trúc cơ bản của cách thức hoạt động của các mạng lưới này.
Mô phỏng AI đã tiết lộ ba vấn đề cốt lõi xuất hiện một cách tự nhiên: các buồng vang (echo chambers) nơi mọi người chỉ nói chuyện với những người đồng ý với họ, bất bình đẳng cực độ nơi một nhóm nhỏ người dùng thống trị tất cả các cuộc trò chuyện, và việc khuếch đại những tiếng nói gây chia rẽ nhất. Điều khiến các nhà nghiên cứu sốc là những vấn đề này xuất hiện mà không có bất kỳ sự can thiệp nào của thuật toán - chúng đơn giản là kết quả tự nhiên của cách thức hoạt động của các mạng xã hội.
Các Phát Hiện Chính Của Nghiên Cứu:
- Các buồng vang âm xuất hiện tự nhiên mà không cần thao túng thuật toán
- 1% người dùng thống trị các cuộc trò chuyện do phân phối theo quy luật lũy thừa
- Sự bất bình đẳng về sự chú ý tạo ra các vòng phản hồi tập trung ảnh hưởng
- Hầu hết các can thiệp cho thấy cải thiện khiêm tốn nhưng tạo ra sự đánh đổi
- Các vấn đề mang tính cấu trúc, không phải do thuật toán hoặc lựa chọn của người dùng gây ra
Tại sao các giải pháp phổ biến không hiệu quả
Nghiên cứu đã thử nghiệm sáu giải pháp khác nhau mà các chuyên gia đã đề xuất qua nhiều năm, từ việc chuyển sang nguồn cấp dữ liệu theo thứ tự thời gian đến việc thúc đẩy các quan điểm đa dạng. Kết quả đều đáng thất vọng. Ngay cả những can thiệp hứa hẹn nhất cũng chỉ mang lại những cải thiện khiêm tốn trong khi thường làm các vấn đề khác trở nên tệ hơn.
Một thành viên cộng đồng đã nắm bắt được sự thất vọng mà nhiều người cảm thấy với các nền tảng hiện tại, lưu ý rằng ngay cả những lựa chọn thay thế mới hơn như Bluesky , mặc dù không có thuật toán tương tác, vẫn phát triển những động lực độc hại tương tự. Quan sát này hoàn toàn phù hợp với phát hiện cốt lõi của nghiên cứu - các vấn đề không phải về những lựa chọn nền tảng cụ thể mà về bản chất cơ bản của các mạng xã hội quy mô lớn.
Sáu Chiến lược Can thiệp Đã Được Kiểm tra:
- Nguồn cấp dữ liệu theo thứ tự thời gian hoặc ngẫu nhiên
- Đa dạng hóa các thuật toán tương tác
- Giảm khả năng hiển thị của nội dung giật gân
- Tăng cường sự đa dạng quan điểm
- Sử dụng "thuật toán kết nối" để tăng hiểu biết lẫn nhau
- Loại bỏ các tín hiệu ảnh hưởng xã hội và dấu hiệu nhận dạng
Vấn đề định luật quyền lực
Trung tâm của những vấn đề này là cái mà các nhà nghiên cứu gọi là bất bình đẳng chú ý. Trong các tình huống xã hội bình thường, ảnh hưởng có xu hướng được phân phối khá đều giữa các người tham gia. Nhưng các mạng xã hội trực tuyến tạo ra cái được gọi là phân phối định luật quyền lực, nơi 1% người dùng có thể thống trị toàn bộ các cuộc trò chuyện.
Điều này xảy ra bởi vì sự chú ý thu hút thêm sự chú ý. Khi ai đó được chú ý, họ có khả năng được chú ý lại, tạo ra hiệu ứng tuyết lở tập trung ảnh hưởng vào tay một số ít. Nghiên cứu phát hiện động lực này cực kỳ khó phá vỡ, ngay cả với những can thiệp cực đoan có thể khiến các nền tảng trở nên nhàm chán khi sử dụng.
Vượt ra ngoài lựa chọn cá nhân
Nghiên cứu thách thức niềm tin phổ biến rằng các vấn đề mạng xã hội xuất phát từ việc người dùng đưa ra những lựa chọn tồi tệ. Trong khi mọi người thực sự tương tác với nội dung gây phẫn nộ, nghiên cứu cho thấy hành vi này xuất hiện từ các động cơ cấu trúc được tích hợp sẵn trong các nền tảng này thay vì những thất bại đạo đức cá nhân.
Bộ não được kết nối theo cách đó. Tin đồn và mồi nhử cơn thịnh nộ không phải là thứ mà mọi người chủ động quyết định, nó là tiềm thức.
Quan điểm này chuyển cuộc trò chuyện từ việc đổ lỗi cho người dùng sang việc xem xét cách thiết kế nền tảng định hình hành vi theo những cách có thể dự đoán được.
Tìm kiếm các lựa chọn thay thế
Những kết luận ảm đạm của nghiên cứu đã khơi dậy các cuộc thảo luận về những gì có thể thay thế các mô hình mạng xã hội hiện tại. Một số thành viên cộng đồng đang khám phá các ý tưởng như tương tác xã hội dựa trên vị trí hoặc các cấu trúc nhóm nhỏ hơn, thân mật hơn phản ánh các môi trường xã hội truyền thống như quán cà phê thay vì các mạng lưới phát sóng toàn cầu.
Những người khác chỉ ra xu hướng ngày càng tăng của việc mọi người từ bỏ các nền tảng công cộng để chuyển sang các cuộc trò chuyện nhóm riêng tư và ứng dụng nhắn tin. Mặc dù điều này không giải quyết được tác động xã hội rộng lớn hơn của mạng xã hội, nó cho thấy mọi người đang theo bản năng tìm kiếm các môi trường xã hội dễ quản lý hơn.
Nghiên cứu xuất hiện vào thời điểm quan trọng khi trí tuệ nhân tạo giúp việc tạo ra loại nội dung phân cực phát triển mạnh trên các nền tảng hiện tại trở nên dễ dàng hơn. Liệu cuộc khủng hoảng này sẽ buộc sự đổi mới hướng tới các không gian trực tuyến lành mạnh hơn hay chỉ đơn giản là đẩy nhanh các vấn đề chúng ta đã phải đối mặt vẫn còn chưa rõ ràng.
Tham khảo: Study: Social media probably can't be fixed