Một loạt video được tạo bằng AI có nhân vật là một người đàn ông da trắng hư cấu tên Josh phàn nàn về việc cạnh tranh công việc với người nhập cư đã châm ngòi cho cuộc thảo luận sôi nổi về đạo đức của trí tuệ nhân tạo trong marketing và thao túng mạng xã hội. Những video này được tạo ra bằng phần mềm AI tiên tiến Veo của Google , đã bị gỡ bỏ khỏi TikTok sau khi cuộc điều tra của CBC tiết lộ chúng là một phần của chiến dịch fake-fluencing do công ty AI Nayva thực hiện.
Khả năng của Google Veo AI:
- Veo2 được phát hành vào tháng 5 năm 2024
- Tạo video từ các lệnh văn bản
- Đồng bộ hóa chuyển động môi với âm thanh
- Giảm các lỗi hình ảnh so với các phiên bản trước
- Tự động thêm watermark ở góc dưới bên phải
Mối quan ngại của cộng đồng về khả năng lừa dối của AI
Sự việc này đã đặt ra những câu hỏi nghiêm túc về việc AI hiện đại có thể dễ dàng đánh lừa người xem như thế nào. Các cuộc thảo luận cộng đồng cho thấy ngay cả các chuyên gia marketing ban đầu cũng bị đánh lừa bởi chất lượng chân thực của những video này. Phiên bản mới nhất của AI Veo2 của Google có thể tạo ra nội dung có tính thuyết phục cao từ những câu lệnh văn bản đơn giản, với chuyển động môi đồng bộ và giọng nói tự nhiên mà các công cụ AI trước đây gặp khó khăn để đạt được.
Điều đặc biệt đáng lo ngại là những dấu hiệu thị giác tinh tế từng giúp nhận diện nội dung được tạo bằng AI đang trở nên khó phát hiện hơn. Trong khi một số người xem nhận thấy những điểm không nhất quán như màu tay không khớp hoặc chuyển động không tự nhiên, nhiều người khác tin rằng họ đang xem một người thật chia sẻ những trải nghiệm chân thực.
Tranh luận về trách nhiệm nền tảng và kiểm duyệt nội dung
Việc gỡ bỏ những video này đã gây ra cuộc tranh luận sôi nổi về trách nhiệm của các nền tảng mạng xã hội. Trong khi TikTok tuyên bố các video vi phạm hướng dẫn về việc ghi nhãn AI không đầy đủ thay vì thông điệp gây tranh cãi của chúng, các thành viên cộng đồng đặt câu hỏi liệu các nền tảng có nên có hành động mạnh mẽ hơn chống lại nội dung thao túng bất kể phân loại kỹ thuật của nó.
Một số người cho rằng trách nhiệm thuộc về những người tạo nội dung phải ghi nhãn rõ ràng nội dung được tạo bằng AI, trong khi những người khác tin rằng các nền tảng cần hệ thống phát hiện mạnh mẽ hơn. Cuộc thảo luận làm nổi bật thách thức ngày càng tăng khi nội dung được tạo bằng AI trở nên tinh vi hơn và khó phân biệt với các bài đăng chân thực.
Hướng dẫn Nội dung AI của TikTok:
- Nội dung thực tế được tạo bởi AI phải được gắn nhãn rõ ràng
- Yêu cầu có chú thích, watermark, sticker hoặc nhãn
- Thông báo "Người tạo nội dung đã gắn nhãn là do AI tạo ra" khi được gắn thẻ đúng cách
- Các nhãn không được áp dụng tự động bởi nền tảng
Tác động rộng hơn đối với chiến tranh thông tin
Có lẽ điều đáng lo ngại nhất đối với các nhà quan sát cộng đồng là cách sự việc này chứng minh tiềm năng của AI trong việc khuếch đại căng thẳng xã hội và lan truyền thông điệp chia rẽ. Những video này nhắm vào những lo lắng thực tế về kinh tế liên quan đến tình trạng thất nghiệp của giới trẻ và cạnh tranh việc làm, sử dụng các nhân vật nhân tạo để xác nhận các quan điểm gây tranh cãi và có khả năng ảnh hưởng đến dư luận về chính sách nhập cư.
Loại nội dung này và cách kể chuyện có tính phân cực cao là điều chúng ta có thể mong đợi từ các nhóm cực hữu. Việc một công ty sử dụng loại giai điệu chiến dịch này để thu hút người tiêu dùng sử dụng dịch vụ của mình là cực kỳ, cực kỳ có vấn đề.
Vụ việc này minh họa cách những kẻ xấu có thể khai thác các công cụ AI tiên tiến để tạo ra các chiến dịch thông tin sai lệch thuyết phục, khiến người dùng bình thường ngày càng khó phân biệt giữa nội dung cơ sở chân thực và tuyên truyền được sản xuất nhằm thao túng tình cảm công chúng.
Bối cảnh Việc làm Thanh niên:
- Tỷ lệ thất nghiệp thanh niên Toronto khoảng 20%
- Ảnh hưởng đến nhóm tuổi 15-24
- Bao gồm sinh viên vẫn đang theo học
- Tạo ra tính dễ bị tổn thương trước các thông điệp chia rẽ
Tương lai của quy định nội dung AI
Sự việc này có thể đẩy nhanh các lời kêu gọi quy định chặt chẽ hơn đối với nội dung được tạo bằng AI trên các nền tảng mạng xã hội. Các cuộc thảo luận cộng đồng cho thấy sự ủng hộ ngày càng tăng đối với các yêu cầu ghi nhãn bắt buộc và các hạn chế tiềm năng về việc sử dụng AI để tạo ra các nhân vật con người chân thực cho mục đích marketing.
Khi công nghệ tạo video AI tiếp tục cải thiện, thách thức duy trì niềm tin vào nội dung trực tuyến trở nên phức tạp hơn. Những video Josh đóng vai trò như một cảnh báo sớm về cách các công cụ AI tinh vi có thể bị lạm dụng để đánh lừa khán giả và thao túng diễn ngôn công cộng về các vấn đề xã hội và chính trị nhạy cảm.
Tham khảo: That white guy who can't get a job at Tim Hortons? He's AI