Một cuộc tranh luận nóng bỏng đang diễn ra trong cộng đồng công nghệ và nhân đạo về sự trỗi dậy của phim khiêu dâm nghèo đói do AI tạo ra - những hình ảnh định kiến, mang tính phân biệt chủng tộc về sự đau khổ được tạo ra bởi trí tuệ nhân tạo. Trong khi nhiều người lên án công nghệ này, một cuộc thảo luận sâu hơn đang nổi lên về việc liệu vấn đề thực sự nằm ở chính công cụ hay ở những định kiến lâu đời của các tổ chức đang sử dụng nó.
Xung Đột Cốt Lõi: AI Là Vấn Đề Hay Chỉ Là Sứ Giả?
Luận điểm trung tâm chia rẽ cộng đồng là liệu generative AI có phải là nguyên nhân gốc rễ của những hình ảnh độc hại hay chỉ đơn thuần là một cơ chế phân phối mới, hiệu quả hơn cho những định kiến có sẵn từ trước. Những người chỉ trích công nghệ xem nó như một công cụ kích động nguy hiểm cần phải được kiểm soát, trong khi những người khác cho rằng việc cấm đoán công cụ này sẽ chỉ là một giải pháp hời hợt không giải quyết được vấn đề cốt lõi.
Vấn đề nằm ở công cụ. Cho rằng điều ngược lại là cho rằng bất kỳ ai cũng nên được mua vũ khí hạt nhân vốn tự thân chúng chẳng làm gì cả. Những kẻ xấu chỉ có thể tận dụng những gì đang tồn tại.
Quan điểm này xem AI như một công cụ vốn dĩ nguy hiểm, làm khuếch đại tác hại. Tuy nhiên, quan điểm này bị phản bác mạnh mẽ bởi những người tin rằng trọng tâm nên là người dùng và động cơ của họ, chứ không phải bản thân công nghệ. Họ lập luận rằng động lực tạo ra những hình ảnh phi nhân tính đã tồn tại từ lâu trước khi có AI, bắt nguồn từ tư duy thực dân trong lĩnh vực nhân đạo, nơi ưu tiên cảm nhận của các nhà tài trợ phương Tây hơn là phẩm giá của các đối tượng được mô tả.
Hậu Quả Thực Tế Của Một Chẩn Đoán Sai
Cuộc thảo luận nhanh chóng chuyển hướng sang tác động trong thế giới thực của cách chúng ta đặt khung vấn đề cho vấn đề này. Nếu giải pháp là một lệnh cấm toàn diện đối với AI trong truyền thông nhân đạo, nhiều người lo sợ nó sẽ gây tổn hại không tương xứng cho các tổ chức địa phương nhỏ hơn. Đối với các nhóm này, AI không phải là công cụ để tạo ra phim khiêu dâm nghèo đói mà là một lợi thế chiến thuật trong cuộc chiến sinh tồn. Họ thường thiếu nguồn lực để có đầy đủ đội ngũ truyền thông và nhiếp ảnh gia chuyên nghiệp, khiến AI trở thành một cách tiết kiệm chi phí để cạnh tranh giành sự chú ý trong một thế giới vận hành bằng thuật toán vốn đòi hỏi nội dung hình ảnh liên tục.
Hơn nữa, một số tổ chức có đạo đức đang sử dụng AI để giải quyết các vấn đề đạo đức sâu sắc, chẳng hạn như tạo ra những bức chân dung trang trọng cho các câu chuyện mà không khai thác sự đồng ý của những người thật. Một lệnh cấm rộng rãi sẽ tước mất những trường hợp sử dụng tích cực này trong khi cho phép các tổ chức lớn, giàu có đơn giản quay trở lại các phương pháp có hại cũ của họ bằng nhiếp ảnh truyền thống. Điều này làm nổi bật một căng thẳng quan trọng trong cuộc tranh luận: nguy cơ trừng phạt sự đổi mới có đạo đức trong khi không giải quyết được các vấn đề văn hóa cốt lõi trong các tổ chức viện trợ lớn.
Cái Nhìn Sâu Hơn Về Các Vấn Đề Hệ Thống Và Trách Nhiệm Giải Trình
Những người bình luận chỉ ra rằng tổ hợp công nghiệp phi chính phủ (NGO) từ lâu đã truyền bá những định kiến có hại này, bất kể công nghệ nào được sử dụng. Mô hình kinh doanh của nhiều tổ chức lớn dựa vào việc thể hiện sự đau khổ để thúc đẩy quyên góp, tạo ra một nhu cầu mang tính hệ thống đối với những hình ảnh như vậy. Điều này cho thấy vấn đề không phải là công nghệ mà là cấu trúc, gắn liền với cách thức viện trợ được tài trợ và biện minh cho các nhà tài trợ ở các nước Bắc Bán cầu (Global North).
Cuộc trò chuyện tiết lộ một sự bất đồng cơ bản về bản chất của giải pháp. Một số ủng hộ các biện pháp khắc phục kỹ thuật và kiểm duyệt nội dung, trong khi những người khác khẳng định rằng chỉ có một sự thay đổi văn hóa sâu sắc trong khu vực nhân đạo - thách thức những di sản thực dân sâu sắc, chưa được giải quyết của nó - mới tạo ra sự thay đổi lâu dài. Điều này định hình lại cuộc tranh luận từ Chúng ta có nên sử dụng AI? thành Làm thế nào để chúng ta thách thức các hệ thống đang đòi hỏi những hình ảnh này ngay từ đầu?.
Sự Đánh Đổi Không Thể Tránh Khỏi Trong Một Thế Giới Kết Nối
Cuộc thảo luận mở rộng thành một cuộc tranh luận triết học rộng hơn về sự đánh đổi vốn có trong việc xây dựng các hệ thống truyền thông hiện đại. Một người bình luận đưa ra một tình thế tiến thoái lưỡng nan, lập luận rằng chúng ta chỉ có thể có hai trong số ba phẩm chất mong muốn trong hệ sinh thái kỹ thuật số của mình: các nền tảng phi tập trung, sự tham gia ẩn danh và nội dung đáng tin cậy miễn nhiễm với các tác nhân xấu. Khuôn khổ này gợi ý rằng các vấn đề với nội dung do AI tạo ra không phải là duy nhất mà là một phần của một câu đố lớn hơn, không thể giải quyết được về quản trị trực tuyến. Chúng ta bị bỏ lại với sự lựa chọn giữa một cảnh quan hỗn loạn không thể sử dụng được vì thư rác, những khu vườn tường do tập đoàn tập trung kiểm soát, hoặc những khu vườn tường được xác minh danh tính ở cấp chính phủ. Quan điểm này ngụ ý rằng có thể không có giải pháp kỹ thuật hoàn hảo cho những thách thức đạo đức do AI đặt ra.
Cuộc tranh luận về phim khiêu dâm nghèo đói do AI tạo ra còn lâu mới kết thúc. Nó đã phát triển từ một sự lên án đơn giản về một công nghệ mới thành một cuộc kiểm tra phức tạp về định kiến hệ thống, hậu quả thực tế cho các tổ chức nhỏ và những sự đánh đổi cơ bản được yêu cầu trong thời đại kỹ thuật số của chúng ta. Như một người bình luận đã lưu ý, công việc thực sự phía trước không phải là giám sát một công cụ, mà là thách thức các văn hóa làm việc đã thông qua các chiến dịch này ngay từ đầu.
Tham khảo: How do we stop AI-generated ‘poverty porn’ fake images?