Thông báo của chính phủ UK về việc mở rộng Đạo Luật An Toàn Trực Tuyến bằng cách biến nội dung tự hại thành tội ưu tiên đã châm ngòi cho một cuộc tranh luận gay gắt về hiệu quả và những nguy hiểm tiềm ẩn của việc kiểm duyệt nội dung bằng thuật toán. Trong khi luật pháp nhằm bảo vệ người dùng dễ bị tổn thương khỏi tài liệu có hại, các cuộc thảo luận trong cộng đồng công nghệ cho thấy những lo ngại sâu sắc về việc vượt quá thẩm quyền và hậu quả không mong muốn.
Các quy định mới sẽ yêu cầu các công ty công nghệ chủ động tìm kiếm và loại bỏ nội dung khuyến khích hoặc hỗ trợ tự hại nghiêm trọng trước khi nó tiếp cận người dùng. Điều này thể hiện sự chuyển đổi từ kiểm duyệt phản ứng sang các biện pháp phòng ngừa, mở rộng sự bảo vệ trước đây chỉ áp dụng cho trẻ em để bao gồm tất cả người dùng.
Yêu cầu pháp lý đối với các công ty công nghệ
- Chủ động tìm kiếm và loại bỏ nội dung có hại trước khi người dùng tiếp xúc
- Sử dụng "công nghệ tiên tiến" để phát hiện nội dung
- Áp dụng các biện pháp bảo vệ pháp lý mạnh nhất như "vi phạm ưu tiên"
- Chuyển từ phương pháp kiểm duyệt phản ứng sang phòng ngừa
Kiểm Duyệt Thuật Toán Tạo Ra Thiệt Hại Phụ
Các cuộc thảo luận cộng đồng làm nổi bật một vấn đề cơ bản với việc lọc nội dung tự động: thuật toán gặp khó khăn trong việc phân biệt giữa nội dung có hại và các cuộc thảo luận hợp pháp. Mối lo ngại mở rộng ra ngoài việc khớp từ khóa đơn giản để ảnh hưởng đến tài nguyên giáo dục, báo cáo tin tức và các cộng đồng hỗ trợ thảo luận về những chủ đề này một cách mang tính xây dựng.
Cộng đồng công nghệ chỉ ra các ví dụ hiện có nơi các nền tảng đã thể hiện vấn đề này. Hệ thống tự động của YouTube thường xuyên gắn cờ nội dung không liên quan với các banner phòng chống tự tử, trong khi các trang web hỗ trợ hợp pháp bị kiểm duyệt vì thảo luận về chính những chủ đề mà họ nhằm giải quyết. Một nhà quan sát lưu ý rằng ngay cả cuộc thảo luận này về luật pháp cũng có thể bị gắn cờ tự động và loại bỏ bởi các hệ thống lọc quá nhiệt tình.
Kiểm duyệt thuật toán: Các hệ thống tự động quét và lọc nội dung dựa trên các quy tắc được xác định trước và mô hình học máy
Sự Trỗi Dậy của Algospeak và Rào Cản Giao Tiếp
Việc thúc đẩy kiểm duyệt nội dung nghiêm ngặt hơn đã biến đổi cách mọi người giao tiếp trực tuyến, tạo ra những từ uyển ngữ sáng tạo và ngôn ngữ mã hóa. Người dùng đã phát triển các thuật ngữ như unalive thay vì suicide, sewerslide, và self-terminate để tránh kích hoạt bộ lọc nội dung trên các nền tảng như TikTok và Instagram.
Sự tiến hóa ngôn ngữ này xuất phát từ mối lo ngại của người sáng tạo về việc mất tiền và bị đàn áp nội dung. Cộng đồng lưu ý rằng trong khi một số ngôn ngữ mã hóa này xuất hiện từ sự sáng tạo vui tươi, phần lớn nó đại diện cho một nỗ lực thực sự để thảo luận các chủ đề nghiêm trọng mà không bị can thiệp thuật toán. Tuy nhiên, xu hướng này làm dấy lên lo ngại rằng các cuộc thảo luận quan trọng về sức khỏe tâm thần đang bị tầm thường hóa thông qua các từ uyển ngữ bắt buộc.
Các thuật ngữ "Algospeak" phổ biến
- "Unalive" → tự tử
- "Sewerslide" → tự tử
- "Self-terminate" → tự hại
- "PDF file" → kẻ ấu dâm
- "Neurospicy" → khác biệt thần kinh
- "Bird website" → X ( Twitter )
- 🍉 (biểu tượng cảm xúc quả dưa hấu) → Palestine
Động Cơ Bất Đối Xứng Thúc Đẩy Kiểm Duyệt Thái Quá
Các nhà quan sát ngành công nghệ xác định một khiếm khuyết quan trọng trong cách các luật kiểm duyệt nội dung được cấu trúc: chúng tạo ra động cơ tài chính mạnh mẽ cho các công ty kiểm duyệt thái quá thay vì rủi ro bị phạt pháp lý. Khi các nền tảng phải đối mặt với hậu quả pháp lý và tài chính đáng kể vì cho phép nội dung có hại nhưng chỉ bị phạt tối thiểu vì loại bỏ tài liệu hợp pháp, họ tự nhiên tối ưu hóa cho việc lọc tích cực.
Không có động cơ nào chống lại việc xóa nội dung tốt một cách thuật toán do lỗi. Nếu bạn áp đặt rủi ro tài chính và pháp lý lớn ở một bên, và về cơ bản không có gì ở bên kia, một tập đoàn công cộng sẽ rất hợp lý khi tối ưu hóa cho các động cơ mà bạn đã đưa ra cho họ.
Sự mất cân bằng này có nghĩa là tin tức quan trọng, nội dung giáo dục và tài nguyên hỗ trợ thường trở thành nạn nhân của các hệ thống kiểm duyệt tự động được thiết kế để tránh các hình phạt quy định.
Lịch trình triển khai
- Các quy định có hiệu lực sau 21 ngày kể từ khi được quốc hội phê duyệt
- Văn bản pháp luật dự kiến sẽ được trình vào mùa thu năm 2024
- Nội dung tự gây thương tích trở thành "tội danh ưu tiên" đối với tất cả người dùng (trước đây chỉ áp dụng cho trẻ em)
Những Câu Hỏi Rộng Hơn Về Phạm Vi Nội Dung
Việc luật pháp tập trung cụ thể vào nội dung tự hại trong khi loại trừ các hoạt động có thể có hại khác đã thu hút sự chỉ trích vì phạm vi hẹp của nó. Các cuộc thảo luận cộng đồng đặt câu hỏi tại sao luật nhắm mục tiêu nội dung liên quan đến tự tử nhưng bỏ qua các hình thức hành vi tự phá hoại khác được quảng bá trực tuyến, chẳng hạn như cờ bạc quá mức, tiêu thụ rượu hoặc các thử thách ăn uống nguy hiểm.
Cách tiếp cận có chọn lọc này đặt ra câu hỏi về tính nhất quán trong việc bảo vệ người dùng khỏi nội dung có hại và liệu luật pháp có giải quyết các triệu chứng thay vì nguyên nhân cơ bản của tác hại trực tuyến.
Cuộc tranh luận phản ánh những căng thẳng rộng hơn giữa việc bảo vệ người dùng dễ bị tổn thương và duy trì diễn ngôn trực tuyến mở. Khi các quy định tiến tới việc thực hiện vào mùa thu năm 2024, cộng đồng công nghệ tiếp tục vật lộn với việc tìm ra các giải pháp hiệu quả không hy sinh giao tiếp hợp pháp trong việc theo đuổi sự an toàn.
Tham khảo: Online safety laws to strengthen to protect people of all ages from devastating self-harm content