Đạo luật NO FAKES được cập nhật đã phát triển vượt xa phạm vi ban đầu là giải quyết vấn đề deepfake do AI tạo ra, hiện đang đề xuất những thay đổi toàn diện có thể định hình lại cách thức hoạt động của internet. Điều bắt đầu như một đạo luật để bảo vệ mọi người khỏi những bản sao AI có hại đã chuyển thành một khung kiểm duyệt toàn diện nhắm vào không chỉ nội dung mà cả các công cụ được sử dụng để tạo ra nó.
Nhắm vào các công cụ và đổi mới
Dự luật sửa đổi thực hiện một bước chưa từng có bằng cách tấn công các phần mềm và dịch vụ được sử dụng để tạo ra các bản sao kỹ thuật số trái phép. Điều này có nghĩa là các nhà phát triển công cụ tạo hình ảnh AI có thể phải đối mặt với hành động pháp lý chỉ dựa trên các cáo buộc rằng phần mềm của họ đã bị lạm dụng. Đạo luật bao gồm một số hạn chế - các công cụ phải được thiết kế chủ yếu cho mục đích sử dụng trái phép hoặc có mục đích thương mại hợp pháp hạn chế - nhưng những biện pháp bảo vệ này ít mang lại sự an ủi cho các nhà đổi mới có thể bị nhắm mục tiêu mà không có bằng chứng thực chất.
Cách tiếp cận này thực sự trao quyền phủ quyết đối với đổi mới công nghệ cho những người nắm giữ quyền nội dung. Các startup AI nhỏ và nhà phát triển độc lập sẽ thấy mình đặc biệt dễ bị tổn thương, vì họ thiếu nguồn lực pháp lý để bảo vệ chống lại các khiếu nại vô căn cứ. Cộng đồng công nghệ đã lưu ý cách điều này phản ánh các cuộc chiến bản quyền trong quá khứ, nơi đổi mới bị cản trở bởi các cơ chế thực thi quá rộng.
Tác động đến các quy mô công ty khác nhau:
- Các công ty công nghệ lớn: Có thể hấp thụ chi phí tuân thủ, có thể được hưởng lợi từ việc giảm cạnh tranh
- Các startup nhỏ: Đối mặt với những rào cản đáng kể do các yêu cầu kỹ thuật và pháp lý phức tạp
- Các nhà phát triển công cụ AI: Có nguy cơ bị kiện tụng dựa trên cáo buộc sử dụng sai mục đích
- Các nền tảng mới: Rào cản gia nhập cao hơn khiến việc cạnh tranh với các đối thủ đã có vị thế trở nên khó khăn hơn
Hệ thống bộ lọc bắt buộc tạo ra cơ sở hạ tầng kiểm duyệt mới
Có lẽ khía cạnh đáng lo ngại nhất của Đạo luật NO FAKES được cập nhật là yêu cầu các nền tảng triển khai hệ thống lọc tự động. Không giống như các bộ lọc bản quyền hiện tại, vốn có vấn đề nhưng không được pháp luật yêu cầu, đạo luật này sẽ làm cho các hệ thống như vậy trở thành yêu cầu pháp lý để duy trì sự bảo vệ cảng an toàn.
Các bộ lọc này sẽ cần tự động phát hiện và chặn không chỉ nội dung bản sao bị cáo buộc, mà còn ngăn chặn bất kỳ nội dung tương tự nào được tải lên trong tương lai. Cộng đồng công nghệ có kinh nghiệm rộng rãi về việc các hệ thống như vậy hoạt động kém như thế nào trong thực tế. Các bộ lọc bản quyền hiện tại thường xuyên gắn cờ nội dung hợp pháp, không hiểu được bối cảnh và gặp khó khăn với các ngoại lệ sử dụng hợp lý như nhại lại và bình luận.
Nghe có vẻ như loại hệ thống mà các công ty nhỏ không thể triển khai và các công ty lớn sẽ không quan tâm đến việc triển khai.
Yêu cầu lọc sẽ tạo ra những rào cản đáng kể cho các nền tảng mới cố gắng cạnh tranh với các gã khổng lồ công nghệ đã thành lập. Trong khi các công ty lớn có thể hấp thụ chi phí triển khai hệ thống lọc phức tạp, các đối thủ cạnh tranh nhỏ hơn sẽ gặp khó khăn để đáp ứng những yêu cầu này, thực sự củng cố sự thống trị của các nền tảng hiện có.
Các yêu cầu chính của Đạo luật NO FAKES:
- Hệ thống gỡ bỏ: Các nền tảng phải xóa nội dung khi nhận được thông báo
- Yêu cầu bộ lọc: Hệ thống tự động để ngăn chặn việc tải lên lại nội dung đã bị gắn cờ
- Nhắm mục tiêu công cụ: Trách nhiệm pháp lý đối với người tạo/lưu trữ các công cụ tạo AI
- Tiết lộ danh tính người dùng: Trát đòi hầu tòa có thể được cấp từ thư ký tòa án mà không cần xem xét của thẩm phán
- Khu vực an toàn: Cần tuân thủ để duy trì các biện pháp bảo vệ pháp lý
 |
|---|
| Đồ họa này thể hiện xung đột giữa đổi mới và quy định, làm nổi bật những thách thức mà các nền tảng mới có thể phải đối mặt dưới các yêu cầu lọc bắt buộc |
Quyền riêng tư và phát biểu ẩn danh đang bị đe dọa
Đạo luật bao gồm các điều khoản sẽ làm cho việc vạch mặt người dùng ẩn danh trực tuyến trở nên dễ dàng hơn. Bất kỳ ai tuyên bố là nạn nhân của một bản sao trái phép đều có thể lấy được trát đòi hầu tòa từ thư ký tòa án - không yêu cầu sự chấp thuận từ thẩm phán hoặc bằng chứng thực chất về khiếu nại của họ. Quy trình này có thể dễ dàng bị lạm dụng để làm im lặng những người chỉ trích hoặc tiết lộ danh tính của những người tham gia vào phát biểu ẩn danh hợp pháp.
Cộng đồng công nghệ đã chứng kiến việc lạm dụng các hệ thống tương tự trong các vụ án bản quyền, nơi những người chỉ trích đã bị vạch mặt chỉ đơn giản vì bao gồm tài liệu có bản quyền làm bằng chứng trong lời chỉ trích của họ. Đạo luật NO FAKES sẽ mở rộng những thực hành đáng lo ngại này sang một danh mục tranh chấp nội dung hoàn toàn mới.
Chiếm đoạt quy định và hợp nhất thị trường
Đạo luật dường như tuân theo một mô hình quen thuộc trong quy định công nghệ nơi các công ty đã thành lập ủng hộ các quy tắc tạo ra rào cản cao để gia nhập cho các đối thủ cạnh tranh tiềm năng. Các yêu cầu tuân thủ phức tạp sẽ có thể quản lý được đối với các gã khổng lồ công nghệ với nguồn lực pháp lý và kỹ thuật rộng rãi, nhưng có thể chứng minh là không thể vượt qua đối với các startup và nền tảng nhỏ hơn.
Động lực này đã diễn ra nhiều lần trong các ngành công nghiệp khác nhau, nơi các tập đoàn lớn ban đầu phản đối quy định trong khi phá vỡ thị trường, sau đó chấp nhận nó một khi họ đạt được vị trí thống trị. Kết quả thường là giảm cạnh tranh và đổi mới, với người tiêu dùng cuối cùng phải gánh chịu chi phí thông qua ít lựa chọn hơn và dịch vụ chất lượng thấp hơn.
Kết luận
Đạo luật NO FAKES đại diện cho một sự leo thang đáng kể trong quy định internet vượt xa việc giải quyết những lo ngại hợp pháp về deepfake do AI tạo ra. Bằng cách nhắm vào các công cụ, yêu cầu bộ lọc và làm suy yếu sự bảo vệ quyền riêng tư, đạo luật có thể thay đổi cơ bản cách thức hoạt động của internet. Những lo ngại của cộng đồng công nghệ về kiểm duyệt, rào cản đổi mới và hợp nhất thị trường làm nổi bật nhu cầu về các cách tiếp cận có mục tiêu hơn để giải quyết những tác hại cụ thể mà không tạo ra cơ sở hạ tầng kiểm duyệt rộng mới.
Tham khảo: The NO FAKES Act Has Changed – and It's So Much Worse