Việc Anthropic ủng hộ dự luật quy định AI SB 53 của California đã châm ngòi cho một cuộc tranh luận gay gắt trong cộng đồng công nghệ về việc liệu công ty này có thực sự đang thúc đẩy an toàn hay đang tham gia vào việc chiếm đoạt quy định để kìm hãm cạnh tranh. Dự luật này sẽ yêu cầu các công ty AI lớn công bố khung an toàn, báo cáo sự cố và cung cấp bảo vệ cho người tố giác - những yêu cầu gần như trùng khớp với những gì Anthropic đã đang thực hiện.
Các yêu cầu chính của SB 53:
- Phát triển và công bố các khung an toàn để quản lý rủi ro thảm khốc
- Phát hành báo cáo minh bạch công khai trước khi triển khai các mô hình mạnh mẽ
- Báo cáo các sự cố an toàn nghiêm trọng cho bang trong vòng 15 ngày
- Cung cấp biện pháp bảo vệ người tố giác vi phạm an toàn
- Đối mặt với các khoản phạt tiền khi vi phạm khung an toàn
- Áp dụng cho các mô hình được huấn luyện với 10^26 FLOPS trở lên
Sự hoài nghi của cộng đồng về việc chiếm đoạt quy định
Cộng đồng công nghệ đã phản ứng với sự hoài nghi rộng rãi đối với việc Anthropic ủng hộ luật này. Nhiều người bình luận coi đây là một trường hợp điển hình của việc chiếm đoạt quy định, nơi các công ty đã có chỗ đứng ủng hộ các quy định chính thức hóa các thực hành hiện có của họ trong khi tạo ra rào cản cho các đối thủ cạnh tranh mới. Những lời chỉ trích tập trung vào quan sát rằng khi các công ty ủng hộ những quy định mà họ phải tuân thủ, điều đó thường báo hiệu rằng các quy tắc này hoặc không gây gánh nặng cho họ hoặc thực sự giúp loại bỏ cạnh tranh.
Tuy nhiên, tình hình không hoàn toàn đơn giản. Một số thành viên cộng đồng chỉ ra rằng OpenAI và công ty đầu tư mạo hiểm Andreessen Horowitz đang phản đối dự luật này, điều này làm phức tạp các lý thuyết chống cạnh tranh đơn giản. Sự chia rẽ này giữa các nhân tố chính cho thấy bối cảnh quy định có thể tinh tế hơn so với việc phối hợp ngành thuần túy.
Lập trường của ngành công nghiệp về SB 53:
- Ủng hộ: Anthropic
- Phản đối: OpenAI , Andreessen Horowitz ( A16Z )
- Đã triển khai các thực hành tương tự: Google DeepMind , Microsoft
- Được miễn trừ: Các startup và công ty nhỏ hơn không có khả năng phát triển các mô hình mạnh mẽ
Mối quan ngại kỹ thuật và khả năng AI hiện tại
Một phần đáng kể của cuộc thảo luận tập trung vào việc liệu các mô hình AI hiện tại có thực sự gây ra những rủi ro thảm khốc mà SB 53 nhằm giải quyết hay không. Những người chỉ trích cho rằng các mô hình hiện tại còn cách xa khả năng tạo ra các sự cố thương vong hàng loạt hoặc thiệt hại tiền tệ đáng kể, khiến khung quy định trở thành quan liêu sớm muộn. Họ khẳng định rằng các mô hình mạnh mẽ đã tồn tại và có thể chạy trên phần cứng tiêu dùng mà không có vấn đề lớn.
Thế hệ mô hình hiện tại còn cách xa khả năng tạo ra bất kỳ loại kết quả thảm khốc nào.
Những người ủng hộ phản bác rằng các mô hình không hạn chế với sức mạnh tính toán đủ lớn có thể tạo ra những vấn đề chưa từng có, và quy định chủ động tốt hơn phản ứng sau khi sự cố xảy ra.
Tác động đến bối cảnh cạnh tranh
Cuộc tranh luận tiết lộ những mối quan ngại sâu sắc hơn về cách quy định có thể định hình lại ngành AI. Các thành viên cộng đồng lo ngại rằng việc Anthropic định vị tập trung vào an toàn vừa là chiến lược marketing vừa là rào cản cạnh tranh. Bằng cách thiết lập mình như công ty AI an toàn trong khi đồng thời đào tạo các mô hình tiên tiến, những người chỉ trích cho rằng họ đang có cả hai cách - tuyên bố vị thế đạo đức cao trong khi theo đuổi cùng một sự tiến bộ công nghệ như các đối thủ cạnh tranh.
Ngưỡng 10^26 FLOPS cho quy định đặc biệt thu hút sự chỉ trích vì có thể tùy tiện, với lo ngại rằng nó có thể bỏ lỡ một số mô hình mạnh mẽ trong khi gây gánh nặng không cần thiết cho những mô hình khác. Đặc điểm kỹ thuật này trở nên quan trọng trong việc xác định công ty nào phải đối mặt với chi phí tuân thủ quy định.
Tác động rộng hơn đến ngành
Tranh cãi mở rộng ra ngoài chỉ một dự luật đến các câu hỏi về cách ngành AI nên được quản lý. Một số người coi các quan hệ đối tác Pentagon gần đây của Anthropic là mâu thuẫn với lời nói về an toàn của họ, coi đó là bằng chứng rằng các tuyên bố về an toàn AI của doanh nghiệp chủ yếu là marketing hơn là nguyên tắc thực sự. Những người khác cho rằng làm việc với các cơ quan quốc phòng thực sự phù hợp với phát triển AI có trách nhiệm.
Cuộc thảo luận phản ánh một căng thẳng rộng hơn trong cộng đồng công nghệ giữa những người tin rằng phát triển AI cần giám sát và những người coi hầu hết các quy định được đề xuất là rào cản sớm muộn đối với đổi mới. Khi khả năng AI tiếp tục tiến bộ nhanh chóng, cuộc tranh luận về khung quản trị phù hợp này có thể sẽ tăng cường trên nhiều khu vực pháp lý.
Tham khảo: Anthropic is endorsing SB 53