Anthropic được cho là đã từ chối sửa đổi điều khoản dịch vụ để cho phép các cơ quan chính phủ Mỹ sử dụng các mô hình AI Claude của họ cho các hoạt động giám sát trong nước. Việc từ chối này đã gây ra cuộc thảo luận sôi nổi trong cộng đồng công nghệ về sự cân bằng giữa các nguyên tắc an toàn AI và hợp đồng chính phủ.
Tình huống này dường như xuất phát từ các cuộc đàm phán hợp đồng thường lệ, nơi các cơ quan chính phủ tìm cách sử dụng Claude cho nhiều mục đích khác nhau, bao gồm một số hoạt động thuộc các hạn chế hiện tại của Anthropic về các hoạt động giám sát. Không giống như một số đối thủ cạnh tranh, Anthropic duy trì các hạn chế rộng hơn mà không có các ngoại lệ cụ thể cho các hoạt động thực thi pháp luật.
Các Nhân Vật Chính và Lập Trường:
- Anthropic: Duy trì các hạn chế giám sát rộng rãi mà không có ngoại lệ cho cơ quan thực thi pháp luật
- OpenAI: Cấm "giám sát cá nhân trái phép" (ngụ ý đồng ý cho việc giám sát hợp pháp)
- Microsoft: Hạn chế "giám sát liên tục hoặc nhận dạng thời gian thực mà không có sự đồng ý hợp lệ"
- Chính phủ Mỹ: Đang tìm cách sửa đổi các điều khoản cho các ứng dụng AI liên quan đến giám sát
 |
|---|
| Thảo luận về đạo đức AI và hợp đồng chính phủ khi Anthropic từ chối sửa đổi điều khoản dịch vụ |
Đàm phán hợp đồng so với lập trường nguyên tắc
Những người quan sát cộng đồng có quan điểm chia rẽ về việc liệu điều này có thể hiện một vị trí đạo đức thực sự hay chỉ đơn giản là các cuộc đàm phán kinh doanh tiêu chuẩn. Một số người xem đây là các cuộc thảo luận hợp đồng liên bang điển hình, nơi các cơ quan cố gắng sửa đổi điều khoản và các công ty phản đối. Thực tế có thể ít kịch tính hơn so với báo cáo ban đầu, với một người bình luận lưu ý rằng điều này giống như một cuộc đàm phán hợp đồng liên bang điển hình với một bánh xe cót két ở đâu đó.
Tình huống này làm nổi bật cách các công ty AI đang điều hướng bối cảnh phức tạp của các hợp đồng chính phủ trong khi duy trì các nguyên tắc đạo đức đã tuyên bố. Các mô hình của Anthropic đã có sẵn thông qua các thị trường liên bang, cho thấy công ty không hoàn toàn phản đối việc sử dụng của chính phủ.
Hạn chế sử dụng trên toàn ngành
Cuộc thảo luận tiết lộ rằng các hạn chế sử dụng trong hợp đồng phần mềm không hề bất thường. Nhiều giấy phép phần mềm truyền thống chứa các hạn chế tương tự, đặc biệt là đối với các ứng dụng quan trọng về an toàn hoặc quân sự. Ngay cả các ngôn ngữ lập trình phổ biến như Java cũng bao gồm các cảnh báo chống lại việc sử dụng trong các cơ sở hạt nhân, điều hướng máy bay hoặc hệ thống vũ khí.
Mọi thứ đều nguy hiểm theo mặc định. Đó là điểm mấu chốt.
Cách tiếp cận bảo vệ trách nhiệm pháp lý này mở rộng trên toàn ngành phần mềm, nơi các công ty thường xuyên hạn chế một số cách sử dụng nhất định để tránh rủi ro pháp lý và duy trì quyền kiểm soát cách triển khai sản phẩm của họ.
Ví dụ về Hạn chế Hợp đồng:
- Cảnh báo của công nghệ Java đối với việc sử dụng trong các cơ sở hạt nhân, hệ thống dẫn đường máy bay, hệ thống vũ khí
- Lệnh cấm của iTunes đối với việc phát triển tên lửa hoặc sản xuất vũ khí hạt nhân/hóa học/sinh học
- Điều khoản giấy phép JSLint "phải được sử dụng vì mục đích tốt, không phải ác"
- Yêu cầu chứng nhận phần mềm quan trọng về an toàn của DoD (xếp hạng LOR , hướng dẫn DoD 882 )
Thách thức mua sắm chính phủ
Sự cố này làm sáng tỏ sự phức tạp của việc mua sắm phần mềm chính phủ hiện đại. Các cơ quan liên bang thường có các nhóm chuyên dụng xem xét cẩn thận từng điều khoản hợp đồng và tìm kiếm làm rõ về ngôn ngữ cụ thể. Quy trình xem xét kỹ lưỡng này cho thấy các cơ quan đều nhận thức rõ về các hạn chế trước khi ký thỏa thuận.
Tuy nhiên, sự gia tăng của các dịch vụ AI đã đưa ra những thách thức mới. Không giống như việc mua phần mềm truyền thống, các mô hình AI-as-a-service cung cấp cho nhà cung cấp khả năng hiển thị liên tục về cách sử dụng sản phẩm của họ, có khả năng cho phép họ thực thi các hạn chế trong thời gian thực.
Tác động rộng hơn đối với quản trị AI
Cuộc đối đầu này đặt ra câu hỏi về cách các công ty AI nên cân bằng lợi ích thương mại với các nguyên tắc đạo đức. Trong khi một số người xem vị trí của Anthropic là đáng ngưỡng mộ, những người khác đặt câu hỏi liệu nó có thể hiện cam kết thực sự đối với an toàn hay chỉ đơn thuần là một chiến thuật đàm phán.
Tình huống này cũng làm nổi bật căng thẳng ngày càng tăng giữa việc chính phủ áp dụng nhanh chóng các công cụ AI và sự tập trung ngày càng tăng của ngành công nghệ vào phát triển AI có trách nhiệm. Khi AI trở nên trung tâm hơn đối với các hoạt động của chính phủ, những xung đột về điều khoản sử dụng này có khả năng trở nên phổ biến và có hậu quả hơn.
Kết quả của tranh chấp cụ thể này có thể tạo tiền lệ cho cách các công ty AI khác tiếp cận các cuộc đàm phán hợp đồng chính phủ tương tự trong tương lai.
Tham khảo: Exclusive: Anthropic inks White House with limits on models' use