Một luật sư California đã bị lệnh phải trả 10.000 đô la Mỹ sau khi nộp đơn kháng cáo tòa án chứa 21 trích dẫn pháp lý bịa đặt được tạo ra bởi ChatGPT. Vụ việc này làm nổi bật những lo ngại ngày càng tăng về việc lạm dụng trí tuệ nhân tạo trong môi trường chuyên nghiệp và đặt ra câu hỏi về trách nhiệm giải trình trong nghề luật sư.
Luật sư Amir Mostafavi đã sử dụng ChatGPT để cải thiện bản tóm tắt pháp lý của mình vào tháng 7 năm 2023, nhưng đã không xác minh nội dung do AI tạo ra trước khi nộp. Tòa án Kháng cáo Quận 2 California phát hiện rằng 21 trong số 23 trích dẫn vụ án trong tài liệu đã được hệ thống AI bịa đặt hoàn toàn.
Chi tiết cụ thể:
- Số tiền phạt: 10.000 USD (khoản phạt lớn nhất liên quan đến AI do tòa án tiểu bang California áp đặt)
- Vi phạm: Nộp đơn kháng cáo vô căn cứ, vi phạm quy tắc tòa án, trích dẫn các vụ án giả mạo, lãng phí thời gian của tòa án
- Trích dẫn bịa đặt: 21 trong số 23 trích dẫn vụ án là giả mạo
- Ngày xảy ra sự việc: Tháng 7 năm 2023
Trách nhiệm nghề nghiệp so với sự tiện lợi của AI
Cộng đồng pháp lý đang chia rẽ về cách xử lý việc tích hợp AI trong khi vẫn duy trì các tiêu chuẩn nghề nghiệp. Phản ứng của Mostafavi đối với khoản phạt đã gây ra tranh cãi đặc biệt, khi ông gợi ý rằng các luật sư sử dụng AI nên mong đợi một số nạn nhân, một số thiệt hại, một số tàn phá trong giai đoạn chuyển đổi.
Thái độ này đã thu hút sự chỉ trích gay gắt từ các chuyên gia pháp lý, những người lập luận rằng các luật sư có nghĩa vụ cơ bản phải xác minh tất cả thông tin trước khi nộp lên tòa án. Trách nhiệm vẫn thuộc về luật sư bất kể các công cụ được sử dụng, dù là hệ thống AI hay trợ lý con người.
Phản ứng từ cơ quan quản lý:
- Hạn chót của California Judicial Council : ngày 15 tháng 12 năm 2024 cho các chính sách AI
- California Bar Association : Đang xem xét các quy tắc ứng xử cho việc sử dụng AI
- Tiền례 tòa án liên bang: Phạt 31.100 USD đối với các công ty luật vì bịa đặt thông tin bằng AI
- Cấp phép hành nghề: Các khoản phạt trên 1.000 USD phải được báo cáo cho hiệp hội luật sư tiểu bang
Mô hình gia tăng của các vi phạm pháp lý liên quan đến AI
Các chuyên gia pháp lý theo dõi việc lạm dụng AI tại các tòa án báo cáo sự gia tăng đáng kể trong các vụ việc tương tự. Điều bắt đầu như một vài sự cố mỗi tháng đã leo thang thành nhiều vụ việc hàng ngày trên các khu vực pháp lý khác nhau. Vấn đề dường như đặc biệt nghiêm trọng đối với các luật sư làm việc quá tải và các đương sự tự bào chữa có thể không hiểu đầy đủ về những hạn chế của AI.
Đáng lo ngại, vấn đề này còn mở rộng ra ngoài các luật sư đến cả các thẩm phán, với tài liệu gần đây về ba thẩm phán trích dẫn thẩm quyền pháp lý bịa đặt trong các quyết định chính thức của họ.
Thống kê độ chính xác của AI:
- Tỷ lệ ảo giác hiện tại: ~33% số truy vấn (phân tích của Stanford RegLab )
- Cải thiện theo thời gian: Ước tính giảm từ 21/23 trích dẫn giả (2023) xuống có thể còn 1/23 với các mô hình hiện tại
- Các trường hợp được theo dõi: 52 tại California , hơn 600 trên toàn quốc
- Mô hình tăng trưởng: Từ vài trường hợp mỗi tháng đến vài trường hợp mỗi ngày
 |
|---|
| Việc tích hợp ngày càng nhiều AI trong nghề luật đặt ra những rủi ro, nhấn mạnh nhu cầu cảnh giác trước các lỗi công nghệ |
Hạn chế công nghệ và tác động tương lai
Các mô hình ngôn ngữ AI hiện tại gặp khó khăn với độ chính xác khi tạo ra các trích dẫn pháp lý, với tỷ lệ ảo giác ảnh hưởng đến khoảng một phần ba các truy vấn theo nghiên cứu của Đại học Stanford. Trong khi các hệ thống AI mới hơn cho thấy sự cải thiện, các chuyên gia cảnh báo rằng tỷ lệ lỗi giảm thực sự có thể tăng rủi ro bằng cách làm cho người dùng tự mãn hơn về việc xác minh.
Càng khó đưa ra lập luận pháp lý của bạn, mô hình càng có xu hướng ảo giác, bởi vì chúng sẽ cố gắng làm hài lòng bạn. Đó là nơi thiên kiến xác nhận bắt đầu tác động.
Nghề luật sư đối mặt với áp lực phải thích ứng nhanh chóng với các công cụ AI trong khi vẫn duy trì các tiêu chuẩn đạo đức. Hội đồng Tư pháp California đã yêu cầu các tòa án phải cấm AI tạo sinh hoặc thiết lập các chính sách sử dụng rõ ràng trước ngày 15 tháng 12 năm 2024, phản ánh tính cấp bách của việc giải quyết những thách thức này.
Khoản phạt 10.000 đô la Mỹ đại diện cho hình phạt lớn nhất được ban hành bởi một tòa án bang California đối với các bịa đặt liên quan đến AI, mặc dù các tòa án liên bang đã áp đặt các biện pháp trừng phạt cao hơn đối với các công ty luật vì những vi phạm tương tự. Khi việc áp dụng AI tăng tốc trên toàn nghề luật sư, các cơ quan quản lý đang vội vã thiết lập các cơ chế giám sát phù hợp trong khi cân bằng giữa đổi mới và trách nhiệm nghề nghiệp.
Tham khảo: California issues historic fine over lawyer's ChatGPT fabrications