Cộng đồng AI đang xôn xao về một phát triển quan trọng trong cách các mô hình ngôn ngữ xử lý sự không chắc chắn. Trong khi các ảo giác AI - nơi các mô hình tự tin cung cấp thông tin không chính xác - từ lâu đã gây khó khăn cho lĩnh vực này, các quan sát gần đây cho thấy chúng ta có thể đang chứng kiến giai đoạn đầu của một giải pháp.
Cuộc Cách Mạng Trung Thực Bất Ngờ Của Claude 4
Người dùng đang báo cáo về một sự thay đổi đáng chú ý trong hành vi của Claude 4 so với phiên bản tiền nhiệm. Mô hình mới thể hiện khả năng chưa từng có trong việc nhận ra những hạn chế của mình và từ chối rõ ràng các nhiệm vụ không thể thực hiện được. Điều này đại diện cho một sự khởi hành căn bản khỏi hành vi AI điển hình là cố gắng thực hiện mọi yêu cầu, bất kể tính khả thi.
Tôi đã yêu cầu Sonnet 4 làm điều gì đó mà 3.7 Sonnet đã gặp khó khăn và nó đã nói với tôi rằng những gì tôi yêu cầu là không thể thực hiện được và giải thích tại sao.
Sự cải thiện có vẻ đặc biệt rõ rệt trong các tình huống lập trình, nơi mô hình hiện có thể xác định khi nào một nhiệm vụ lập trình là không thể thực hiện được thay vì tạo ra mã không hoạt động. Bước đột phá này thách thức hiểu biết thông thường về cách các mô hình ngôn ngữ nên hoạt động và gợi ý rằng cách tiếp cận luôn cố gắng giúp đỡ có thể không phải là tối ưu.
So sánh Mô hình Claude
- Claude 3.7 Sonnet : Gặp khó khăn với các tác vụ bất khả thi, tiếp tục cố gắng tìm giải pháp
- Claude Sonnet 4 : Nhận ra các tác vụ bất khả thi, từ chối một cách rõ ràng kèm theo giải thích
- Lĩnh vực cải thiện: Đặc biệt đáng chú ý trong các tình huống lập trình Python
 |
|---|
| Khả năng cải thiện của Claude 4 trong việc nhận ra những hạn chế của mình, được thể hiện thông qua việc giải quyết các nhiệm vụ toán học một cách chính xác |
Vấn Đề Cốt Lõi: Huấn Luyện Mô Hình Để Đoán
Gốc rễ của các ảo giác AI nằm ở cách các hệ thống này được huấn luyện. Các mô hình ngôn ngữ học cách tạo ra các phản hồi nghe có vẻ hợp lý bằng cách dự đoán từ có khả năng cao nhất tiếp theo trong một chuỗi. Khi đối mặt với thông tin không rõ, chúng không có cơ chế để thể hiện sự không chắc chắn - thay vào đó, chúng tạo ra các phản hồi có xác suất thống kê cao nhưng có thể sai.
Các phương pháp huấn luyện hiện tại vô tình khuyến khích hành vi này. Các mô hình nhận được sự củng cố tích cực khi cung cấp câu trả lời, ngay cả những câu trả lời không chính xác, trong khi các phản hồi như Tôi không biết thường bị phạt. Điều này tạo ra một hệ thống hoạt động như một học sinh luôn đoán trong các bài kiểm tra trắc nghiệm thay vì để trống câu trả lời.
Nguyên nhân gốc rễ của vấn đề huấn luyện
- Các mô hình được thưởng khi đưa ra câu trả lời (ngay cả khi sai)
- Phản hồi "Tôi không biết" thường bị phạt trong quá trình huấn luyện
- Dữ liệu huấn luyện thu thập các sự kiện đã biết, không phải biểu hiện của sự thiếu hiểu biết
- Học tăng cường khuyến khích hành vi đoán mò tương tự như các chiến lược làm bài kiểm tra
Cuộc Tranh Luận Về Thuật Ngữ Tiếp Tục
Cộng đồng AI vẫn chia rẽ về thuật ngữ phù hợp cho hiện tượng này. Trong khi ảo giác đã trở thành thuật ngữ tiêu chuẩn, nhiều người cho rằng nó gây hiểu lầm vì nó không khớp với định nghĩa tâm lý về việc nhận thức điều gì đó không có thật. Confabulation - việc phát minh thông tin sai - mô tả chính xác hơn những gì đang xảy ra, mặc dù nó chưa được chấp nhận rộng rãi.
Một số người dùng bày tỏ sự thất vọng với sự ưa thích của các công ty đối với ảo giác hơn là các thuật ngữ trực tiếp hơn như thông tin sai lệch hoặc đơn giản là thừa nhận rằng các mô hình đôi khi tạo ra đầu ra không chính xác. Lựa chọn ngôn ngữ này phản ánh những căng thẳng rộng lớn hơn về cách ngành công nghiệp thảo luận về các hạn chế của AI.
Cuộc tranh luận về thuật ngữ AI
- Hallucination: Tiêu chuẩn hiện tại của ngành, nhưng không chính xác về mặt tâm lý học
- Confabulation: Thuật ngữ chính xác hơn có nghĩa là "bịa đặt thông tin sai lệch"
- Các thuật ngữ thay thế: Thông tin sai lệch, đầu ra không chính xác, hành vi "bị lỗi"
Bản Chất Hai Mặt Của Sự Sáng Tạo AI
Cùng những cơ chế tạo ra ảo giác cũng cho phép khả năng sáng tạo của AI. Khi được yêu cầu viết thơ về những ngọn núi hư cấu hoặc tạo ra nội dung tưởng tượng, khả năng của mô hình vượt ra ngoài các sự kiện được ghi nhớ trở thành một tính năng chứ không phải lỗi. Điều này tạo ra một căng thẳng cơ bản: sự sáng tạo làm cho AI có giá trị cho các nhiệm vụ nghệ thuật trực tiếp xung đột với các yêu cầu về độ chính xác cho các truy vấn thực tế.
Nhìn Về Phía Trước: Các Mô Hình Nhỏ Hơn, Thông Minh Hơn
Nếu các hệ thống AI có thể nhận ra một cách đáng tin cậy các ranh giới kiến thức của mình, nó có thể cách mạng hóa lĩnh vực này. Thay vì lưu trữ lượng lớn thông tin có thể không chính xác, các mô hình tương lai có thể nhỏ hơn và hiệu quả hơn, biết khi nào cần tra cứu thông tin thay vì đoán. Cách tiếp cận này có thể giảm đáng kể tiêu thụ năng lượng trong khi cải thiện độ tin cậy.
Tiến bộ gần đây với Claude 4 và các phát triển tương tự trong việc giải quyết vấn đề toán học cho thấy rằng việc dạy AI nói Tôi không biết có thể khả thi hơn so với suy nghĩ trước đây. Tuy nhiên, việc thực hiện những thay đổi như vậy ở quy mô lớn sẽ đòi hỏi những thay đổi cơ bản trong phương pháp luận huấn luyện và các chỉ số đánh giá trên toàn ngành.
Tham khảo: The Nature Of Hallucinations