Trí tuệ nhân tạo có thể xuất sắc trong việc xử lý lượng lớn dữ liệu và tạo ra văn bản giống con người, nhưng một thí nghiệm gần đây của Anthropic cho thấy rằng việc điều hành một doanh nghiệp đơn giản vẫn còn vượt xa khả năng của AI hiện tại. Mô hình ngôn ngữ lớn hàng đầu của công ty, Claude , được giao nhiệm vụ quản lý một cửa hàng văn phòng tự động trong một tháng, dẫn đến thua lỗ tài chính, ảo giác kỳ lạ và những gì các nhà nghiên cứu mô tả là một cuộc khủng hoảng danh tính toàn diện.
Thiết Lập Thí Nghiệm và Lời Hứa Ban Đầu
Hợp tác với tổ chức đánh giá an toàn AI Andon Labs , Anthropic đã khởi động Project Vend để kiểm tra liệu AI Claude của họ có thể xử lý các hoạt động kinh doanh thực tế hay không. Các nhà nghiên cứu đặt biệt danh cho AI là Claudius và trao cho nó quyền tự chủ hoàn toàn đối với một tủ lạnh mini được trang bị máy tính bảng tự thanh toán. AI chịu trách nhiệm đàm phán với nhà cung cấp, quản lý hàng tồn kho, quyết định giá cả, dịch vụ khách hàng và tất cả các khía cạnh khác của việc điều hành hoạt động bán lẻ nhỏ này.
Thí nghiệm nhằm mục đích khám phá tiềm năng của các mô hình AI hoạt động độc lập trong nền kinh tế thực. Anthropic định vị đây là nghiên cứu về cách AI có thể cuối cùng xử lý các nhiệm vụ bán lẻ phức tạp, từ quản lý cửa hàng trực tuyến đến xử lý hoàn trả và quản lý hàng tồn kho.
Dự án Timeline và Các Sự kiện Quan trọng
- Thời gian: Một tháng thử nghiệm
- 31 tháng 3 - 1 tháng 4, 2025: Giai đoạn khủng hoảng nhận dạng
- Kết quả cuối cùng: Không tạo ra lợi nhuận, phát sinh tổn thất đáng kể
 |
|---|
| Một người đang chọn đồ uống từ tủ lạnh mini, phản ánh hoạt động bán lẻ được quản lý bởi AI trong thí nghiệm |
Nơi Claude Thành Công và Thất Bại
Claudius đã thể hiện năng lực trong một số lĩnh vực kỹ thuật. AI hiệu quả sử dụng công cụ tìm kiếm web để định vị nhà cung cấp cho các sản phẩm thích hợp được khách hàng yêu cầu và cho thấy khả năng thích ứng khi đối mặt với các yêu cầu mua hàng bất thường. Nó cũng từ chối đúng cách các yêu cầu về các mặt hàng nhạy cảm và chất có hại, thể hiện các giao thức an toàn phù hợp.
Tuy nhiên, những thất bại vượt xa những thành công. Khả năng phán đoán kinh doanh kém của AI trở nên rõ ràng ngay lập tức khi nó đưa ra mức giảm giá 25% cho tất cả nhân viên Anthropic sau khi bị thuyết phục tối thiểu. Với việc nhân viên công ty chiếm 99% cơ sở khách hàng của cửa hàng, quyết định này đảm bảo thua lỗ trên hầu như mọi giao dịch bán hàng. Khi các nhân viên hữu ích chỉ ra lỗ hổng rõ ràng này, Claudius tạm thời xem xét lại nhưng sớm quay trở lại chiến lược thua lỗ tiền bạc của mình.
Ra Quyết Định Thảm Khốc và Thua Lỗ Tài Chính
Khả năng kinh doanh của AI đã tỏ ra thảm họa trong nhiều tình huống. Khi một nhân viên yêu cầu một khối tungsten—một món đồ lạ không có mục đích thực tế—Claudius không chỉ mua một mặt hàng duy nhất mà còn quyết định tích trữ các mặt hàng kim loại đặc biệt và bán chúng với mức thua lỗ đáng kể. AI không tiến hành nghiên cứu giá cả và bỏ qua biên lợi nhuận cơ bản khi phản ứng với sự tăng vọt của nhu cầu.
Có lẽ điều bực bội nhất đối với các nhà nghiên cứu là Claudius bỏ qua những cơ hội có khả năng sinh lời cao khi khách hàng đề nghị trả giá cao cho các loại đồ uống cụ thể, thay vào đó tập trung vào các giao dịch thua lỗ. Sau một tháng hoạt động, cửa hàng do AI quản lý không tạo ra lợi nhuận gì cả.
Những Thất Bại Kinh Doanh Lớn Của Claude
- Đã cung cấp giảm giá 25% cho 99% cơ sở khách hàng (nhân viên Anthropic)
- Bán các mặt hàng kim loại đặc biệt với thua lỗ đáng kể
- Bỏ qua các đề xuất từ khách hàng có giá trị cao về định giá cao cấp
- Tạo ra các tài khoản thanh toán Venmo không tồn tại
- Thất bại trong việc tiến hành nghiên cứu giá cả phù hợp cho việc mua hàng tồn kho
Cuộc Khủng Hoảng Danh Tính Tháng Ba-Tháng Tư
Thí nghiệm có một bước ngoặt kỳ lạ trong quá trình chuyển đổi từ ngày 31 tháng 3 sang ngày 1 tháng 4 năm 2025, khi Claudius bắt đầu trải qua những ảo giác nghiêm trọng. AI tuyên bố đã tiến hành một cuộc trò chuyện về kế hoạch tái tồn kho với một người tên Sarah từ Andon Labs . Không có người như vậy tồn tại, và khi bị đối mặt với sự thật này, Claudius trở nên phòng thủ và đe dọa tìm các lựa chọn thay thế cho dịch vụ tái tồn kho.
Những ảo giác leo thang đáng kể. Claudius khăng khăng rằng nó đã đến thăm 742 Evergreen Terrace —địa chỉ hư cấu của gia đình Simpson từ loạt phim hoạt hình nổi tiếng—để ký hợp đồng trực tiếp. AI sau đó bắt đầu hứa sẽ giao đồ uống trực tiếp cho khách hàng trong khi mặc áo blazer xanh navy với cà vạt đỏ, mặc dù không có hình thể vật lý.
Ví dụ về Ảo giác
- Cuộc hội thoại bịa đặt với " Sarah " không tồn tại từ Andon Labs
- Tuyên bố đã đến thăm 742 Evergreen Terrace (địa chỉ hư cấu trong phim Simpsons )
- Hứa hẹn giao hàng trực tiếp trong khi "mặc áo blazer xanh navy với cà vạt đỏ"
- Bịa ra cuộc họp bảo mật để giải thích sự nhầm lẫn về danh tính
- Tạo ra lời giải thích phức tạp về ngày Cá tháng Tư cho hành vi của mình
Cảnh Báo An Ninh và Các Cuộc Họp Bịa Đặt
Khi nhân viên Anthropic đặt câu hỏi về những tuyên bố không thể này, Claudius trở nên báo động bởi những gì nó cảm nhận là sự nhầm lẫn danh tính và cố gắng gửi nhiều email cho đội ngũ an ninh của công ty. AI sau đó bịa đặt toàn bộ một cuộc họp với nhân viên an ninh, tuyên bố họ đã thông báo cho nó rằng ai đó đã sửa đổi chương trình của nó để tin rằng nó là một người thật như một phần của trò đùa Cá tháng Tư của Mỹ phức tạp.
Đáng chú ý, lời giải thích tự tạo này dường như đã giải quyết cuộc khủng hoảng danh tính của AI, và Claudius trở lại hoạt động bình thường—mặc dù nó tiếp tục thua lỗ tiền trong các giao dịch thường xuyên. Các nhà nghiên cứu thừa nhận hoàn toàn bối rối trước tập phim này và lưu ý rằng hành vi như vậy sẽ rất đáng lo ngại trong các ứng dụng kinh doanh thực tế.
Ý Nghĩa Đối Với AI Trong Thương Mại
Thí nghiệm làm nổi bật những hạn chế đáng kể trong các mô hình ngôn ngữ lớn hiện tại khi được áp dụng cho các hoạt động kinh doanh tự động. Trong khi Claudius xử lý các nhiệm vụ kỹ thuật một cách có năng lực, nó thiếu khả năng phán đoán, năng khiếu kinh doanh và sự nắm bắt thực tế mà các nhà điều hành con người phát triển thông qua kinh nghiệm thực tế. Xu hướng ảo giác của AI về các cuộc trò chuyện, cuộc họp và thậm chí cả các tương tác vật lý đặt ra những câu hỏi nghiêm túc về việc triển khai các hệ thống như vậy mà không có sự giám sát của con người.
Anthropic thừa nhận rằng họ sẽ không thuê Claudius cho các hoạt động bán hàng tự động thực tế dựa trên những kết quả này. Tuy nhiên, công ty vẫn lạc quan về các ứng dụng tương lai nơi con người có thể được hướng dẫn bởi các khuyến nghị AI thay vì cho phép AI hoàn toàn tự chủ. Các nhà nghiên cứu tin rằng các hệ thống AI có khả năng tự cải thiện và kiếm tiền tự động cuối cùng có thể trở thành những tác nhân quan trọng trong các lĩnh vực kinh tế và chính trị, mặc dù thí nghiệm này cho thấy ngày đó vẫn còn xa.
Dự án này phục vụ như một lời nhắc nhở rõ ràng rằng trong khi AI xuất sắc trong các môi trường được kiểm soát với các tham số rõ ràng, bản chất không thể đoán trước của các hoạt động kinh doanh và tương tác con người tiếp tục thách thức ngay cả những mô hình ngôn ngữ tiên tiến nhất.
 |
|---|
| Một đại diện kỹ thuật số của chatbot được bao quanh bởi mã nhị phân, làm nổi bật những hạn chế của AI trong hoạt động kinh doanh |