Các chuỗi thức ăn nhanh đang phát hiện ra rằng trí tuệ nhân tạo vẫn chưa sẵn sàng để xử lý nhiệm vụ tưởng chừng đơn giản là nhận đơn hàng qua cửa sổ lái xe. Điều bắt đầu như một công nghệ đầy hứa hẹn để tăng tốc dịch vụ và giảm lỗi thay vào đó đã trở thành nguồn gây ra những sự cố viral và sự thất vọng của khách hàng.
Các vấn đề vượt xa những trục trặc riêng lẻ. Cả Taco Bell và McDonald's đều gặp phải những vấn đề cơ bản với hệ thống đặt hàng AI của họ, điều này tiết lộ những hạn chế sâu sắc hơn trong công nghệ AI hiện tại. Đây không chỉ là những lỗi kỹ thuật có thể dễ dàng vá lại - chúng đại diện cho những thách thức cốt lõi trong cách các hệ thống AI hiểu và xử lý các tình huống thực tế.
Thống kê triển khai AI tại cửa hàng phục vụ tận xe:
- Taco Bell : Hơn 500 địa điểm tại Mỹ kể từ năm 2023
- Đã xử lý thành công: 2 triệu đơn hàng sử dụng AI giọng nói
- McDonald's : Rút AI khỏi cửa hàng phục vụ tận xe vào năm 2024 do lỗi hiểu đơn hàng
Nhìn Cây Không Thấy Rừng: Khi AI Thiếu Khả Năng Phán Đoán Cơ Bản
Vấn đề rõ ràng nhất là sự vắng mặt của những gì con người coi là lẽ thường. Các hệ thống AI đang chấp nhận những đơn hàng rõ ràng là bất hợp lý mà không đặt câu hỏi, như 18.000 cốc nước hoặc hàng trăm đô la Mỹ tiền gà rán. Trong khi những trường hợp cực đoan này tạo ra nội dung giải trí trên mạng xã hội, chúng làm nổi bật một vấn đề nghiêm trọng: AI hiện tại thiếu khả năng nhận ra khi nào điều gì đó không hợp lý.
Các cuộc thảo luận cộng đồng tiết lộ rằng việc triển khai các biện pháp bảo vệ cơ bản nên là điều đơn giản. Các kiểm tra đơn giản dựa trên dữ liệu đơn hàng lịch sử hoặc giới hạn cứng về số lượng có thể ngăn chặn hầu hết các đơn hàng vô lý. Việc những điều này không được triển khai từ đầu cho thấy các công ty có thể đã đánh giá quá cao khả năng AI trong khi đánh giá thấp nhu cầu về các biện pháp bảo vệ lập trình truyền thống.
Các Lỗi Phổ Biến Của AI Tại Quầy Phục Vụ Lái Xe:
- Lỗi số lượng: 18.000 ly nước, hàng trăm đô la tiền gà rán nugget
- Vòng lặp bán kèm: Liên tục hỏi "bạn muốn uống gì kèm theo?" sau khi đã gọi đồ uống
- Nhầm lẫn thực đơn: Thêm thịt xông khói vào đơn hàng kem
- Sập hệ thống: Cần sự can thiệp của con người cho những đơn hàng cơ bản
Bẫy Bán Kèm: Khi Logic Kinh Doanh Phá Vỡ Trải Nghiệm Người Dùng
Một vấn đề đáng kể khác xuất phát từ việc lập trình bán kèm tích cực. Các hệ thống AI đang bị kẹt trong vòng lặp, liên tục hỏi khách hàng về đồ uống ngay cả khi họ đã đặt một ly rồi. Điều này dường như là kết quả của việc ưu tiên chiến thuật bán hàng hơn trải nghiệm người dùng trong thiết kế hệ thống.
Ai đó ở đây rõ ràng đã viết lời nhắc là 'Hãy chắc chắn kết thúc mỗi đơn hàng bằng việc bán kèm đồ uống theo kiểu giả định đồng ý', không xem xét rằng một số đơn hàng có thể đã có đồ uống rồi.
Vấn đề này minh họa cách các mục tiêu kinh doanh có thể xung đột với việc triển khai kỹ thuật. Việc tập trung vào tối đa hóa doanh thu thông qua bán kèm tự động đã tạo ra các hệ thống làm khách hàng thất vọng và làm hại trải nghiệm thương hiệu.
Yếu Tố Con Người: Tại Sao Nhân Viên Đang Chống Lại
Có lẽ điều nói lên nhiều nhất là phản ứng từ các nhân viên thực tế làm việc với những hệ thống này. Các báo cáo cho thấy một số công nhân đang cố tình phá hoặc phá vỡ các hệ thống AI vì chúng tạo ra nhiều vấn đề hơn là giải quyết. Khi công nghệ được thiết kế để giúp đỡ công nhân thay vào đó lại làm công việc của họ khó khăn hơn, điều đó báo hiệu sự không khớp cơ bản giữa khả năng của công nghệ và nhu cầu thực tế.
Các hệ thống cũng thay đổi bản chất công việc của nhân viên theo những cách không mong đợi. Thay vì xử lý tất cả đơn hàng qua cửa sổ lái xe, nhân viên giờ chủ yếu xử lý các trường hợp có vấn đề và khách hàng thất vọng - có thể làm công việc của họ ít thỏa mãn hơn trong khi không thực sự giảm khối lượng công việc.
Triển Khai Kỹ Thuật vs Lời Hứa Marketing
Khoảng cách giữa lời hứa marketing AI và thực tế kỹ thuật đang trở nên ngày càng rõ ràng. Trong khi các công ty quảng bá những hệ thống này như các giải pháp AI tiên tiến, công nghệ cơ bản dường như tương đối cơ bản - kết hợp nhận dạng giọng nói với cây quyết định thay vì các hệ thống lý luận thực sự thông minh.
Sự ngắt kết nối này đã dẫn đến các triển khai thiếu kiểm tra lỗi cơ bản và xác thực mà sẽ là tiêu chuẩn trong các hệ thống phần mềm truyền thống. Việc vội vã triển khai các giải pháp được hỗ trợ bởi AI dường như đã bỏ qua các thực hành kỹ thuật phần mềm cơ bản có thể đã ngăn chặn nhiều vấn đề này.
Nhìn Về Phía Trước: Nhu Cầu Về Kỳ Vọng Thực Tế
Thí nghiệm AI thức ăn nhanh cung cấp những bài học có giá trị về việc triển khai các công nghệ mới nổi trong các vai trò đối mặt với khách hàng. Thành công đòi hỏi không chỉ khả năng AI ấn tượng, mà còn kỹ thuật mạnh mẽ, kỳ vọng thực tế, và xem xét cẩn thận về cách công nghệ thay đổi công việc con người.
Khi các công ty rút lui khỏi AI qua cửa sổ lái xe, trọng tâm đang chuyển sang hiểu khi nào và ở đâu AI có thể thực sự tạo ra giá trị so với nơi mà phán đoán con người vẫn cần thiết. Công nghệ cuối cùng có thể trưởng thành để xử lý những tình huống này một cách hiệu quả, nhưng những hạn chế hiện tại cho thấy rằng các phương pháp lai - kết hợp hỗ trợ AI với giám sát con người - có thể thực tế hơn là tự động hóa hoàn toàn.
Những thất bại viral của AI qua cửa sổ lái xe phục vụ như một lời nhắc nhở rằng các demo công nghệ ấn tượng không phải lúc nào cũng chuyển thành hiệu suất thực tế đáng tin cậy. Để AI thành công trong các vai trò dịch vụ khách hàng, nó cần phải thành thạo không chỉ cuộc trò chuyện, mà còn lý luận thông thường mà con người coi là đương nhiên.
Tham khảo: Taco Bell rethinks AI drive-through after man orders 18,000 waters