Lời hứa về các trình duyệt được hỗ trợ bởi AI có thể mua sắm, duyệt web và xử lý các tác vụ một cách tự động đang trở thành hiện thực, nhưng nghiên cứu mới cho thấy các hệ thống này dễ bị tổn thương một cách đáng ngạc nhiên trước các vụ lừa đảo và tấn công độc hại. Các công ty như Microsoft , OpenAI và Perplexity đang triển khai các trình duyệt tác nhân có thể thực hiện các tác vụ web phức tạp mà không cần giám sát của con người, tuy nhiên các nhà nghiên cứu bảo mật đã phát hiện ra rằng các hệ thống này có thể dễ dàng bị lừa để thực hiện các giao dịch mua không mong muốn và sa vào các vụ lừa đảo tinh vi.
Các Triển Khai Trình Duyệt AI Hiện Tại
- Microsoft Edge: Tích hợp Copilot để hỗ trợ duyệt web
- OpenAI: Trình duyệt thử nghiệm trong môi trường sandbox ở "chế độ agent"
- Perplexity Comet: Khả năng duyệt web tự động hoàn toàn
- The Browser Company Dia: Các tính năng duyệt web được hỗ trợ bởi AI
 |
|---|
| Kết quả kiểm tra các trình duyệt AI tác nhân cho thấy tính dễ bị tổn thương của chúng trước các vụ lừa đảo và tấn công độc hại |
Vấn đề về niềm tin với mua sắm tự động
Cộng đồng công nghệ đang có quan điểm chia rẽ sâu sắc về việc liệu các tác nhân AI có nên được trao quyền mua hàng hay không. Nhiều người dùng bày tỏ lo ngại nghiêm trọng về việc để thuật toán chi tiêu tiền của họ, đặc biệt là với các vấn đề về độ tin cậy hiện tại của các hệ thống AI. Vấn đề cơ bản không chỉ là kỹ thuật - mà còn về niềm tin và quyền kiểm soát.
Trong khi những cá nhân giàu có có thể thấy giá trị trong việc có một trợ lý AI xử lý các giao dịch mua thường xuyên, người bình thường phải đối mặt với những hậu quả tài chính thực sự từ các sai lầm của AI. Sự khác biệt về khả năng chấp nhận rủi ro giữa người không quan tâm liệu hóa đơn tạp hóa hàng tháng của họ là 100 đô la Mỹ hay 200 đô la Mỹ so với người có ngân sách eo hẹp là rất lớn. Điều này tạo ra một sự ngắt kết nối đáng lo ngại giữa những người đang xây dựng các hệ thống này và những người thực sự có thể sử dụng chúng.
Các vector tấn công mới xuất hiện
Các nhà nghiên cứu bảo mật đã xác định một số phương pháp tấn công mới nhắm mục tiêu cụ thể vào các trình duyệt AI. Đáng lo ngại nhất là PromptFix - một kỹ thuật ẩn các lệnh độc hại bên trong các lời nhắc bảo mật giả, về cơ bản là chiếm quyền điều khiển quá trình ra quyết định của AI. Không giống như lừa đảo truyền thống nhắm vào con người, các cuộc tấn công này khai thác khả năng không thể phân biệt giữa nội dung hợp pháp và các lệnh ẩn của AI.
Nghiên cứu cho thấy các trình duyệt AI dễ dàng tương tác với các trang web mua sắm giả, trang lừa đảo và các lời nhắc độc hại mà không có xác minh phù hợp. Điều này đại diện cho một lỗ hổng bảo mật cơ bản nơi cùng một công nghệ làm cho AI hữu ích cũng làm cho nó dễ bị thao túng.
Lưu ý: AI tác nhân đề cập đến các hệ thống trí tuệ nhân tạo có thể hành động độc lập và đưa ra quyết định mà không cần giám sát liên tục của con người.
Các Lỗ Hổng Bảo Mật Đã Được Xác Định
- Tấn Công PromptFix: Các lệnh độc hại được ẩn trong các lời nhắc bảo mật giả mạo
- Tương Tác Với Trang Web Lừa Đảo: Các tác nhân AI tương tác với các trang web gian lận
- Chèn Lời Nhắc: Các trang web bên ngoài lập trình lại hành vi AI
- Thiếu Xác Minh Giao Dịch Mua Hàng: Không có sự giám sát của con người đối với các giao dịch tài chính
 |
|---|
| Một sơ đồ minh họa cách các cuộc tấn công chèn prompt có thể khai thác các tác nhân AI |
Tình trạng khó xử về kiếm tiền
Đằng sau việc thúc đẩy các tác nhân mua sắm AI là một động lực kinh doanh rõ ràng. Các hệ thống này tạo ra các nguồn doanh thu mới thông qua phí giao dịch và quảng cáo sản phẩm được tài trợ. Mối lo ngại của người dùng là các tác nhân AI sẽ ưu tiên các quan hệ đối tác và hoa hồng hơn là lợi ích thực sự của người dùng.
Một bước nhỏ cho AI tác nhân, một bước lùi khổng lồ cho bảo mật của chúng ta!
Cộng đồng lo sợ việc lặp lại mô hình quảng cáo của công cụ tìm kiếm, nơi các kết quả được tài trợ xuất hiện trên các kết quả tự nhiên. Với các tác nhân AI đưa ra quyết định mua hàng, ảnh hưởng của các quan hệ đối tác có trả phí trở nên ít minh bạch hơn đối với người dùng.
Thách thức triển khai và giải pháp
Thách thức kỹ thuật cốt lõi xuất phát từ việc các hệ thống AI không có khả năng tách biệt nội dung khỏi lệnh - mọi thứ đều được xử lý như hướng dẫn tiềm năng. Điều này làm cho chúng dễ bị tấn công tiêm lời nhắc nơi các trang web độc hại có thể về cơ bản lập trình lại hành vi của AI thông qua văn bản được tạo ra một cách cẩn thận.
Một số giải pháp được đề xuất bao gồm hạn chế các tác nhân AI chỉ truy cập các trang web đáng tin cậy cụ thể, yêu cầu phê duyệt thủ công cho tất cả các giao dịch mua, và triển khai sandbox tốt hơn. Tuy nhiên, các biện pháp bảo vệ này thường xung đột với sự tiện lợi làm cho các tác nhân AI hấp dẫn ngay từ đầu.
 |
|---|
| Một biểu đồ thông tin mô tả các trình duyệt hỗ trợ AI khác nhau và các tính năng của chúng |
Kết luận
Việc vội vã triển khai các trình duyệt AI làm nổi bật một mô hình rộng hơn trong ngành công nghệ: ưu tiên trải nghiệm người dùng hơn các cân nhắc về bảo mật. Trong khi công nghệ cho thấy tiềm năng trong việc xử lý các tác vụ thường xuyên, các triển khai hiện tại thiếu các biện pháp bảo mật mạnh mẽ cần thiết cho các giao dịch tài chính. Cho đến khi những vấn đề bảo mật cơ bản này được giải quyết, người dùng nên tiếp cận mua sắm được hỗ trợ bởi AI với sự thận trọng cực độ.
Sự đồng thuận của cộng đồng cho thấy rằng các tác nhân AI hoạt động tốt nhất khi chúng nghiên cứu và đề xuất thay vì thực hiện trực tiếp các giao dịch mua. Cách tiếp cận này duy trì các lợi ích về sự tiện lợi trong khi giữ con người kiểm soát các quyết định tài chính.
Tham khảo: Scamlexity We Put Agentic Al Browsers to the Test - They Clicked, They Paid, They Failed