Màn trình diễn sản phẩm mới nhất của Meta tại Connect 2023 đã trở thành một thảm họa kỹ thuật đáng xấu hổ, để lộ những lỗ hổng bảo mật nghiêm trọng trong chiếc kính thông minh Ray-Ban Meta mới của họ. Điều được cho là sẽ thể hiện khả năng AI tiên tiến của công ty thay vào đó lại làm nổi bật những khiếm khuyết cơ bản trong hệ thống nhận dạng giọng nói của thiết bị.
Kích hoạt hàng loạt tạo ra hỗn loạn
Màn trình diễn đã sai lầm khi một đầu bếp trên sân khấu nói Hey, Meta, start Live AI để trình diễn trợ lý AI của kính. Thay vì chỉ kích hoạt thiết bị demo, lệnh này đã kích hoạt từng chiếc kính Ray-Ban Meta trong tòa nhà. Việc kích hoạt hàng loạt này đã tạo ra một chuỗi vấn đề khiến toàn bộ màn trình diễn bị sập.
Vấn đề xuất phát từ việc kính thiếu khả năng nhận dạng từ đánh thức cá nhân hóa hoặc công nghệ beamforming microphone phù hợp. Bất kỳ người nào trong tầm nghe có vẻ đều có thể đưa ra lệnh giọng nói mà AI tự động chấp nhận, bất kể ai đang đeo kính.
Các lỗ hổng bảo mật đã được xác định:
- Không có nhận diện từ đánh thức cá nhân hóa
- Thiếu công nghệ beamforming microphone
- Chấp nhận lệnh thoại từ bất kỳ người nào ở gần
- Tiềm ẩn khả năng kích hoạt từ xa và ghi âm trái phép
- Có thể kích hoạt hàng loạt trong môi trường đông người
Những lo ngại về quyền riêng tư và bảo mật xuất hiện
Màn trình diễn thất bại đã khơi dậy những cuộc thảo luận nghiêm túc về tác động đến quyền riêng tư. Các thành viên cộng đồng đặc biệt lo ngại về khả năng những kẻ xấu khai thác lỗ hổng này. Về mặt lý thuyết, kính có thể được kích hoạt từ xa để bắt đầu ghi âm và video mà người đeo không hề biết.
Ai đó sẽ nghĩ ra một cách ngọt ngào dưới ngưỡng âm thanh để kích hoạt mọi chiếc kính trong tự nhiên. Tự động dox chính mình, tiết lộ tất cả ảnh riêng tư, tài liệu, mọi thứ mà AI có quyền truy cập.
Lỗ hổng bảo mật trở nên đáng lo ngại hơn khi xem xét khả năng camera của kính và tích hợp AI trên các nền tảng của Meta bao gồm WhatsApp , Messenger và Instagram .
Các tính năng chính của kính thông minh Ray-Ban Meta:
- Trợ lý AI Meta tích hợp được hỗ trợ bởi mô hình ngôn ngữ Llama 2
- Khả năng tạo hình ảnh theo thời gian thực
- Tích hợp với WhatsApp, Messenger và Instagram
- Kích hoạt bằng giọng nói qua lệnh "Hey, Meta"
- Chức năng quay video và ghi âm
Vấn đề cơ sở hạ tầng kỹ thuật
Ngoài vấn đề lệnh giọng nói, thiết lập demo của Meta đã tạo ra những điểm lỗi bổ sung. Công ty đã định tuyến tất cả lưu lượng Live AI thông qua một máy chủ phát triển duy nhất để cô lập demo, nhưng điều này đã ảnh hưởng đến mọi người trong tòa nhà sử dụng cùng các điểm truy cập, bao gồm cả tai nghe Quest .
Quyết định cơ sở hạ tầng này đã biến thứ có thể là một trục trặc nhỏ thành một sự cố hệ thống hoàn toàn, khiến các người thuyết trình phải vật lộn với AI không phản hồi và những khoảng lặng khó xử trong suốt thứ lẽ ra phải là màn giới thiệu sản phẩm hàng đầu của họ.
Sự cố này đặt ra câu hỏi về việc liệu sự vội vàng của Meta trong việc tích hợp AI trên hệ sinh thái phần cứng có làm tổn hại đến các biện pháp bảo vệ bảo mật và quyền riêng tư cơ bản mà người dùng mong đợi từ công nghệ đeo được hay không.
Tham khảo: Meta Ray-Ban Display and everything else unveiled at Meta Connect 2023