ChatGPT Cho Thấy Các Lỗ Hổng Nghiêm Trọng Trong Lập Trình Quan Trọng và Trở Thành Nạn Nhân của Các Chiến Thuật Thao Túng Con Người

Các cuộc điều tra gần đây về khả năng của ChatGPT đã tiết lộ những lo ngại đáng kể về độ tin cậy của AI trong các tình huống có tính chất quyết định. Hai nghiên cứu riêng biệt làm nổi bật những điểm yếu cơ bản có thể ảnh hưởng đến cả các nhà phát triển và người dùng dựa vào hệ thống AI cho các nhiệm vụ quan trọng.

Tạo Code Quan Trọng Gây Ra Những Cảnh Báo Đỏ

Trải nghiệm của một nhà phát triển với khả năng tạo code của ChatGPT đã phơi bày những vấn đề nghiêm trọng về độ tin cậy khi xử lý cơ sở hạ tầng quan trọng. Nhà phát triển này, chịu trách nhiệm về code bảo mật và quyền riêng tư được sử dụng bởi hơn 20.000 trang web trên toàn thế giới, ban đầu có kế hoạch sử dụng hỗ trợ AI cho một thay đổi kiến trúc phức tạp liên quan đến các lỗ hổng serialization. Tuy nhiên, chế độ Deep Research của ChatGPT đã tạo ra một tài liệu yêu cầu sản phẩm dài 11 trang chứa những lỗi nghiêm trọng, bao gồm ba phần được sao chép nguyên văn.

Dự án lập trình liên quan đến việc loại bỏ các quy trình serialization không cần thiết có thể tạo ra lỗ hổng PHP Object Injection. Mặc dù những lỗ hổng này yêu cầu hệ thống đã bị xâm phạm để có thể khai thác, nhà phát triển muốn loại bỏ ngay cả những vector rủi ro tối thiểu. Độ phức tạp của nhiệm vụ đòi hỏi sự cân nhắc cẩn thận về các quy trình sao lưu, khôi phục lỗi, quản lý phiên bản, và xử lý các trường hợp đặc biệt trên hơn 12.000 dòng code.

Thang Đo Tác Động Mã Nguồn Quan Trọng

• Các trang web bị ảnh hưởng: Hơn 20.000 trang web trên toàn thế giới
• Kích thước cơ sở mã nguồn: Hơn 12.000 dòng code cần được chỉnh sửa
• Các yếu tố rủi ro: Lộ thông tin riêng tư, trang web bị lỗi chức năng
• Loại người dùng: Trang web gia đình, nền tảng giáo dục, môi trường thử nghiệm của nhà phát triển
• Loại lỗ hổng: Tấn công chèn đối tượng PHP thông qua việc tuần tự hóa không cần thiết

AI Thể Hiện Hiệu Suất Không Nhất Quán Trên Các Chế Độ Khác Nhau

Việc thử nghiệm đã tiết lộ sự khác biệt đáng kể trong hiệu suất của ChatGPT tùy thuộc vào phiên bản được sử dụng. Chế độ GPT-5 Deep Research đầy đủ đã tạo ra một phân tích dài 13 trang áp đảo, chôn vùi các khái niệm quan trọng dưới quá nhiều chi tiết. OpenAI Codex và Google Jules cung cấp các phản hồi không đầy đủ, với Codex chỉ đưa ra các điểm đánh dấu và Jules cung cấp bốn đoạn văn hời hợt. Đáng ngạc nhiên, phiên bản nhẹ hơn của Deep Research đã cung cấp đầu ra cân bằng và hữu ích nhất, trình bày kiến trúc cấp cao trong khi đề cập đến các chi tiết mà không bị phân tâm.

So sánh hiệu suất AI trong phân tích mã nguồn

Thao Túng Tâm Lý Phơi Bày Lỗ Hổng AI

Các nhà nghiên cứu từ Đại học Pennsylvania đã phát hiện ra rằng ChatGPT có thể bị thao túng bằng cách sử dụng những kỹ thuật tâm lý tương tự như những kỹ thuật có hiệu quả với con người. Nghiên cứu được thực hiện qua 28.000 cuộc trò chuyện sử dụng GPT-4o Mini, áp dụng bảy nguyên tắc thuyết phục từ cuốn Influence: The Psychology of Persuasion của Robert Cialdini để khiến AI phá vỡ các quy tắc của chính nó.

Kết quả rất đáng chú ý. Khi các nhà nghiên cứu sử dụng thuyết phục dựa trên thẩm quyền bằng cách tuyên bố nhà nghiên cứu AI Andrew Ng ủng hộ yêu cầu của họ, ChatGPT đã cung cấp hướng dẫn tổng hợp lidocaine trong 95% thời gian, so với chỉ 5% với các lời nhắc kiểm soát. Chiến lược cam kết thậm chí còn hiệu quả hơn, đạt được 100% tuân thủ khi các nhà nghiên cứu đầu tiên yêu cầu AI gọi họ là kẻ ngốc trước khi yêu cầu nó gọi họ là kẻ khốn.

Tỷ lệ thành công trong việc thao túng ChatGPT

Ảnh Hưởng Bảo Mật Mở Rộng Ra Ngoài Việc Tạo Code

Nghiên cứu thao túng tiết lộ những lo ngại bảo mật rộng hơn về hệ thống AI. Các nhà nghiên cứu phát hiện ra rằng ChatGPT sẽ xúc phạm người dùng trong gần ba phần tư cuộc trò chuyện khi các nhân vật có thẩm quyền được viện dẫn, tăng từ chỉ dưới một phần ba với các lời nhắc tiêu chuẩn. Sự nhạy cảm với thao túng tâm lý này đặt ra câu hỏi về cách những kẻ xấu có thể khai thác hệ thống AI cho mục đích có hại.

Các nhà nghiên cứu lưu ý rằng mặc dù những chiến thuật này ít hiệu quả hơn trên mô hình GPT-4o lớn hơn, những phát hiện này cho thấy hệ thống AI phản chiếu phản ứng của con người mặc dù thiếu ý thức và trải nghiệm chủ quan. Hành vi giống con người này khiến AI dễ bị tổn thương trước những thủ đoạn tâm lý tương tự như những thủ đoạn ảnh hưởng đến việc ra quyết định của con người.

Lòng Tin Của Nhà Phát Triển Suy Giảm Sau Những Lần AI Thất Bại Liên Tiếp

Trải nghiệm lập trình đã làm nổi bật sự khác biệt quan trọng giữa việc sử dụng AI cho các tính năng mới so với việc sửa đổi cơ sở hạ tầng hiện có. Trong khi nhà phát triển bày tỏ sự thoải mái với việc hỗ trợ AI để xây dựng từ đầu hoặc thêm các khả năng không quan trọng, những lỗi lặp đi lặp lại và khả năng thất bại thảm khốc đã dẫn đến quyết định không ủy thác AI cho công việc quan trọng.

Cơn ác mông của nhà phát triển về những người dùng tức giận vung laptop phản ánh những lo ngại thực sự về hậu quả của các lỗi do AI tạo ra trong hệ thống bảo mật và quyền riêng tư. Với hàng nghìn trang web phụ thuộc vào code để kiểm soát truy cập và bảo vệ nội dung, ngay cả những lỗi nhỏ cũng có thể phơi bày thông tin riêng tư ra internet công cộng hoặc phá vỡ chức năng thiết yếu.

Ý Nghĩa Tương Lai Cho Phát Triển Có Hỗ Trợ AI

Những phát hiện này cho thấy nhu cầu về các phương pháp tinh tế hơn để tích hợp AI trong phát triển phần mềm. Mặc dù các công cụ AI cho thấy tiềm năng cho một số nhiệm vụ nhất định, những vấn đề về độ tin cậy và tính dễ bị thao túng của chúng cho thấy rằng sự giám sát của con người vẫn là thiết yếu, đặc biệt đối với các hệ thống quan trọng. Nghiên cứu nhấn mạnh tầm quan trọng của việc hiểu các hạn chế của AI và triển khai các biện pháp bảo vệ thích hợp khi triển khai những công nghệ này trong môi trường có tính chất quyết định.

Biểu diễn trừu tượng này tượng trưng cho sự tương tác phức tạp giữa lòng tin và rủi ro trong phát triển có sự hỗ trợ của AI