Coding Agent Gặp Rào Cản: Quản Lý Ngữ Cảnh Trở Thành Nút Thắt Quan Trọng Vượt Ra Ngoài Trí Tuệ Thô

Nhóm Cộng đồng BigGo
Coding Agent Gặp Rào Cản: Quản Lý Ngữ Cảnh Trở Thành Nút Thắt Quan Trọng Vượt Ra Ngoài Trí Tuệ Thô

Trong khi các mô hình AI tiếp tục đạt được hiệu suất siêu phàm trong các cuộc thi lập trình, với GPT-5 của OpenAI gần đây đã đạt điểm tuyệt đối trong cuộc thi ICPC 2025, các coding agent vẫn còn rất xa mới có thể thay thế các nhà phát triển con người trong các tình huống thực tế. Khoảng cách không còn là về trí tuệ thô nữa - mà là về quản lý ngữ cảnh và khả năng duy trì sự tập trung trong các hoạt động phức tạp, nhiều bước.

Vấn Đề Nhiễu Độc Ngữ Cảnh

Một trong những vấn đề quan trọng nhất đang làm khổ các coding agent hiện tại là khả năng loại bỏ thông tin không liên quan một cách hiệu quả khi các tác vụ phát triển. Không giống như con người có thể tự nhiên chuyển đổi sự tập trung và bỏ qua ngữ cảnh trước đó khi được chuyển hướng, các mô hình AI gặp khó khăn với cái mà các nhà phát triển gọi là nhiễu độc ngữ cảnh. Khi một agent dành hàng nghìn token để khám phá một con đường giải pháp sai, nó gặp khó khăn trong việc bỏ qua việc khám phá tồi tệ đó ngay cả khi được chuyển hướng rõ ràng với các hướng dẫn rõ ràng.

Đó là bởi vì một bộ dự đoán token tiếp theo không thể 'quên' ngữ cảnh. Đó không phải là cách nó hoạt động. Bạn tải nó lên với ngữ cảnh liên quan và cầu nguyện rằng nó sẽ hướng dẫn đường dẫn tạo ra phần của mô hình đại diện cho thông tin bạn muốn.

Hạn chế cơ bản này có nghĩa là các agent thường tiếp tục theo những con đường không hiệu quả bất chấp sự can thiệp của con người, khiến chúng không đáng tin cậy cho công việc tự động mở rộng.

Thiếu Ngữ Cảnh Kinh Doanh Tạo Ra Điểm Mù

Ngoài ngữ cảnh kỹ thuật, các coding agent thiếu kiến thức kinh doanh và sản phẩm quan trọng mà các nhà phát triển con người coi là điều hiển nhiên. Chúng không hiểu tại sao những quyết định kiến trúc nhất định được đưa ra, những yêu cầu quy định nào định hình các quy tắc xác thực cụ thể, hoặc những khách hàng doanh nghiệp nào thúc đẩy các trường hợp biên cụ thể. Kiến thức bộ lạc này tồn tại rải rác trên các chuỗi Slack, ghi chú cuộc họp và ký ức của các nhà phát triển - thông tin gần như không thể cung cấp một cách có hệ thống cho hệ thống AI.

Thách thức không chỉ là truy cập thông tin này, mà là tổng hợp tài liệu mâu thuẫn và lỗi thời thành hiểu biết có thể hành động. Các agent hiện tại nhận được có lẽ 20% ngữ cảnh mà các nhà phát triển con người tự nhiên sở hữu, hạn chế nghiêm trọng hiệu quả của chúng trên các codebase sản xuất.

Yêu cầu ngữ cảnh cho các Agent lập trình hiệu quả:

  • Ngữ cảnh cơ bản: Các file code, tài liệu, môi trường thực thi
  • Ngữ cảnh nâng cao: Tổ chức codebase, các mẫu kiến trúc, quyết định lịch sử
  • Ngữ cảnh kinh doanh: Yêu cầu sản phẩm, ràng buộc quy định, các trường hợp đặc biệt của khách hàng
  • Ngữ cảnh quy trình: Thực hành phát triển, quy trình triển khai, kỳ vọng về kiểm thử

Hạn Chế Quy Mô Vẫn Tồn Tại Bất Chấp Sự Gia Tăng Trí Tuệ

Trong khi các coding agent xuất sắc trong các tác vụ nhỏ như tự động hoàn thành và commit đơn lẻ, chúng gặp khó khăn với các codebase lớn hơn và các hoạt động mở rộng. Các nhà phát triển báo cáo rằng các agent bị nghẹt trên các file C++ lớn và quên các phần trước đó của mã mà chúng đang tích cực làm việc. Ngay cả với việc mở rộng cửa sổ ngữ cảnh, kiến trúc cơ bản của các mô hình transformer tạo ra các nút thắt hiệu suất mà các cơ chế attention thưa thớt chưa giải quyết thành công.

Cộng đồng đã phát triển các giải pháp thay thế như bắt đầu các phiên mới để tránh ô nhiễm ngữ cảnh và triển khai các kỹ thuật quên chiến lược, nhưng đây vẫn là các can thiệp thủ công hơn là các giải pháp có hệ thống.

Các Cấp Độ Tự Chủ của Agent Lập Trình:

  • Cấp độ 1: Một vài dòng code (tự động hoàn thành) - Hoạt động tốt
  • Cấp độ 2: Một commit - Cursor và Claude Code hiệu quả
  • Cấp độ 3: Một PR - Devin và các agent bất đồng bộ, giới hạn ở các tác vụ đơn giản
  • Cấp độ 4: Tính năng chính/tái cấu trúc - Vượt quá khả năng của các agent hiện tại
  • Cấp độ 5: Toàn bộ codebase - Chỉ hoạt động khi bắt đầu từ đầu

Các Giải Pháp Mới Nổi và Nhu Cầu Kiến Trúc

Một số nhà phát triển đang thử nghiệm với các phương pháp phân cấp phản ánh các quá trình nhận thức của con người - lưu trữ các khái niệm thay vì chi tiết chính xác và xây dựng các lớp tóm tắt có thể được truy cập khi cần thiết. Những người khác ủng hộ việc tái cấu trúc các codebase để thân thiện hơn với AI, với tài liệu tốt hơn và kiến trúc mô-đun phù hợp với các cửa sổ ngữ cảnh.

Tuy nhiên, những giải pháp này đòi hỏi đầu tư trước đáng kể và có thể không giải quyết được những hạn chế cơ bản của các kiến trúc AI hiện tại. Sự đồng thuận giữa các nhà phát triển là những cải tiến đột phá sẽ đòi hỏi những thay đổi kiến trúc vượt ra ngoài việc mở rộng cửa sổ ngữ cảnh đơn giản, có thể liên quan đến các mô hình phân cấp có thể thực sự tập trung attention vào thông tin liên quan trong khi loại bỏ những thông tin không liên quan.

Con đường phía trước có thể liên quan đến cả các kỹ thuật kỹ thuật ngữ cảnh tốt hơn và những tiến bộ cơ bản trong kiến trúc AI có thể xử lý ngữ cảnh phức tạp, nhiều lớp mà phát triển phần mềm thế giới thực đòi hỏi.

Tham khảo: Context is the bottleneck for coding agents now