Anthropic gần đây đã công bố các tính năng quản lý ngữ cảnh mới cho Claude Sonnet 4.5 , bao gồm chỉnh sửa ngữ cảnh tự động và công cụ bộ nhớ được thiết kế để giúp các AI agent xử lý các tác vụ dài hơn. Trong khi công ty tuyên bố có những cải thiện hiệu suất đáng kể, các nhà phát triển trong cộng đồng đang đặt ra những câu hỏi quan trọng về việc triển khai thực tế và hiệu quả của những tính năng này.
Tình trạng có sẵn:
- Trạng thái: Public beta
- Nền tảng: Claude Developer Platform , Amazon Bedrock , Google Cloud Vertex AI
- Các trường hợp sử dụng mục tiêu: Lập trình, nghiên cứu, xử lý dữ liệu với các agent hoạt động lâu dài
 |
|---|
| Khám phá các tính năng quản lý ngữ cảnh mới trong Claude Sonnet 45 trên nền tảng Anthropic |
Mối quan ngại kỹ thuật về chỉnh sửa ngữ cảnh
Mối quan ngại lớn nhất xoay quanh việc chỉnh sửa ngữ cảnh, tự động loại bỏ các lời gọi công cụ và kết quả cũ khi tiến gần đến giới hạn token. Các nhà phát triển lo ngại rằng cách tiếp cận này có thể gây ra những vấn đề nghiêm trọng. Khi các phần của ngữ cảnh bị loại bỏ, nó có thể phá vỡ giả định rằng thông tin nhất định vẫn có sẵn, có khả năng dẫn đến ảo giác khi mô hình AI tham chiếu dữ liệu không còn hiện diện.
Một nhà phát triển đã nêu bật một tình huống cụ thể: nếu một agent đọc một tệp và sau đó nhận được hướng dẫn cho các thay đổi tiếp theo, việc loại bỏ nội dung tệp gốc khỏi ngữ cảnh có thể khiến mô hình bị ảo giác, vì các lời nhắc tự nhiên tham chiếu đến thông tin bị thiếu đó. Điều này tạo ra một căng thẳng cơ bản giữa việc quản lý giới hạn ngữ cảnh và duy trì các cuộc hội thoại mạch lạc.
Các Tính Năng Kỹ Thuật Chính:
- Chỉnh Sửa Ngữ Cảnh: Tự động loại bỏ các lệnh gọi công cụ và kết quả cũ khi sắp đạt giới hạn token
- Công Cụ Bộ Nhớ: Hệ thống dựa trên file để lưu trữ thông tin bên ngoài cửa sổ ngữ cảnh
- Hoạt Động Phía Client: Các nhà phát triển duy trì toàn quyền kiểm soát việc lưu trữ và duy trì dữ liệu
- Tính Bền Vững Xuyên Phiên: Thông tin được duy trì qua nhiều cuộc hội thoại
Câu hỏi về đổi mới so với tiếp thị
Một số thành viên cộng đồng bày tỏ sự bối rối về những gì thực sự mới trong thông báo của Anthropic . Nhiều nhà phát triển đã triển khai các giải pháp quản lý ngữ cảnh tương tự trong nhiều tháng bằng cách sử dụng các công cụ và API hiện có. Câu hỏi cốt lõi được đặt ra là liệu Claude Sonnet 4.5 đã được tinh chỉnh cụ thể để sử dụng các công cụ bộ nhớ và chỉnh sửa ngữ cảnh này hiệu quả hơn, hay đây chủ yếu là cải thiện trải nghiệm nhà phát triển cho các khả năng đã có thể thực hiện được.
Tôi đã làm điều gì đó tương tự trong một tháng với opencode, điều mới là mô hình sonnet mới được tinh chỉnh để gọi các công cụ này 'tốt hơn' hay đơn giản là họ đã cải thiện devex để hoàn thành những việc này?
Thách thức triển khai thực tế
Các công ty đã làm việc với các AI agent chạy dài hạn đang chia sẻ những hiểu biết về sự phức tạp của quản lý ngữ cảnh. Cuộc thảo luận tiết lộ rằng quản lý ngữ cảnh hiệu quả bao gồm nhiều hơn việc chỉ loại bỏ thông tin cũ. Nó đòi hỏi sự phối hợp cẩn thận của nhiều agent, tóm tắt thông minh các phản hồi lớn, và các hệ thống tinh vi để truyền ngữ cảnh giữa các thành phần khác nhau.
Cộng đồng cũng chỉ ra một sự đánh đổi quan trọng mà thông báo của Anthropic không giải quyết đầy đủ: sự cân bằng giữa tốc độ và độ chính xác trong quản lý ngữ cảnh. Tóm tắt nhanh hơn và nén ngữ cảnh thường đi kèm với chi phí về độ chính xác, và cách tiếp cận tối ưu thay đổi đáng kể tùy thuộc vào việc bạn đang xây dựng sản phẩm hướng đến người tiêu dùng hay ứng dụng doanh nghiệp.
Tuyên bố về hiệu suất của Anthropic:
- Chỉ chỉnh sửa ngữ cảnh: cải thiện hiệu suất 29%
- Chỉnh sửa ngữ cảnh + công cụ bộ nhớ: cải thiện hiệu suất 39%
- Giảm tiêu thụ token: 84% trong đánh giá tìm kiếm web 100 lượt
Câu hỏi tích hợp còn thiếu
Mặc dù có các tính năng API mới, các nhà phát triển bối rối tại sao những khả năng này không được tích hợp vào sản phẩm Claude Code của chính Anthropic . Điều này đặt ra câu hỏi về tính trưởng thành và độ tin cậy của các tính năng, cũng như sự tự tin của Anthropic trong việc triển khai chúng trong các ứng dụng hướng đến người tiêu dùng.
Phản ứng của cộng đồng nhà phát triển cho thấy rằng trong khi quản lý ngữ cảnh thực sự là một thách thức quan trọng đối với các AI agent, giải pháp của Anthropic có thể không mang tính đột phá như được trình bày. Thử thách thực sự sẽ là liệu những tính năng này có thể vượt qua các thách thức kỹ thuật mà các nhà phát triển đã xác định và cung cấp những cải thiện thực sự so với các cách tiếp cận hiện có.
Tham khảo: Managing context on the Claude Developer Platform