Một đề xuất gần đây nhằm thay thế việc lựa chọn công cụ dựa trên LLM bằng các mạng neural khả vi đã gây ra cuộc tranh luận sôi nổi giữa các nhà phát triển về tương lai của kiến trúc AI agent. Phương pháp này sử dụng các mô hình PyTorch nhỏ để định tuyến giữa các công cụ thay vì dựa vào các mô hình ngôn ngữ lớn, hứa hẹn tiết kiệm chi phí đáng kể nhưng đối mặt với những câu hỏi về hiệu quả trong thực tế.
Cuộc thảo luận tập trung xung quanh một căng thẳng cơ bản trong các hệ thống AI hiện đại: liệu có nên sử dụng LLM đắt đỏ nhưng có khả năng cao cho mọi quyết định, hay ủy thác các tác vụ đơn giản hơn cho các mô hình chuyên biệt, rẻ hơn. Các quy trình agent hiện tại thường sử dụng LLM để quyết định công cụ nào cần gọi, thực thi những công cụ đó, và sau đó diễn giải kết quả - một mô hình có thể nhanh chóng trở nên tốn kém ở quy mô lớn.
Ví dụ So sánh Chi phí
- Định tuyến LLM truyền thống: 3 lần gọi LLM cho mỗi truy vấn (lập kế hoạch + thực thi công cụ + diễn giải kết quả)
- Giá GPT-4 : 15 USD cho 1 triệu token đầu vào, 75 USD cho 1 triệu token đầu ra
- Định tuyến có thể vi phân: Chi phí đào tạo một lần so với chi phí LLM cho mỗi truy vấn
Độ Phức Tạp Của Việc Lựa Chọn Công Cụ So Với Sử Dụng Công Cụ
Phản hồi từ cộng đồng tiết lộ một sự phân biệt quan trọng thách thức tiền đề cốt lõi. Trong khi phương pháp được đề xuất tập trung vào việc tối ưu hóa lựa chọn công cụ, nhiều nhà phát triển cho rằng việc chọn công cụ nào để sử dụng thường là phần dễ dàng. Độ phức tạp thực sự nằm ở việc xác định các đối số chính xác để truyền cho mỗi công cụ và xử lý các tương tác tinh tế giữa nhiều lần gọi công cụ.
Việc tìm ra công cụ nào cần gọi là tầm thường, việc truyền các đối số chính xác mới là phần khó khăn và dễ xảy ra lỗi.
Nhận thức này cho thấy rằng ngay cả khi định tuyến khả vi giải quyết được vấn đề lựa chọn, nó có thể chỉ giải quyết một phần nhỏ của thách thức tổng thể. Đối với các quy trình phức tạp liên quan đến nhiều lần gọi công cụ phụ thuộc lẫn nhau, khả năng lý luận của LLM vẫn cần thiết để hiểu ngữ cảnh và tạo ra các tham số phù hợp.
Mối Quan Ngại Về Sự Không Khớp Phân Phối
Một mối quan ngại kỹ thuật đáng kể xuất hiện xung quanh phân phối dữ liệu huấn luyện. Các LLM hiện đại được huấn luyện đặc biệt để xử lý các quy trình gọi công cụ, khiến chúng tự nhiên phù hợp với những tác vụ này. Ngược lại, một mạng neural tùy chỉnh được huấn luyện trên dữ liệu tổng hợp có thể gặp khó khăn với các trường hợp biên hoặc kịch bản mới nằm ngoài phân phối huấn luyện của nó.
Tuy nhiên, một số nhà phát triển thấy các giải pháp tiềm năng, chẳng hạn như tạo ra lịch sử cuộc trò chuyện tổng hợp khiến các quyết định định tuyến cục bộ xuất hiện như thể chúng đến từ chính LLM. Phương pháp này có thể duy trì khả năng tương thích với các framework hiện có trong khi vẫn thu được lợi ích về hiệu quả.
Sự Đánh Đổi Giữa Quy Mô Và Độ Chính Xác
Cuộc tranh luận cũng làm nổi bật những câu hỏi cơ bản về việc mở rộng mô hình. Như một nhà phát triển đã lưu ý, việc cải thiện độ chính xác của một mạng định tuyến nhỏ có thể đòi hỏi phải làm cho nó lớn hơn, có khả năng làm mất đi những lợi thế về chi phí. Đến một thời điểm nào đó, mô hình định tuyến có thể cần phải tinh vi đến mức việc sử dụng một mô hình ngôn ngữ nhỏ trở nên thực tế hơn.
Điều này đặt ra những câu hỏi rộng lớn hơn về việc vạch ra ranh giới giữa các mô hình chuyên biệt và LLM đa mục đích. Trong khi phương pháp này cho thấy tiềm năng cho các quy trình đơn giản, được định nghĩa rõ ràng, hiệu quả của nó đối với các tác vụ agent phức tạp, nhiều bước vẫn chưa được chứng minh.
So sánh Kiến trúc Kỹ thuật
| Phương pháp | Thực thi | Tính xác định | Tăng trưởng ngữ cảnh | Yêu cầu huấn luyện |
|---|---|---|---|---|
| Định tuyến LLM | Gọi API bên ngoài | Ngẫu nhiên | Theo cấp số nhân | Không |
| Định tuyến khả vi | Thực thi cục bộ | Xác định | Không đổi | Có |
Khoảng Cách Triển Khai Thực Tế
Có lẽ điều nói lên nhiều nhất là một số thành viên cộng đồng đã yêu cầu các ví dụ cụ thể về phương pháp này hoạt động trong môi trường sản xuất. Việc thiếu các so sánh hiệu suất chi tiết hoặc nghiên cứu trường hợp thực tế cho thấy kỹ thuật này vẫn chủ yếu mang tính lý thuyết.
Cuộc thảo luận phản ánh một xu hướng rộng lớn hơn trong phát triển AI: việc tìm kiếm liên tục các mô hình kiến trúc cân bằng khả năng, chi phí và độ phức tạp. Trong khi định tuyến công cụ khả vi cung cấp một giải pháp thay thế hấp dẫn cho các quy trình nặng LLM, tính khả thi thực tế của nó cuối cùng sẽ phụ thuộc vào việc chứng minh những lợi thế rõ ràng trong các ứng dụng thực tế thay vì các benchmark tổng hợp.
Cuộc tranh luận nhấn mạnh tốc độ phát triển nhanh chóng của lĩnh vực này, với các nhà phát triển liên tục tìm kiếm những cách hiệu quả hơn để xây dựng các hệ thống AI có khả năng mà không làm vỡ ngân sách cho chi phí suy luận.
Tham khảo: Optimizing Tool Selection for LLM Workflows: Differentiable Programming with PyTorch and DSPy