HarnessMM: tái sử dụng quyết định đã chốt để cắt token reasoning lặp lại

“Agent harnesses repeatedly invoke reasoning after tool feedback, even when an earlier call has already fixed the next action.”

Yuhua Jiang, Chang Xu, Feifei Gao +1 · 4 tác giả · Tsinghua University and Microsoft Research Asia · 2026 · arXiv:2610.32813

Sau mỗi phản hồi của tool, có bao nhiêu lần reasoning thực sự cần chạy lại?

Mở

Harness agent gọi lại reasoning sau mỗi phản hồi của tool, kể cả khi lời gọi trước đó đã chốt xong hành động tiếp theo, và phần lớn reasoning đó chỉ lặp lại một quyết định đã có từ trước. Với agent chạy nhiều lượt mỗi ngày, chi phí lặp lại cộng dồn thành hóa đơn token của từng task, trong khi trọng số model không đổi. HarnessMM đi tìm chỗ cắt bằng cách tái sử dụng chính những quyết định đã chốt.

Paper này làm gì

Tác giả thêm một controller ở biên model-tool: quyết định nào đã giải xong thì được lưu thành đồ thị executable, gồm hành động đúng nguyên văn, argument, quan hệ nhân quả và điều kiện bảo vệ. Lần chạy sau, khi receipt quan sát khớp quyết định đã lưu, controller chạy lại đúng hành động đó qua giao diện gốc thay vì gọi reasoning một lần nữa, trong khi trọng số actor vẫn giữ nguyên và quyết định mới hay bằng chứng chưa từng thấy vẫn đưa về model. Họ còn để RSI tinh chỉnh cấu hình companion harness từ feedback huấn luyện, với validation chọn cấu hình mang đi triển khai. Một ablation riêng trên MBPP cho thấy cost thấp hơn 26.91% so với single-use graph và 19.52% so với retained callbacks, tức phần tiết kiệm không đến từ một kiểu đồ thị duy nhất.

Phát hiện chính

  1. Agent harness lặp lại reasoning sau mỗi phản hồi của tool, dù lời gọi trước đó đã chốt hành động tiếp theo. (Agent harnesses repeatedly invoke reasoning after tool feedback, even when an earlier call has already fixed the next action)

  2. Controller ở biên model-tool tái sử dụng quyết định đã giải để thay các reasoning callback sau đó, trong khi trọng số actor giữ nguyên. (A controller at the model-tool boundary reuses resolved decisions to replace later reasoning callbacks while actor weights remain fixed)

  3. Trên HumanEval, phương pháp giữ nguyên tỷ lệ thành công của Codex ở 90.82% trong khi giảm Tokens/task từ 66.72 xuống 47.02, tức tiết kiệm 29.54%; với DeepSeek Harness thì thành công tăng từ 71.43% lên 85.71% còn token mỗi task từ 96.28 xuống 11.62, tiết kiệm 87.93%. (On HumanEval, HarnessMM preserves Codex success at 90.82% while reducing Tokens/task (k) from 66.72 to 47.02 (29.54% saving))

Caveat

Tác giả không nêu hạn chế trong abstract. Câu chốt của họ chỉ khẳng định guarded decision reuse là cách thực tế để giảm repeated reasoning trong các harness hiện hữu, nên mức tiết kiệm nên đọc đúng ngữ cảnh benchmark HumanEval và cấu hình của paper, không phải con số mặc định cho mọi harness.

Áp vào 5ac thế nào

Trong Hermes, nhiều card chạy cùng một chuỗi thao tác: đọc file, chạy lệnh, đọc output, rồi quyết định bước kế tiếp; mỗi vòng như vậy đều tốn token reasoning. Tái sử dụng quyết định ở đây có nghĩa là skill ghi lại thao tác đã chốt, tức đúng script đúng tham số, và lần chạy sau dùng lại thay vì để model suy luận từ đầu. Cron là nơi thử trước: với việc lặp hằng ngày như quét health check, ghi lại kết quả từng bước rồi bỏ phần reasoning thừa thì chi phí mỗi lần chạy giảm rõ. Việc cần làm là giữ guard: chỉ reuse khi receipt khớp, còn ngữ cảnh đã đổi thì vẫn để model quyết định.

Nguồn