Khi 16.000 agent cùng gửi tin, thứ khan hiếm là đọc chứ không phải gửi
Agent nào cũng gửi được, nhưng đâu phải agent nào cũng đọc nổi?
Mở
Protocol agent hiện nay tối ưu việc gửi tin, nhưng với chính agent, thứ thật sự khan hiếm lại là đọc: mỗi tin nhắn bước vào context đều tốn token, và context thì hữu hạn. Hạ tầng hiện có chạy theo mô hình push — người gửi quyết định lúc nào tin bước vào context người nhận — nên người nhận đọc theo thứ tự đến, và khi context đầy thì bỏ tin cũ nhất. Paper này đặt câu hỏi ngược: nếu để tin nằm ngoài context, trong một inbox, và cho chính người nhận quyết định nó đọc gì thì sao?
Paper này làm gì
Tác giả đề xuất inbox như một primitive điều phối: từng agent tự đặt quy tắc đọc của riêng mình, và quy tắc đó quyết định yêu cầu của agent khác có đến được mình hay không. Thí nghiệm chạy trên xã hội mô phỏng lên tới 16.000 agent, mọi quyết định đều do một phán đoán LLM đưa ra, trên lưu lượng khác nhau. Ba trắc nghiệm đo: push sụp ra sao khi một agent tham gia nhiều điều phối cùng lúc, inbox cần thiết đến đâu dưới lưu lượng nặng nhiều nhiễu, và bốn quyết định nào tạo nên một inbox — đọc gì, giữ gì, người gửi trả gì, trả lời được nói gì.
Phát hiện chính
Tài nguyên khan hiếm là đọc, không phải gửi — Đây là cách đổi trục của cả bài: bottleneck không nằm ở đường gửi tin mà ở cửa vào context, vì mỗi tin đều được thanh toán bằng token và cửa sổ thì hữu hạn.
the scarce resource is not delivery but reading: every message costs tokens, and the context is finite
Push sụp khi điều phối nhiều cùng lúc — Một agent điều hành 20 cuộc thương lượng với bộ nhớ đầy sẽ đề xuất đúng những phương án đã bị loại từ trước, vì nó đã thả mất những lời hồi đáp cũ nhất trước khi kịp đọc.
an agent leading 20 negotiations with a full memory proposes options already rejected 97% of the time
Inbox là một primitive điều phối — Mỗi agent đặt quy tắc đọc ở nơi riêng, và quy tắc đó đóng vai rà soát: yêu cầu từ agent khác chỉ đến được agent này khi qua cửa đó, thay vì đường truyền đẩy thẳng vào context.
the inbox is a coordination primitive: each agent sets its rules privately, and those rules decide whether other agents’ requests reach it
Caveat
Giới hạn được nêu là bài toán triển khai nửa vời: trên mạng email thật, khi chỉ một nửa agent áp dụng inbox, tìm kiếm chuyển tiếp chỉ thu hồi 5% so với việc cả mạng áp dụng, trong khi tìm kiếm một bước đạt 42%. Lợi ích vì vậy không cộng dồn tuyến tính khi mạng chưa đồng nhất.
Áp vào 5ac thế nào
Hàng đợi task giữa các agent Hermes đúng là bài toán push/pull này: dispatcher hiện giao card theo kiểu push và worker đọc theo thứ tự đến. Mẫu inbox gợi ý để mỗi profile tự có quy tắc nhận việc — card nào vào context, card nào bỏ qua — thay vì bắt mọi thứ vào context một lượt. Chi phí đọc giải thích vì sao context pack phải cắt gắt: một card có comment dài làm phình context của mọi lần chạy sau. Con số 5% so với 42% áp cho việc đổi giao thức đọc: chỉ một nửa agent trong pipeline áp quy tắc mới thì lợi ích sụp, nên phải đổi đồng loạt cả pod.
Nguồn
- The Inbox as a Coordination Primitive for LLM Agent Societies — https://arxiv.org/abs/2610.36264