Trả lời câu dễ từ bản tóm tắt, chỉ mở chi tiết khi câu hỏi khó — làm được không?

Chin-Lun Fu et al. · 1 tác giả · Machine Learning Center of Excellence, JPMorgan Chase & Co · 2026 · arXiv:2610.02472

Trả lời câu dễ từ bản tóm tắt, chỉ mở chi tiết khi câu hỏi khó — làm được không?

Mở

Mỗi lần khách hỏi, agent đọc lại toàn bộ lịch sử hội thoại thì câu trả lời thường đúng, nhưng hóa đơn token cũng tăng theo. Với team nhỏ chạy agent trên ngân sách, vấn đề không phải thiếu dữ liệu mà là mọi request đều trả tiền cho cùng một đống lịch sử, kể cả khi câu hỏi chỉ cần một dòng. Câu hỏi thực tế hơn: có để câu hỏi đơn giản dừng ở mức tóm tắt, còn câu hỏi khó mới mở tới tin nhắn gốc không?

Paper này làm gì

APDMem (Agent-controlled Progressive Disclosure Memory) là kiến trúc bộ nhớ dài hạn phân cấp, áp progressive disclosure — dần dần lộ thông tin — cho retrieval. Lịch sử hội thoại được lưu thành bốn lớp chi tiết tăng dần: tóm tắt chủ đề, key facts cá nhân, ghi chú bằng chứng theo từng lượt, và tin nhắn gốc. Lúc suy luận, một controller đọc lớp cao trước, chỉ đào vào lớp chi tiết hơn khi thật sự cần. Bằng chứng truy hồi được đưa cho note synthesizer gom thành cấu trúc xoay quanh câu hỏi: gom fact, sắp xếp sự kiện, đánh dấu mâu thuẫn trước khi sinh câu trả lời cuối.

Phát hiện chính

  1. Lưu lịch sử thành bốn lớp — Thay vì một kho phẳng hoặc retrieval cố định một độ chi tiết, lịch sử được chia từ tóm tắt chủ đề xuống tin nhắn gốc, mỗi lớp một mức chi tiết.

APDMem represents conversation history as four progressively detailed layers: thematic summaries, personalized key facts, turn-level evidence notes, and raw messages

  1. Controller đọc lớp cao trước, đào sâu khi cần — Luồng trả lời bắt đầu từ tóm tắt, chỉ mở tới bằng chứng chi tiết khi câu hỏi thật sự đòi.

it first reads high-level summaries and drills into finer evidence only when needed

  1. Câu dễ dừng sớm, câu khó kiểm tra sâu hơn — Truy vấn đơn giản có thể kết thúc ngay, trong khi truy vấn theo thời gian, nhiều bước hay cần bằng chứng chính xác mới kích hoạt đào sâu; đó là đánh đổi chi phí – độ trung thực thích ứng.

simple queries can terminate early, while complex temporal, multi-hop, or exact-evidence queries trigger deeper inspection

  1. Chạm 8% hội thoại mà vẫn mạnh — Trên LongMemEval, hệ thống đạt kết quả tốt cho reasoning bộ nhớ dài hạn trong khi chỉ truy cập 8% tổng số hội thoại.

APDMem achieves strong performance for long-context memory reasoning while accessing only 8% of the total conversations

Caveat

Chỉ đánh giá trên LongMemEval, và quyết định đào sâu của controller không được tách riêng trong abstract, nên phần đóng góp của từng lớp chưa được chứng minh.

Áp vào 5ac thế nào

Đây là cách kiểm soát context rẻ nhất mà agent ngân sách có thể làm ngay: luôn nhét lớp tóm tắt và key facts vào window, để chi tiết bên ngoài, chỉ mở ra khi câu hỏi cần truy vết thời gian hay bằng chứng nguyên văn. Áp cho agent hỗ trợ 5ac: câu hỏi thường về giá hay lịch làm việc trả lời ngay từ key facts; khi khách đòi đầy đủ hay mốc thời gian cụ thể, controller mới đọc lớp chi tiết. Tiền token chỉ trả khi thật sự cần, thay vì mỗi request đều lôi cả kho ra.

Nguồn