Lưu và lấy ra chưa phải bộ nhớ: kho ghi nhớ của agent cần được tổ chức và tự sửa đổi

Wujiang Xu et al. · 1 tác giả · Rutgers University · 2025 · arXiv:2502.12110

Lưu và lấy ra chưa phải bộ nhớ: kho ghi nhớ của agent cần được tổ chức và tự sửa đổi

Mở

Kho tri thức của một doanh nghiệp nhỏ luôn thêm một mẩu mới: giá mới, một thỏa thuận với khách, một ca xử lý lệch chuẩn. Đa số hệ thống bộ nhớ cho agent dừng ở mức lưu rồi lấy ra khi cần, và kết quả là kho lớn dần nhưng chẳng ai dùng được, vì không có gì nối các mẩu thông tin lại với nhau và không có gì sửa phần đã cũ. Câu hỏi của bài này đơn giản: một kho ghi nhớ giữ được bao lâu nếu mỗi lần thêm mẩu mới không ai đụng đến mẩu cũ?

Paper này làm gì

Paper xây một hệ thống bộ nhớ nơi agent tự tổ chức kho ghi nhớ của mình, mượn nguyên tắc từ phương pháp Zettelkasten: mỗi mẩu ghi nhớ mới được viết thành một ghi chú có cấu trúc, rồi hệ thống quét các ghi nhớ trong quá khứ để tìm và vẽ liên kết. Khi liên kết được thiết lập, quá khứ cũng thay đổi theo: mẩu mới có thể khiến mô tả ngữ cảnh của ghi nhớ cũ được cập nhật, để mạng ghi nhớ tự tinh chỉnh hiểu biết của nó thay vì chỉ tích lũy. Thử nghiệm chạy trên sáu foundation model và so với các baseline mạnh nhất hiện có.

Phát hiện chính

  1. Hệ thống hiện có lưu và lấy nhưng không tổ chức — thiếu bước tổ chức chính là lỗ hổng mà paper nhắm vào: dữ liệu vào kho mà không bị sắp xếp thành kiến trúc có thể dùng lại.

Current memory systems enable basic storage and retrieval but lack sophisticated memory organization

  1. Mỗi mẩu ghi nhớ là một ghi chú có cấu trúc — khi thêm một mẩu ghi nhớ mới, hệ thống sinh ra ghi chú đầy thuộc tính: mô tả ngữ cảnh, từ khóa và thẻ, thay vì một dòng chữ trơn.

we generate a comprehensive note containing multiple structured attributes, including contextual descriptions, keywords, and tags

  1. Kho nhớ tiến hóa, không chỉ lớn thêm — mẩu mới có thể viết lại ngữ cảnh của ghi nhớ cũ, nghĩa là dữ liệu lịch sử được sửa dần theo thời gian thay vì chỉ bị chôn dưới đáy.

as new memories are integrated, they can trigger updates to the contextual representations and attributes of existing historical memories

  1. Sáu foundation model đều cho cải thiện — kết quả thực nghiệm được báo cáo là vượt các baseline bộ nhớ mạnh nhất hiện có trên cả sáu model được thử.

Empirical experiments on six foundation models show superior improvement against existing SOTA baselines

Caveat

Cải thiện chỉ được báo cáo so với các baseline bộ nhớ hiện có trên sáu foundation model, không kèm so sánh theo mức tác vụ hay chi phí, nên bài chưa chứng minh tổ chức phong phú hơn retrieval đơn thuần thắng cho công việc agent thật.

Áp vào 5ac thế nào

Kho tri thức của 5ac liên tục thay đổi, nên quy tắc cần lấy từ bài này là khi thêm một ghi nhớ, hệ thống phải tự hỏi ghi nhớ nào liên kết và ghi nhớ nào cần cập nhật ngữ cảnh. Áp thực tế: mỗi khi agent ghi một mẩu thông tin khách hàng mới, nó sinh ghi chú kèm từ khóa và thẻ, tìm liên kết với các ghi nhớ cũ, và ghi lại mẩu nào bị sửa vì mẩu này. Cái giá phải trả là thêm công việc cho mỗi lượt ghi, đó chính là lý do phần caveat ở trên đáng đọc: chưa có so sánh chi phí, vì vậy hãy tự đo số token cho mỗi lần ghi trước khi mở rộng cơ chế này cho toàn kho.

Nguồn