# Agent memory

> VI: https://5ac.vn/wiki/agent-memory/ · EN: https://5ac.vn/en/wiki/agent-memory/ · lang: vi · spec_as_of 2026-10-18 (spec no formal spec) · cluster C3

Lớp dữ liệu agent tự ghi và đọc qua nhiều phiên làm việc, nằm ngoài cửa sổ ngữ cảnh của mô hình: ngắn hạn trong context, dài hạn ở ngoài và nạp lại đúng lúc.

---
## Định nghĩa

Agent memory là lớp dữ liệu agent tự ghi và đọc qua nhiều phiên, nằm ngoài cửa sổ ngữ cảnh của mô hình: bộ nhớ ngắn hạn sống trong ngữ cảnh, phần dài hạn nằm ở ngoài và nạp lại đúng lúc, nhờ vậy agent nhớ, phản tư và tiếp tục công việc cũ thay vì khởi động lạnh.

## Cơ chế

Nền tảng lý thuyết là MemGPT (Packer et al., 2023): cửa sổ ngữ cảnh hữu hạn chặn LLM, cách gỡ mượn memory phân cấp của hệ điều hành: luân chuyển dữ liệu giữa bộ nhớ nhanh và chậm tạo ảo giác nhiều bộ nhớ hơn thực tế. MemGPT gọi đây là virtual context management: tự quản nhiều tầng memory để cung cấp extended context trong cửa sổ giới hạn, dùng interrupt điều phối control flow giữa agent và user. Paper kiểm chứng ở hai nơi cửa sổ chặn nặng nhất: tài liệu quá ngữ cảnh và chat đa phiên — nơi agent phải nhớ, phản tư, tiến hoá qua tương tác dài.

Sản phẩm kế thừa là Letta (f.k.a. MemGPT), nguồn active nằm ở letta-ai/letta-code (harness kèm terminal UI và App Server). Docs memory dịch cơ chế paper thành ba quyết định: memory là phần state của agent, sống trong git repository do chính agent sở hữu (MemFS), sửa chỉ thành memory khi commit và push. Memory block (`persona`, `human`, label tuỳ chọn) là file markdown theo label, file dưới `system/` vào system prompt mỗi lượt, phần còn lại nằm ngoài ngữ cảnh, agent đọc khi cần. Dreaming — subagent chạy nền rà hội thoại gần đây, cô đúc bài học, cập nhật memory không ngắt việc chính.

| Tầng | Nội dung | Hành vi với ngữ cảnh |
| --- | --- | --- |
| In-context | system prompt + file `system/` + hội thoại | hiện diện và tiêu token mỗi lượt |
| MemFS ngoài ngữ cảnh | memory file theo label, file tree | agent chủ động đọc khi cần |
| Dreaming | subagent rà hội thoại, consolidate | trigger: step count hoặc compaction |

Survey của Zhang et al. (2024) rà toàn cảnh: memory là gì, vì sao cần, cách thiết kế và đánh giá, ứng dụng và limitation hiện tại.

Luồng: Hội thoại → Agent sửa memory → commit vào MemFS → Nạp lại vào ngữ cảnh khi cần → Dreaming tổng kết

## Neo chuẩn (spec anchor)

Không có spec hội đồng cho agent memory; bảng neo ghim theo phiên bản tài liệu nguồn đã xác minh: MemGPT tại v2 (cập nhật 12/02/2024), memory survey tại v1 (nộp 21/04/2024), từ arXiv API ngày 18/10/2026; Letta theo README main branch và trang docs memory cùng ngày. Docs Letta đang tái cấu trúc, nhiều đường dẫn memory cũ redirect — entry chỉ ghim URL đã kiểm tra 200.

Nguồn đã truy xuất để dựng entry này:

- <https://arxiv.org/abs/2310.08560> — abstract MemGPT (v2) — truy cập 18/10/2026
- <https://arxiv.org/abs/2404.13501> — abstract memory survey (v1) — truy cập 18/10/2026
- <https://export.arxiv.org/api/query?id_list=2310.08560,2404.13501> — arXiv API: xác minh ID, tác giả, abstract — truy cập 18/10/2026
- <https://github.com/letta-ai/letta> — repo Letta (f.k.a. MemGPT) — truy cập 18/10/2026
- <https://raw.githubusercontent.com/letta-ai/letta/main/README.md> — README: định vị stateful agents, nguồn active letta-ai/letta-code — truy cập 18/10/2026
- <https://docs.letta.com/agent-sdk/memory/index.md> — docs memory: MemFS, memory block, dreaming — truy cập 18/10/2026

## Neo học thuật

Cả hai ID ghim trong frontmatter, xác minh qua arXiv API ngày 18/10/2026. *MemGPT: Towards LLMs as Operating Systems* (arXiv:2310.08560, Charles Packer, Sarah Wooders, Kevin Lin, Vivian Fang, Shishir G. Patil, Ion Stoica và cộng sự; nộp 12/10/2023) là paper hệ thống nền tảng: mục Cơ chế trên lấy từ abstract của nó. *A Survey on the Memory Mechanism of Large Language Model based Agents* (arXiv:2404.13501 — Zeyu Zhang, Xiaohe Bo, Chen Ma và cộng sự; nộp 21/04/2024) hệ thống hoá toàn lĩnh vực, kèm repository theo dõi công trình mới tại nuster1128/LLM_Agent_Memory_Survey.

## Câu hỏi thường gặp

**Agent memory khác gì cửa sổ ngữ cảnh?** Cửa sổ ngữ cảnh là bộ nhớ làm việc tạm của một lượt hội thoại — hết hạn mức, nội dung cũ bị cắt hoặc nén. Memory nằm ngoài cửa sổ: tồn bền qua nhiều phiên, model, máy, và agent nạp lại phần cần.

**Agent memory khác RAG ở đâu?** RAG truy xuất tài liệu để trả lời câu hỏi — corpus thuộc về thế giới. Agent memory lưu trạng thái của riêng agent: persona, bài học phiên trước, cam kết đang dở. Cả hai gặp nhau ở cơ chế nạp ngữ cảnh từ ngoài vào cửa sổ khi cần.

**MemGPT và Letta quan hệ thế nào?** Letta là tên hiện tại của dự án MemGPT — README ghi rõ "f.k.a. MemGPT". Paper 2023 mô tả cơ chế virtual context management; Letta triển khai thành sản phẩm stateful agent với MemFS và dreaming.

**Dreaming là gì?** Pattern của Letta: một subagent chạy nền, kích theo trigger (đếm bước hoặc khi ngữ cảnh bị compact), rà hội thoại gần đây và cập nhật memory — việc học diễn ra ngoài phiên tương tác chính.

**Vì sao doanh nghiệp cần quan tâm tới memory?** Agent quên hết sau một phiên phải học lại từ đầu: mất ngữ cảnh khách hàng, mất thoả thuận cũ. Memory là điều kiện để chat đa phiên và quy trình dài hạn chạy được — đúng hai domain paper MemGPT chọn kiểm chứng.

## Liên quan

- [Hệ thống điều hành multi-agent là gì](/blog/he-thong-dieu-hanh-multi-agent-la-gi/)
- [YC mở mã nguồn QM — multi-agent harness](/blog/yc-qm-multi-agent-harness-ma-nguon-mo/)
- [Agentic RAG là gì](/wiki/agentic-rag/)
- [Sub-agent là gì](/wiki/sub-agent/)