# Context engineering

> VI: https://5ac.vn/wiki/context-engineering/ · EN: https://5ac.vn/en/wiki/context-engineering/ · lang: vi · spec_as_of 2026-10-18 (spec no formal spec) · cluster C3

Kỹ thuật chọn và giữ đúng bộ token đưa vào cửa sổ ngữ cảnh mỗi lượt suy luận, xem ngữ cảnh là nguồn hữu hạn bị hao mòn theo số token.

---
## Định nghĩa

Context engineering là việc chọn và duy trì đúng bộ token đưa vào cửa sổ ngữ cảnh ở mỗi lượt suy luận, thay vì chỉ viết câu lệnh. Ngữ cảnh là nguồn hữu hạn: mỗi token tiêu bớt một phần ngân sách chú ý, nên kết quả đến từ ít token giá trị cao thay vì nhiều token.

## Cơ chế

Anthropic chia ngữ cảnh ra từng thành phần cần tối ưu riêng:

| Thành phần | Nguyên tắc | Bẫy thường gặp |
| --- | --- | --- |
| System prompt | đủ cụ thể để dẫn dắt, đủ linh hoạt để model tự quyết | hardcode if-else giòn hoặc chỉ đạo chung chung |
| Tools | tự chứa, không chồng lấn, trả token gọn | bộ tool quá to khiến agent mơ hồ khi chọn |
| Ví dụ few-shot | ít mà điển hình, phủ đúng hành vi cần thấy | nhồi danh sách edge case từng cái |
| Lịch sử hội thoại | cô đọng hoặc ghi ra ngoài cửa sổ | giữ nguyên mọi token dẫn tới context rot |

Luồng: Chọn nguồn → Nạp khi cần → Cô đọng → Ghi chú ngoài cửa sổ

Context rot mô tả hiện tượng độ chính xác trích xuất giảm dần khi cửa sổ dài thêm: attention của transformer ghép mọi cặp token nên quan hệ là bình phương số token, càng dài càng bị chia mỏng. Kỹ thuật nội suy position encoding cho phép xử lý chuỗi dài hơn nhưng đánh đổi độ chính xác vị trí. Mức suy giảm là đường dốc chứ không phải vách đá: model vẫn làm tốt ở ngữ cảnh dài, chỉ kém chính xác hơn khi phải lôi chi tiết cũ ra.

Anthropic khuyến nghị nạp just-in-time: giữ identifiers nhẹ như đường dẫn tệp, URL, câu truy vấn, rồi nạp dữ liệu thật lúc agent cần thay vì dồn hết từ đầu. Khi hội thoại dài quá thì compaction; khi dự án có mốc rõ thì ghi chú ra tệp; khi cần thăm dò song song thì dùng sub-agent, mỗi sub-agent tiêu hàng chục nghìn token nhưng chỉ trả về summary 1.000 đến 2.000 token.

## Neo chuẩn (spec anchor)

Context engineering không có bản spec chính thức, nên frontmatter ghi "no formal spec" và neo theo ngày đọc nguồn 18/10/2026. Hai trang thực dụng để tham chiếu là bài [Effective context engineering for AI agents](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents) của Anthropic, đăng ngày 29/09/2025, và survey [arXiv:2507.13334](https://arxiv.org/abs/2507.13334) bản v2, sửa ngày 21/07/2025. Anthropic liệt kê MCP trong các nguồn ngữ cảnh; tra [trang versioning của MCP](https://modelcontextprotocol.io/specification/versioning) ngày 18/10/2026 cho thấy bản hiện hành là 2026-07-28.

## Neo học thuật

Survey [arXiv:2507.13334](https://arxiv.org/abs/2507.13334) là nền đọc chính của entry này:

| Hạng mục | Số liệu | Ngày đo |
| --- | --- | --- |
| [arXiv:2507.13334](https://arxiv.org/abs/2507.13334) | 166 trang, hơn 1.400 paper được đọc, 1.411 lượt trích dẫn | 18/10/2026 |
| [Anthropic engineering](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents) | bài viết gốc của Applied AI team, đăng ngày 29/09/2025 | 18/10/2026 |

Taxonomy của survey chia context engineering thành context retrieval and generation, context processing và context management, rồi ghép thành ba hệ thống: RAG, memory systems kèm tool-integrated reasoning, và multi-agent. Khoảng trống survey chỉ ra là model hiểu ngữ cảnh tốt hơn nhiều so với khả năng sinh output dài tương xứng.

## Câu hỏi thường gặp

**Context engineering khác prompt engineering ở đâu?** Prompt engineering lo cách viết câu lệnh; context engineering lo toàn bộ trạng thái đưa vào model mỗi lượt, gồm system instructions, tools, MCP, dữ liệu ngoài và lịch sử tin nhắn. Anthropic coi đây là bước tiếp theo tự nhiên của prompt engineering.

**Context rot là gì?** Hiện tượng mô hình nhớ sai tăng khi số token trong cửa sổ tăng. Nguyên nhân gốc nằm ở attention bình phương theo số token, nên Anthropic khuyên coi ngữ cảnh như ngân sách chú ý có giới hạn thay vì kho chứa càng nhiều càng tốt.

**Khi nào dùng compaction, khi nào ghi chú, khi nào sub-agent?** Anthropic chia theo đặc trưng tác vụ: compaction giữ mạch hội thoại cho việc qua lại nhiều; ghi chú ra tệp hợp với phát triển có nhiều mốc rõ; multi-agent hợp nghiên cứu cần thăm dò song song.

**Context engineering liên quan MCP thế nào?** MCP là một trong những nguồn ngữ cảnh mà Anthropic liệt kê, đứng cạnh system instructions, tools, dữ liệu ngoài và lịch sử. Bản MCP hiện hành tra ngày 18/10/2026 là 2026-07-28.

**Những nguồn nào dựng nên entry này?** Ba trang, cùng truy cập ngày 18/10/2026: [bài Anthropic về context engineering](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents) cho định nghĩa và kỹ thuật, [arXiv:2507.13334](https://arxiv.org/abs/2507.13334) cho survey, [trang versioning của MCP](https://modelcontextprotocol.io/specification/versioning) cho số phiên bản protocol.

## Liên quan

- [Agent Skills (SKILL.md)](/wiki/agent-skills/)
- [Hệ thống điều hành multi-agent là gì?](/blog/he-thong-dieu-hanh-multi-agent-la-gi/)
- [4 kỹ năng AI engineering theo Andrew Ng](/blog/ky-nang-ai-engineering-4-kien-thuc/)