# Context window (cửa sổ ngữ cảnh)

> VI: https://5ac.vn/wiki/context-window/ · EN: https://5ac.vn/en/wiki/context-window/ · lang: vi · spec_as_of 2026-10-19 (spec no formal spec) · cluster C8

Lượng văn bản tối đa một mô hình xử lý trong một lượt gọi, tính bằng token: đưa ít thì agent thiếu thông tin, đưa nhiều thì loạn — và chi phí tăng theo đúng phần nhét vào.

---
## Định nghĩa

Context window (cửa sổ ngữ cảnh) là lượng văn bản tối đa một mô hình ngôn ngữ lớn xử lý trong một lượt gọi, tính bằng token: phần đưa vào — câu lệnh, tài liệu truy xuất, lịch sử hội thoại — cộng phần mô hình sinh ra, tất cả phải nằm gọn trong cửa sổ. Ngoài cửa sổ, mô hình không có ký ức: agent chỉ biết đúng những gì bạn nạp vào prompt. Bản đồ kỹ năng AI engineering của Andrew Ng xếp hiểu cửa sổ ngữ cảnh vào nhóm bắt buộc, đặt cạnh tokenization, cache hit, knowledge cutoff và tool calling: một kỹ sư cần hiểu cơ chế ở mức đủ để ra quyết định kỹ thuật, không chỉ đủ để gọi API.

## Cơ chế

Cửa sổ dài ra liên tục qua các đời model, nhưng dài không có nghĩa mô hình dùng đều khắp. Nghiên cứu *Lost in the Middle: How Language Models Use Long Contexts* (arXiv:2307.03172, Nelson Liu và cộng sự, 2023) đo hiệu năng truy vấn trên tài liệu đặt ở các vị trí khác nhau: khi thông tin nằm giữa một ngữ cảnh dài, độ chính xác rơi rõ rệt so với đầu hoặc cuối — đường cong hình chữ U. Bài 4 kỹ năng của 5ac chốt hệ quả thực hành bằng một cặp câu: đưa ít quá thì agent thiếu thông tin, đưa nhiều quá thì agent loạn; khi không thể nhét toàn bộ kiến thức vào cửa sổ, RAG truy xuất đúng đoạn liên quan rồi đưa vào prompt — quản lý cái gì được vào cửa sổ, và vào vị trí nào, là kỹ năng riêng.

## Bối cảnh ứng dụng

Cửa sổ ngữ cảnh nối thẳng xuống hóa đơn và kiến trúc. Mỗi lượt tác vụ agent nạp vài chục nghìn token thì tuyến giá input nặng tương ứng, vì mô hình tính tiền theo cái nó đọc — thực thể giá token thuộc entry Token cost control. Chạy cửa sổ dài còn phải nuôi cache KV trong bộ nhớ engine — thuộc entry Inference engine. Và độ dài cửa sổ là một trong ba tiêu chí 5ac dùng để tự động định tuyến model cho từng task (số bước thực thi, độ sâu suy luận, context window cần thiết): việc cần ngữ cảnh triệu token phải về model chịu được tải đó, việc ngắn thì đừng trả tiền cho sòng dài.

## Nguồn đã truy xuất

- [Andrew Ng công bố bản đồ kỹ năng AI Engineering: 6 kỹ năng để build & deploy ứng dụng AI năm 2026](/blog/andrew-ng-ai-engineering-skills-map-build-deploy-ai-applications/) — nhóm kiến thức mô hình: tradeoff context window, cache hit, knowledge cutoff — truy cập 19/10/2026
- [4 kỹ năng AI engineering theo Andrew Ng — bản đồ kỹ năng cho mọi developer](/blog/ky-nang-ai-engineering-4-kien-thuc/) — quản lý context: đưa ít thì thiếu, đưa nhiều thì loạn; RAG khi không nhét nổi vào cửa sổ — truy cập 19/10/2026
- [Chiến lược sản phẩm AI agent giữa cuộc chiến giá — Lợi thế từ model-agnostic architecture](/blog/chien-luoc-san-pham-ai-gia-re-doanh-nghiep/) — context window cần thiết là một tiêu chí định tuyến model — truy cập 19/10/2026
- <https://arxiv.org/abs/2307.03172> — Lost in the Middle: How Language Models Use Long Contexts (v3) — xác minh qua arXiv API ngày 19/10/2026

## Liên quan

- [Token cost control (kiểm soát chi phí token)](/wiki/ai-token-cost/)
- [Inference engine (động cơ suy luận)](/wiki/inference-engine/)
- [RAG (Retrieval-Augmented Generation)](/wiki/rag/)
- [Context engineering (kỹ thuật ngữ cảnh)](/wiki/context-engineering/)
- [Model routing (định tuyến mô hình)](/wiki/model-routing/)