# Text utilization (tỷ lệ ngữ cảnh thật trong cửa sổ 1M token)

> VI: https://5ac.vn/wiki/text-utilization/ · EN: https://5ac.vn/en/wiki/text-utilization/ · lang: vi · spec_as_of 2026-10-22 (spec no formal spec) · cluster C16

Phần cửa sổ ngữ cảnh đã cấu hình thực sự chứa token văn bản khi phục vụ: recipe DeepSeek V4 Flash của 5ac ghi nhận mức 0,835, tương đương khoảng 2,49 triệu token với cửa sổ 1M.

---
## Định nghĩa

Text utilization (tỷ lệ sử dụng văn bản) trả lời một câu hỏi mà sheet thông số không nêu: trong cửa sổ ngữ cảnh đã khai báo cỡ tối đa, bao nhiêu phần thực sự chứa token văn bản khi hệ chạy thật? Một cửa sổ khai 1 triệu token là trần trên giấy; phần trần đó được lấp đầy ra sao — và có sập trước hạn vì thiếu bộ nhớ hay không — phụ thuộc cách cấp phát cho cache của engine. Vì thế hai cấu hình cùng khai báo 1M token chưa chắc đã chứa cùng lượng ngữ cảnh thật.

## Cơ chế

Nơi lưu dữ liệu attention của từng token là KV cache — xem entry [KV cache](/wiki/kv-cache/); engine dành bao nhiêu bộ nhớ cho nó là chuyện của hệ phục vụ, xem [Inference engine](/wiki/inference-engine/). Đại lượng text utilization nằm đúng chỗ nối hai việc đó, và recipe DeepSeek V4 Flash của 5ac là nơi nó được đo: bài đặt trần cửa sổ `MAX_MODEL_LEN=1048576` (1M), lượng tử hóa cache về dạng NVFP4, và ghi nhận "text utilization 0.835 — tương đương khoảng 2,49 triệu token". Con số không đến miễn phí: một hotfix của recipe (RULER-lite, mục #81) sửa cách khối cache được nhồi — "bulk-pad đúng 32k/262k cells (trước cap ~4.8k dù exit 0)" — nghĩa là trước bản sửa, phép đo đã dừng quanh 4,8k cell dù chạy xong vẫn báo thành công.

## Bối cảnh ứng dụng

Với agent đọc lô tài liệu lớn hay giữ hội thoại dài, text utilization đáng quan tâm hơn con số cửa sổ danh định: nó là tỷ lệ tiền thật mua được ngữ cảnh thật. Bài deploy gắn cửa sổ với hệ số này khi mô tả stack: "1M context thật" kèm 0.835 utilization, "đủ chứa bối cảnh của một doanh nghiệp lớn". Khái niệm độ rộng cửa sổ thuộc về [Context window](/wiki/context-window/); entry này chỉ giữ phần trăm cửa sổ được dùng cho văn bản — và lời nhắc rằng phần trăm đó có thể hỏng vì chi tiết cấp phát, cho tới khi được hotfix.

## Nguồn đã truy xuất

- [Deploy DeepSeek V4 Flash trên 2× DGX Spark — recipe](/blog/deploy-deepseek-v4-flash-2x-dgx-spark/) — text utilization 0.835 của KV cache NVFP4, tương đương ~2,49 triệu token với cửa sổ 1M (MAX_MODEL_LEN=1048576), hotfix RULER-lite bulk-pad 32k/262k cells — truy cập 22/10/2026

## Liên quan

- [Context window](/wiki/context-window/)
- [KV cache](/wiki/kv-cache/)
- [Inference engine](/wiki/inference-engine/)