# Model routing (định tuyến mô hình)

> VI: https://5ac.vn/wiki/model-routing/ · EN: https://5ac.vn/en/wiki/model-routing/ · lang: vi · spec_as_of 2026-10-19 (spec no formal spec) · cluster C8

Lớp quyết định mỗi tác vụ AI được giao cho mô hình nào — theo chi phí, độ trễ, độ dài ngữ cảnh và độ nhạy — kèm log ghi lại lý do chọn.

---
## Định nghĩa

Model routing (định tuyến mô hình) là tầng chọn mô hình cho từng tác vụ: thay vì một model duy nhất gánh mọi việc, một bộ định tuyến (router) nhận yêu cầu, đọc chi phí, độ trễ, độ dài ngữ cảnh, ngôn ngữ và mức độ nhạy cảm, rồi giao việc cho mô hình phù hợp nhất. Router không phải một model — nó là chính sách chạy trước model. Trong khung control plane của 5ac, định tuyến mô hình đứng cùng hàng với quyền truy cập và log: việc rủi ro thấp đi model rẻ, việc nhạy cảm đi hạ tầng kiểm soát chặt, chỉ việc cần chất lượng cao mới dùng model premium.

## Cơ chế

Kiến trúc tối thiểu 5ac mô tả có bốn lớp: **bộ phân loại tác vụ** (task classifier) tách việc thành đọc hiểu, viết nháp, phân tích, gọi công cụ, kiểm tra dữ liệu hoặc quyết định cần người duyệt; **bộ định tuyến** chọn model theo chi phí, độ trễ, độ dài ngữ cảnh, ngôn ngữ và rủi ro kinh doanh; **chính sách bảo vệ** ẩn dữ liệu nhạy cảm, giới hạn quyền công cụ, kiểm tra secret; **sổ chi phí** (cost ledger) ghi token, thời gian chạy, agent sử dụng và kết quả. Router tốt còn ghi lại lý do chọn, để sáu tháng sau truy được vì sao bước đó chạy model này. Không có router, doanh nghiệp hoặc trả giá premium cho việc rẻ, hoặc đặt quyết định quan trọng vào model rẻ. Hướng học thuật: RouteLLM (arXiv:2406.18665) huấn luyện router từ dữ liệu ưu tiên của người dùng, giảm chi phí hơn 2 lần trên một số benchmark mà không giảm chất lượng trả lời — và router giữ nguyên hiệu quả khi đổi cặp model mạnh/yếu bên dưới. UniRoute (arXiv:2502.08773) mở rộng sang tình huống model chưa từng thấy lúc huấn luyện: mỗi model được biểu diễn bằng vector đặc trưng để router giao câu hỏi cho model nhỏ nhất đủ sức trả lời, thử trên hơn 30 model.

## Bối cảnh ứng dụng

Với doanh nghiệp Việt, routing là đòn bẩy chi phí đầu tiên trong chiến lược mix model: DeepSeek đảm việc văn bản dài và ngữ cảnh tiếng Việt, Gemini Flash nhận tác vụ nhanh và đa phương thức, model premium đứng ở các điểm kiểm soát — hợp đồng, rủi ro pháp lý, quyết định giá, rà soát bảo mật. Lợi quyền lớn nhất là về cấu trúc: khi giá API, quy định xuất khẩu hay năng lực model thay đổi, doanh nghiệp đổi router chứ không viết lại workflow; lớp mô hình lúc đó có thể đi DeepSeek, OpenAI, Claude hay model nội bộ. Điều kiện đi kèm: router phải chạy cùng phân quyền, audit log và cơ chế dừng khẩn — mix model chỉ đáng tin khi cả bốn thứ đó có mặt.

## Nguồn đã truy xuất

- [Mix DeepSeek và Gemini: tối ưu chi phí agentic apps cho SMB Việt Nam](/blog/mix-deepseek-gemini-toi-uu-chi-phi-ung-dung-agentic-smb-viet-nam/) — kiến trúc bốn lớp classifier/router/policy/ledger, router ghi lý do chọn — truy cập 19/10/2026
- [Control plane cho AI agents là gì? Khung quản trị an toàn cho doanh nghiệp Việt năm 2026](/blog/control-plane-ai-agents-quan-tri-doanh-nghiep/) — chọn model theo chi phí, độ nhạy, độ khó — truy cập 19/10/2026
- [Kiến trúc multi-agent on-prem cho SMB Việt Nam: rẻ hơn, an toàn hơn, tích hợp Zalo nhanh hơn](/blog/kien-truc-ai-coding-agent-on-prem-doanh-nghiep-viet-nam/) — đổi router thay vì viết lại workflow — truy cập 19/10/2026
- <https://arxiv.org/abs/2406.18665> — RouteLLM: Learning to Route LLMs with Preference Data (v4) — xác minh qua arXiv API ngày 19/10/2026
- <https://arxiv.org/abs/2502.08773> — Universal Model Routing for Efficient LLM Inference (v2) — xác minh qua arXiv API ngày 19/10/2026

## Liên quan

- [Token cost control (kiểm soát chi phí token)](/wiki/ai-token-cost/)
- [Agent orchestration (điều phối agent)](/wiki/agent-orchestration/)
- [Vendor lock-in (bẫy khóa nhà cung cấp)](/wiki/vendor-lock-in/)
- [Audit log (nhật ký kiểm toán)](/wiki/audit-log/)
- [Inference engine (vLLM, engine suy luận)](/wiki/inference-engine/)