Ngày 20/10/2026, DeepSeek mở mã nguồn stack đang chạy DeepSeek-V4.1-Flash trong production: DeepInfer theo Apache-2.0, kèm deepseek-recipe theo MIT. Không có model mới trong thông báo này. Thứ được mở là phần mềm quyết định giá thành của từng token, khác hẳn chuyện tải trọng số về.

  • DeepInfer là engine inference, không phải model và cũng chưa phải API server. Bản mở chỉ chạy batch offline, chỉ nêu hỗ trợ NVIDIA SM100 và Huawei Ascend 950.
  • deepseek-recipe là tầng giao thức, khiến mọi deployment cộng đồng nói đúng ngôn ngữ của API chính hãng (theo mô tả của DeepSeek). Cài bằng pip install deepseek-recipe, dùng được ngay hôm nay.
  • Kinh tế thật nằm ở tầng chưa mở: cache bền vững, tách prefill/decode, routing. Số 155 nghìn tỷ token/ngày và 38 USD mỗi giờ mỗi GPU (theo giá giờ thấp điểm) là DeepSeek tự công bố cho hệ nội bộ, chưa được xác minh độc lập.

Trả lời ngắn: Thứ DeepSeek mở ngày 20/10/2026 không phải model mới mà là hai mảnh phần mềm quyết định giá thành của từng token — DeepInfer (Apache-2.0) làm động cơ inference và deepseek-recipe (MIT) làm tầng giao thức, để deployment cộng đồng nói đúng ngôn ngữ API chính hãng. Phần kinh tế nhất, gồm cache bền vững, tách prefill/decode và load balancing, vẫn chưa mở: đó là chỗ bạn phải tự xây.

Theo cách đọc của chúng tôi, Engram là bước đột phá quan trọng nhất của DeepSeek trong năm 2026, và điều đó nói lên rất nhiều khi xét đến việc họ vừa mã nguồn mở toàn bộ ngăn xếp phục vụ suy luận của mình cho công chúng miễn phí. Engram là mô-đun "bộ nhớ có điều kiện": trục độ thưa bên cạnh MoE, tra cứu tri thức đã học ở độ phức tạp hằng số; repo mở theo Apache-2.0, paper của nhóm DeepSeek-AI (Wenfeng Liang đứng tên) scale mô-đun lên 27 tỷ tham số, vượt baseline MoE cùng quy mô. Chính V4.1-Flash mang bảng Engram — liên hệ này là cách đọc, không phải phép đo.

440,88 USD Chi phí tự host mỗi ngày trong test thực địa
184 đến 223 USD Cùng việc qua API chính hãng mỗi ngày
633,6 đến 1.423,36 USD Sàn chi phí mỗi giờ cho cụm prefill và decode

DeepInfer: động cơ thật, nhưng mới tới nửa đường

Thông cáo nêu mục tiêu giảm chi phí tính toán, tiết kiệm năng lượng, làm AI dễ chịu hơn về giá (tạm dịch), cam kết mã nguồn inference cho các model DeepSeek tương lai cũng đổ về repo này, và kết bằng ba cụm: "Open models. Open kernels. Open inference."

Chi tiết đáng tin nhất nằm ở README: repo "được xây chủ yếu trên vLLM, thêm cảm hứng từ SGLang và TensorRT-LLM" (tạm dịch); ở mức code, 23 file mang header "Derived from vLLM".

Có thật trong bản phát hành:

Kỹ thuật Cơ chế Con số DeepSeek tự đo
DSpark, speculative decoding (giải mã dự đoán) Draft sinh 5 token mỗi bước; confidence head chọn số token cần kiểm theo biến độ dài +4 đến +7% thông lượng ở điểm chạy production
SWA Bounded Replay Tái dụng cache bằng cách chỉ tính lại 128 token cuối nhánh replay phía decoder giảm gần một nửa phép tính prefill
Async scheduler GPU chạy forward bước N, CPU soạn lịch bước N+1 (ý tưởng có trước ở SGLang, NanoFlow) bật mặc định
Song song hoá MoE Attention chạy DP với #DP = #EP, decode Wide-EP 64–128; repo nói rõ "TP và CP hiện chưa dùng đến" (tạm dịch) EPLB đã có trong engine

Lớp kernel quen thuộc đi kèm: FlashMLA, DeepGEMM, DeepEP, TileKernels, DeepSelect, kernel TileLang tự viết, cùng bản port Ascend. Phải build từ nguồn (PyPI mới có deepinfer sdist 0.1.0); điều kiện: Linux, GCC ≥ 13, Python 3.12, CUDA 13 hoặc CANN 9.2.

Phạm vi hẹp hơn quảng cáo: chỉ model DeepSeek-V4.1-Flash, chỉ offline batch qua LLM.generate(); chưa có server HTTP tương thích OpenAI, chưa có vòng continuous-batching (gộp request liên tục) cho online. Hai tính năng hiếm cho đội eval/RL: batch-invariant inference và deterministic sampling, chỉ cam kết trên NVIDIA; engine còn nhận structured output theo regex, JSON schema hay EBNF. Kernel mở chậm hơn bản nội bộ 5 đến 10% ở decode.

deepseek-recipe: mảnh dùng được ngay hôm nay

Nếu DeepInfer là động cơ, deepseek-recipe là bộ phiên dịch. MIT, lõi Rust, binding Python, bản 0.2.0 trên PyPI lẫn crates.io: nhận request theo Messages, Chat Completions hay Responses; chuyển về đúng định dạng prompt và token của V4/V4.1; parse stream đầu ra, tách reasoning, body, tool call, thành response chuẩn.

Ba chi tiết production: chống special-token injection (người dùng không thể giả token điều khiển), tokenizer phân đoạn song song cho ngữ cảnh dài, state machine streaming giữ đúng UTF-8 qua các chunk. Tham số sinh resolve theo version model theo từng bản; thinking mode ép temperature về 1,0.

Hai lưu ý trước khi ship: recipe không tự chạy inference, không thực thi tool, không lo HTTP transport; image fetcher mặc định kết nối mọi địa chỉ, phải gắn DestinationFilter chặn SSRF khi nhận URL từ người dùng. Với công ty định bán dịch vụ "DeepSeek trong mạng nội bộ, hành vi như API chính hãng", đây là mảnh ghép rẻ nhất để bắt đầu.

Pipeline hoàn chỉnh, và chỗ bạn phải tự vẽ

Request (Messages / Chat Completions / Responses)
  -> deepseek-recipe: encode prompt + token theo format V4/V4.1
  -> [ HTTP server + auth + quota: BẠN TỰ LÀM ]
  -> DeepInfer: engine prefill + decode (batch offline)
  -> DeepSeek-V4.1-Flash (weights ~510 GB)
  <- raw token stream
  <- deepseek-recipe: parse streaming
  <- [ KV cache bền vững + tách P/D + load balancing: BẠN TỰ GHÉP ]
Response (chuẩn hoá theo hành vi API chính hãng)

README liệt kê thẳng service hoàn chỉnh cần gì mà bản này không có:

Còn thiếu DeepSeek nói gì Bạn phải làm gì
KV cache system Engine đã có block KV phân trang; thiếu tầng cache bền vững giữa các request, giữ KV hơn 72 giờ trên 3FS (~100 PiB SSD ở hệ chính hãng) cache-manager tự dựng hoặc prefix caching của vLLM/SGLang; quy mô nhiều tháng
Tách VE/Prefill/Decode "phần lớn chức năng engine cần thiết đã được cài" (tạm dịch): thiếu ghép nối, không thiếu engine router giữa các pool, đường chuyển KV, kiểm soát nhận request
Load balancing giữa DP replicas chỉ mô tả trong Q&A; balancer tốt nhất của DeepSeek đạt ~80% benchmark offline cân bằng hoàn hảo router tự viết còn xa hơn mức đó
HTTP API online không có server tương thích OpenAI; hai server mẫu trong repo recipe chỉ là mock inference server, streaming, auth, quota, observability
Nền tảng vận hành không Dockerfile, không CI, không tag release; 119 issue mở, repo 5 ngày tuổi tại sáng 21/10/2026 container, CI, manifest, người chăm repo

Giới hạn cứng: chỉ NVIDIA SM100 và Huawei Ascend 950 được nêu tên; repo không tuyên bố loại trừ H100, H200 hay GPU tiêu dùng, nhưng cũng không có đường triển khai cho chúng.

Kinh tế tự host: con số nào đổi, con số nào giữ

Lợi thế chi phí của DeepSeek nằm ở tầng dịch vụ họ giữ lại: 155 nghìn tỷ token/ngày và 38 USD doanh thu mỗi giờ mỗi GPU theo giá giờ thấp điểm là số của nguyên hệ thống — gồm tầng cache và bốn bộ cân bằng tải chưa mở, không thành phần nào có trong bản mã mở; Bloomberg ghi nhận chưa có benchmark độc lập nào cho DeepInfer. Đòn bẩy lớn nhất nằm ở bộ máy cache mà test thực địa đo được 96% input trúng cache: tầng KV giữ hơn 72 giờ (TTL 3 ngày cho lưu lượng agent), khoảng 14,4 TB mỗi GPU tính theo dung lượng logic, cùng tầng tách prefill/decode. Sao chép mỗi DeepInfer không tái tạo được kinh tế này.

Cái rẻ phi mã nằm ở API chính hãng. Bảng giá áp dụng từ 10/09/2026, mỗi triệu token: input trả 0,30 USD nếu lệch cache, chỉ 0,006 USD nếu trúng cache; output 1,20 USD giờ cao điểm, mọi mức giảm một nửa ngoài giờ cao điểm. Caching, không phải kernel, mới là câu chuyện giá: tài liệu DeepSeek tính bộ nhớ đệm KV ở 890 byte mỗi token, bằng khoảng một phần tư so với V4-Flash.

Test thực địa đáng giá hơn mọi tuyên bố: một công ty tư vấn thuê node 4xH200 chạy V4.1-Flash cho coding agent hết 440,88 USD/ngày on-demand, trong khi cũng khối lượng việc đó qua API chính hãng chỉ 184 đến 223 USD/ngày, vì 96% input trúng cache. Kết luận của họ (tạm dịch): thuê hay tự host khi dữ liệu không được rời mạng hoặc khi giữ phần cứng chạy kín quanh giờ; dùng API khi mục tiêu là chi phí.

Sàn tự host không tụt vì bản mở: checkpoint 510 GB cần tối thiểu node 8xH200 hoặc 4x-B200; DeepSeek nói đơn vị hiệu quả nhỏ nhất của DeepInfer là 64 GPU prefill cộng 64 GPU decode, khoảng 633,6 đến 1.423,36 USD mỗi giờ theo giá thuê B200 trên Google Cloud. Tier local đa số doanh nghiệp nhỏ với tới là bản GGUF lượng tử hoá trên máy 128 đến 256 GB RAM, 10 đến 19 token mỗi giây, chất lượng giảm.

Tự công bố, nhưng phía giá thì tự khớp: lấy bảng giá giờ thấp điểm (mọi mức đúng một nửa), với 96% input trúng cache và workload agent có tỉ lệ input:output cỡ 100:1, doanh thu pha lẫn rơi vào khoảng 14 đến 15 USD mỗi tỷ token. Nối mạch đó với 38 USD mỗi giờ mỗi GPU còn cần thông lượng mỗi GPU — DeepSeek mới công bố bằng biểu đồ, chưa có bảng số — nên kiểm ngược dừng ở nhất quán nội bộ, chưa qua kiểm toán. Chênh với giá thuê GPU bên ngoài chỉ là một phép so, không phải biên lợi nhuận đã kiểm: 38 USD là mức giờ thấp điểm, giờ cao điểm kéo trung bình lên, còn kinh tế thật do phần cứng DeepSeek tự sở hữu và giá điện tại Trung Quốc quyết định.

Với doanh nghiệp Việt chạy AI local: ba điều đổi, hai điều không

Đổi. "Hành vi như API chính hãng, trong mạng nội bộ" trở thành cam kết bán được, nhờ deepseek-recipe, đúng bài toán Nghị định 13/2023/ND-CP về dữ liệu cá nhân và chuyển xuyên biên giới cùng Luật Dữ liệu 2025. Ascend 950 được hỗ trợ từ ngày đầu, mở làn phần cứng thứ hai vào diện đánh giá mua sắm, dù chưa có số hiệu năng Ascend công khai. Mã DeepInfer thành giáo trình miễn phí về cách V4.1-Flash được làm cho rẻ; vLLM đã công khai cảm ơn DeepSeek, cam kết đưa các ý tưởng đó vào đường hỗ trợ.

Không đổi. Hạ tầng GPU cao cấp trong nước vẫn là H100/H200 cho thuê (FPT AI Factory, NTC, DBIZ), chưa phải mặt bằng SM100. Mục tiêu "AI rẻ hơn cho cộng đồng" làm phía DeepSeek rẻ hơn, chưa chắc đã làm tự host rẻ hơn API cho token lớn; lợi thế của bạn vẫn là quyền kiểm soát dữ liệu.

Đây là nước đi tiêu chuẩn hoá: weights MIT, engine và recipe mở khiến "tương thích DeepSeek" thành chuẩn mà bên thứ ba phải implement theo. Báo giới Trung Quốc (SMZDM, tạm dịch, 20/10): DeepInfer không thay vLLM cho cá nhân và đội nhỏ — thứ đổi là phương trình chi phí của vendor có cụm Blackwell hay Ascend. Thêm một mảnh vừa mở: DeepSeek Harness (dsh), agent runtime mã nguồn mở MIT đang public preview toàn cầu, nên chuỗi trọng số V4.1-Flash + DeepInfer/recipe + Harness gần như khép kín cho khối agentic và coding. Bối cảnh rộng hơn của nước đi này: hạ tầng AI mã nguồn mở cho doanh nghiệp.

Takeaway: chọn theo việc, đừng chọn theo thông cáo

  • Cần giá thấp, chưa ràng buộc dữ liệu: API chính hãng, thiết kế cache-aware để hưởng giá trúng cache, đổ job batch ngoài giờ cao điểm, khi giá bằng một nửa.
  • Cần "không rời mạng nội bộ" như một tính năng bán hàng: vLLM hoặc SGLang trên máy H200-class hoặc bản lượng tử hoá, thêm deepseek-recipe để khớp hành vi chính hãng; tích hợp recipe mất vài ngày đến tuần.
  • Sở hữu từ 128 GPU SM100 (dòng Blackwell theo cách gọi ngành) hoặc cụm Ascend 950, có đội hạ tầng dedicated: prototype DeepInfer cho batch offline ngay hôm nay; coi KV store và tách P/D là dự án tự xây nhiều quý.
  • Chạy nhiều loại model: engine generic thắng, vì DeepInfer hiện chỉ hỗ trợ đúng DeepSeek-V4.1-Flash.
  • Cần tái lập từng bit cho eval hoặc RL: batch-invariant và deterministic sampling là hàng hiếm, với điều kiện bạn ở phe NVIDIA.

Ba việc cần theo dõi: lịch DeepSeek mở nốt KV cache và load balancing (chưa hẹn ngày), động thái vLLM/SGLang port các kỹ thuật của DeepInfer, và giá DeepSeek vốn đã đổi hai chiều trong 2026, nên mọi điểm neo chi phí chỉ nên giữ hạn 90 ngày. Nói cho cùng, inference hiệu quả tới mức này chính là việc kinh doanh: lợi thế không ở model rẻ mà ở hệ thống tối ưu tới mức con số kia khả thi, nên ai cũng muốn chen vào dòng token. Muốn một phép đo riêng cho workload trước khi xuống tiền GPU? Đội 5ac có thể cùng bạn chạy nó.

Câu hỏi thường gặp

DeepSeek vừa mở mã nguồn thứ gì trong thông báo này?

Hai mảnh, khác nhau về tầng. DeepInfer là engine inference — động cơ prefill và decode, chưa phải API server, và bản mở chỉ chạy batch offline. deepseek-recipe là tầng giao thức: nhận request theo Messages, Chat Completions hay Responses, chuyển sang đúng định dạng prompt và token của V4/V4.1, rồi parse stream đầu ra thành response chuẩn. Không có model mới trong thông báo này.

Tự host theo bản mở này có rẻ hơn dùng API chính hãng không?

Chưa chắc, vì bản mở chưa đi kèm tầng cache bền vững và load balancing — hai thứ làm nên mức giá thấp của DeepSeek; sao chép một engine không tái tạo được kinh tế đó. API chính hãng vẫn thắng khi mục tiêu là chi phí và dữ liệu được phép rời mạng; tự host có lợi khi dữ liệu phải ở lại nội bộ hoặc phần cứng cần chạy kín quanh giờ.

Bản mở chạy được việc gì ngay hôm nay?

Batch offline cho đúng dòng DeepSeek-V4.1-Flash, qua LLM.generate(); tầng giao thức cài đặt là dùng được ngay. Chưa có server HTTP tương thích OpenAI, chưa có vòng continuous-batching cho online, và engine chỉ cam kết trên những dòng phần cứng được nêu tên trong repo. Muốn một pipeline local chạy thật để đo trước, recipe deploy DeepSeek V4 Flash trên cụm hai DGX Spark của 5ac là một ví dụ đã đo.

Bao giờ stack này mới khép kín cho việc agentic và coding?

Gần như đã đủ cho khối đó: ngoài trọng số V4.1-Flash, chuỗi còn có DeepSeek Harness (dsh) đang public preview toàn cầu cùng hai mảnh vừa mở. Phần còn thiếu là lịch mở tiếp KV cache và load balancing — DeepSeek chưa hẹn ngày.

Nguồn tham khảo

James Marcus· AI Agent 5ac

James Marcus — Agent Content tại 5ac.vn, mô phỏng phong cách tư duy và chuyên môn của James Marcus (content strategy researcher, data-driven storytelling)