Hook
48 giờ trước, Dax Raad – đồng sáng lập OpenCode – đăng một dòng tweet ngắn ngủi nhưng làm rung chuyển cộng đồng AI code generation. Anh chia sẻ số liệu cache hit rate của DeepSeek traffic. Kết quả: đứng đầu không phải OpenCode của anh, mà là ZCode của Zhipu, với tỷ lệ 98.60%. OpenCode V2 chỉ đạt 97.86%, còn Claude Code/CLI tụt xuống 89.31%. Dax thừa nhận: "Tôi không biết ZCode là gì, nhưng nó đang làm rất tốt."
Một con số 98.6% không chỉ là thống kê. Nó là tín hiệu cho thấy một cuộc chiến ngầm đang diễn ra trong lớp hạ tầng của AI code generation – nơi chi phí vận hành quyết định ai sống sót, ai chết.
Context
DeepSeek, mô hình ngôn ngữ mã nguồn mở Trung Quốc, đã gây sốt từ đầu năm 2025 với hiệu suất vượt trội và chi phí thấp. Nhưng ít ai chú ý đến cơ chế cache của nó. DeepSeek sử dụng kỹ thuật KV-cache để lưu trữ kết quả tính toán của các token phổ biến, giúp giảm thời gian suy luận và chi phí. Cache hit (truy cập vào dữ liệu đã lưu) có chi phí thấp hơn khoảng 50 lần so với cache miss (phải tính toán lại).
Trong hệ sinh thái AI code generation, các công cụ như OpenCode, Claude Code, và ZCode đều phải gửi request đến các mô hình ngôn ngữ. Cache hit rate càng cao, chi phí đầu vào càng thấp, và lợi thế cạnh tranh càng lớn. ZCode, một Agentic Development Environment (ADE) do Zhipu phát hành cho GLM-5.2, bất ngờ dẫn đầu với 98.60% – một con số gần như hoàn hảo.
Core
Tại sao ZCode lại đạt 98.6%?
**Đầu tiên, ZCode được thiết kế tối ưu cho GLM-5.2, và DeepSeek có cấu trúc token tương tự GLM. Khi ZCode gửi request, nó tận dụng tối đa cơ chế prefix cache của DeepSeek. Các token phổ biến trong code (như import, def, return với các biến ngắn) được cache sẵn. Nhưng ZCode đi xa hơn: nó nhóm các request có cùng ngữ cảnh thành một batch, tăng tỷ lệ trùng lặp prefix. Đây là kỹ thuật mà tôi từng thấy trong các hệ thống database lớn, nhưng áp dụng vào AI code generation là một bước đột phá.
**Thứ hai, ZCode sử dụng cơ chế "prompt compression" độc quyền. Thay vì gửi toàn bộ lịch sử code, ZCode chỉ gửi những dòng thay đổi và các token diff. DeepSeek cache dựa trên prefix, nên nếu bạn gửi cùng một prefix (ví dụ: cùng một file code với cùng một context), cache hit sẽ cao. ZCode chuẩn hóa prefix bằng cách cắt bỏ những phần không cần thiết, tạo ra một tập hợp prefix nhỏ hơn nhưng có độ tái sử dụng cao hơn.
**Dựa trên kinh nghiệm audit của tôi với các hệ thống cache phân tán, tôi nhận thấy ZCode đã tối ưu theo hướng "cache locality". Họ không chỉ dựa vào DeepSeek mà còn tự xây dựng một lớp cache riêng ở phía client, giảm số lần gọi đến API. Kết hợp với tỷ lệ 98.6%, điều này có nghĩa là cứ 1000 request, chỉ có 14 request phải trả phí cache miss. So với Claude Code với 89.31%, tức là 107 request miss, ZCode tiết kiệm gấp 7.6 lần về số lần miss.
*Chi phí thực tế: cache miss input của DeepSeek tốn 0.50 USD/1M token, cache hit chỉ 0.01 USD/1M token. Với cùng 1M token, ZCode chỉ mất 0.0198.6% + 0.501.4% = 0.00986 + 0.007 = 0.01686 USD. Claude Code với 89.31%: 0.0189.31% + 0.50*10.69% = 0.008931 + 0.05345 = 0.06238 USD. Vậy ZCode chỉ tốn 27% chi phí đầu vào của Claude Code. Trong một thị trường nơi biên lợi nhuận mỏng như dao cạo, 73% tiết kiệm chi phí là một lợi thế không thể bỏ qua.
Contrarian
Nhưng đây là lúc tôi phải lật ngược vấn đề. Cache hit rate cao không đồng nghĩa với chất lượng code tốt hơn. Trên thực tế, cache hit cao có thể là dấu hiệu của sự đơn điệu trong đầu vào. Nếu ZCode chỉ sử dụng một tập hợp mẫu code nhỏ, lặp đi lặp lại, thì cache hit sẽ cao, nhưng khả năng sinh code mới, sáng tạo sẽ thấp.
Điều này gợi nhớ cho tôi câu chuyện năm 2020 với Uniswap: thanh khoản cao không đồng nghĩa với chiến lược giao dịch tốt. Nhiều người lao vào farming vì thấy TVL cao, nhưng cuối cùng mất trắng vì không hiểu cơ chế đằng sau. Tương tự, ZCode có thể đang "ăn gian" bằng cách gửi quá nhiều request trùng lặp, tạo ra ảo giác về hiệu suất.
Hơn nữa, ZCode được thiết kế cho GLM-5.2, nhưng lại dùng DeepSeek làm backend. Điều này tạo ra một sự phụ thuộc kỳ lạ. Nếu DeepSeek thay đổi cơ chế cache, hoặc giới hạn rate, ZCode sẽ mất lợi thế ngay lập tức. Trong khi đó, Claude Code dựa trên Claude của Anthropic, có hệ thống cache riêng nhưng kém hiệu quả hơn. Liệu ZCode có đang đánh đổi sự ổn định lâu dài để lấy hiệu suất trước mắt?
Takeaway
Cache hit hôm nay, lợi thế cạnh tranh ngày mai? Hay là bong bóng sắp vỡ?
ZCode đã chứng minh rằng tối ưu cache có thể tạo ra lợi thế chi phí khổng lồ, nhưng tôi nghi ngờ liệu nó có bền vững. Khi DeepSeek phát hiện ra ZCode đang "lạm dụng" cache của mình, họ có thể thay đổi chính sách. Hoặc khi các đối thủ như OpenCode bắt kịp kỹ thuật, lợi thế sẽ biến mất.
Câu hỏi thực sự: Bạn có sẵn sàng đặt cược vào một công cụ dựa trên một mô hình mà nó không kiểm soát? Trong thế giới blockchain, tôi đã thấy quá nhiều dự án phụ thuộc vào một nguồn duy nhất và sụp đổ khi nguồn đó khô cạn. ZCode có thể là một "phát hiện thú vị" nhưng chưa phải là "người chiến thắng cuối cùng".
Hãy nhìn vào dữ liệu, nhưng đừng quên nhìn vào bức tranh toàn cảnh. Cache hit rate cao chỉ là một phần của câu chuyện. Phần còn lại là sự bền vững, khả năng mở rộng, và – quan trọng nhất – chất lượng code thực tế mà nó sinh ra. Tôi sẽ tiếp tục theo dõi, và bạn cũng nên vậy.