Token, model & chi phí

Mọi thứ trong một hệ LLM đều được đo bằng token: ngữ cảnh, chi phí, giới hạn tốc độ, độ trễ. Hiểu đơn vị này giúp bạn đọc được hoá đơn, chọn đúng model, và biết vì sao ngữ cảnh lại là tài nguyên đắt.

Token là gì

Token là đơn vị nhỏ nhất model xử lý - không phải ký tự, không phải từ, mà là mảnh văn bản do bộ tokenizer cắt ra. Với tiếng Anh, một token trung bình khoảng 3–4 ký tự. Với tiếng Việt và các ngôn ngữ không dùng bảng chữ Latin thuần, tỉ lệ token/ký tự cao hơn đáng kể - cùng một nội dung viết bằng tiếng Việt thường tốn nhiều token hơn viết bằng tiếng Anh.

Code cũng tốn nhiều token hơn văn xuôi: dấu ngoặc, thụt lề, tên biến camelCase đều bị cắt thành nhiều token.

Chú ý

Đừng dùng tiktoken để đếm token Claude. Đó là tokenizer của OpenAI - nó đếm sai token Claude khoảng 15–20% với văn xuôi tiếng Anh, và sai nhiều hơn hẳn với code hoặc ngôn ngữ ngoài tiếng Anh. Muốn con số chính xác, dùng endpoint count_tokens của API Claude với đúng model bạn sẽ dùng - tokenizer khác nhau giữa các thế hệ model, nên số đếm cũng khác.

Input token vs output token

	Input token	Output token
Là gì	Mọi thứ bạn gửi lên: system prompt, tool definition, lịch sử hội thoại, nội dung file	Mọi thứ model sinh ra: văn bản trả lời, khối gọi tool, và cả phần suy luận (thinking)
Giá	Rẻ hơn	Đắt hơn ~5 lần
Tăng theo	Độ dài ngữ cảnh - và gửi lại toàn bộ mỗi lượt	Độ dài câu trả lời + độ sâu suy luận

Điểm dễ bỏ qua: API là stateless. Mỗi lượt bạn gửi lại toàn bộ hội thoại. Một phiên 50 lượt với ngữ cảnh 100K token không tốn 100K token - nó tốn xấp xỉ 50 × 100K token input (trước khi trừ phần được cache). Đây là lý do prompt caching và context engineering không phải chuyện tối ưu vặt.

Các họ model Claude

Thông tin dưới đây tính đến tháng 7/2026. Anthropic phát hành model mới khá nhanh - hãy kiểm tra lại ở trang pricing chính thức hoặc gọi GET /v1/models để có số liệu hiện hành.

Model	Model ID	Cửa sổ ngữ cảnh	Input $/1M	Output $/1M
Claude Fable 5	claude-fable-5	1M	$10	$50
Claude Opus 5	claude-opus-5	1M	$5	$25
Claude Opus 4.8	claude-opus-4-8	1M	$5	$25
Claude Sonnet 5	claude-sonnet-5	1M	$3	$15
Claude Haiku 4.5	claude-haiku-4-5	200K	$1	$5

Ba tầng, ba mục đích:

• Opus - tầng mạnh nhất cho công việc agentic dài hơi, coding phức tạp, suy luận sâu. Đây là tầng Claude Code dùng mặc định.
• Sonnet - cân bằng tốc độ và trí tuệ; thế hệ mới đã đạt mức gần Opus ở nhiều tác vụ coding và agentic, với chi phí thấp hơn.
• Haiku - nhanh và rẻ nhất, cho việc đơn giản: phân loại, trích xuất, tóm tắt ngắn. Cũng là model chạy các tác vụ nền (ví dụ sinh tiêu đề phiên).

Fable 5 là tầng cao hơn Opus, dành cho các bài toán suy luận và agentic khó nhất - giá vượt tầng Opus, nên không phải mặc định.

Mẹo

Chọn model theo độ khó của tác vụ, không theo cảm giác “cứ dùng cái mạnh nhất”. Với Claude Code, đổi model bằng /config hoặc --model. Lưu ý: đổi model giữa phiên làm mất toàn bộ prompt cache (cache gắn theo model) - nên nếu cần model rẻ hơn cho một việc con, hãy giao cho subagent thay vì đổi model của phiên chính.

Cửa sổ ngữ cảnh và giới hạn output

Hai giới hạn khác nhau, thường bị lẫn:

• Cửa sổ ngữ cảnh (context window) - tổng input + output cho một request. Với hầu hết model hiện tại là 1M token (Haiku 4.5: 200K).
• max_tokens - trần output bạn đặt cho request đó. Trần tối đa của các model hiện tại là 128K (Haiku 4.5: 64K).

Điểm bẫy: max_tokens giới hạn cả phần suy luận lẫn phần trả lời cộng lại. Một tác vụ khó với effort cao có thể dùng phần lớn ngân sách cho suy luận rồi bị cắt giữa câu trả lời. Nếu bạn thấy stop_reason: "max_tokens", hãy tăng max_tokens (và bật streaming, vì request không-streaming với max_tokens lớn dễ chạm HTTP timeout).

Bốn cách giảm chi phí

1. Prompt caching (giảm nhiều nhất)

Đọc từ cache chỉ tốn khoảng 10% giá input thường. Ghi vào cache tốn 1.25× (TTL 5 phút) hoặc 2× (TTL 1 giờ). Nghĩa là với TTL 5 phút, chỉ cần hai request dùng chung tiền tố là đã có lãi.

Claude Code tự quản lý caching cho bạn - xem Prompt caching để biết điều gì làm mất hiệu ứng đó.

2. Giảm ngữ cảnh

Vì mỗi lượt gửi lại toàn bộ ngữ cảnh, giảm ngữ cảnh giảm chi phí mỗi lượt còn lại của phiên. /clear giữa các tác vụ không liên quan là hành động tiết kiệm nhất bạn làm được. Xem Context engineering.

3. Tham số effort

Model hiện đại có adaptive thinking - tự quyết định suy luận sâu bao nhiêu - và bạn điều khiển mức đó bằng effort (low → max). Effort thấp nghĩa là ít token suy luận hơn, ít lần gọi tool hơn, câu trả lời gọn hơn.

Điều đáng chú ý: với các model mới, low và medium mạnh hơn nhiều so với cảm giác - thường vượt mức xhigh của thế hệ trước. Đừng mặc định dùng mức cao nhất; hãy thử quét qua các mức trên chính công việc của bạn.

Nghịch lý cần biết: với công việc agentic, effort cao hơn đôi khi rẻ hơn - lập kế hoạch tốt hơn nghĩa là ít lượt hơn, ít đi sai đường hơn.

4. Chọn tầng model đúng việc

Một tác vụ phân loại đơn giản chạy trên Haiku 4.5 rẻ hơn Opus 5 khoảng 5 lần ở input và 5 lần ở output. Nhưng đừng hạ tầng model cho việc khó - một model yếu làm sai rồi phải làm lại tốn hơn làm đúng ngay lần đầu.

Ngoài ra: Batch API giảm 50% giá cho công việc không cần kết quả ngay (xử lý xong trong vòng vài giờ).

Đọc thêm

• Cửa sổ ngữ cảnh - cái gì chiếm ngữ cảnh trong một phiên Claude Code.
• Prompt caching - cách cache hoạt động và điều gì làm mất nó.
• Context engineering - quản lý ngữ cảnh có hệ thống.

Nguồn

Biên soạn và Việt hoá từ Token counting, Pricing, và Models overview trong tài liệu chính thức của Claude API. Số liệu giá và giới hạn model có thể đã thay đổi - kiểm tra lại trang gốc trước khi trích dẫn số cụ thể.