Anthropic ra Claude Haiku 5.5, giá API giảm 90% nhưng kèm nhiều thay đổi phá vỡ tương thích

Hai tuần trước, khi viết về Claude Opus 5.5 và GPT-6 Sol, Luna, tôi có nhận xét rằng cuộc so găng quan trọng nhất với các hệ thống chạy khối lượng lớn, tức GPT-6 Luna của OpenAI đối đầu model nhỏ của Anthropic, vẫn chưa diễn ra. Ngày thứ Ba, 7/10/2026, nó đã đến. Anthropic phát hành Claude Haiku 5.5, model cuối cùng của thế hệ 5.5 sau Opus 5.5 (22/9) và Sonnet 5.5 (28/9). Điểm nhấn là giá: 0,10 USD cho một triệu token đầu vào và 0,50 USD cho một triệu token đầu ra, bằng đúng Luna và chỉ bằng một phần mười Haiku 4.5. Với các pipeline phân loại, trích xuất dữ liệu, định tuyến yêu cầu hay chạy sub-agent (agent con được agent chính giao việc), phần lớn hóa đơn token nằm ở tầng model nhỏ. Vì vậy, xét về tác động thực tế, lần ra mắt này quan trọng hơn cả một model flagship mới.

Những gì được phát hành

  • Model ID: claude-haiku-5-5 trên Claude API, Google Cloud, Microsoft Foundry và Claude Platform on AWS; trên Amazon Bedrock là anthropic.claude-haiku-5-5. Đây là bản snapshot cố định, không có hậu tố ngày.
  • Context và output: cửa sổ context 1 triệu token, output tối đa 128K token theo trang tổng quan model của Anthropic, tức ngang Sonnet và Opus, gấp năm lần mức 200K của Haiku 4.5.
  • Thinking (chế độ suy luận): adaptive thinking bật sẵn, mức effort mặc định là medium, có thể chỉnh từ low tới max.
  • Cam kết duy trì: không ngừng phục vụ trước ngày 7/10/2027.

Bảng giá

Mỗi triệu token Prompt ≤ 100K token Prompt > 100K token
Đầu vào 0,10 USD 0,50 USD
Đầu ra 0,50 USD 2,50 USD
Đọc cache 0,01 USD 0,05 USD
Ghi cache 0,125 USD 0,625 USD

Haiku 4.5 có giá 1 USD đầu vào và 5 USD đầu ra. Như vậy giá niêm yết giảm 90% dưới ngưỡng 100K và giảm 50% trên ngưỡng. Anthropic cho biết khoảng 90% request của Haiku 4.5 nằm dưới 100K token, và ước tính chi phí thực tế giảm khoảng 75% sau khi tính cả việc số token thay đổi. Cùng ngày, Anthropic cũng giảm một nửa giá đọc cache của Sonnet 5.5, từ 0,20 xuống 0,10 USD mỗi triệu token.

Điểm benchmark (do nhà phát triển công bố)

Benchmark Haiku 5.5 Haiku 4.5 GPT-6 Luna Sonnet 5.5
GDPval-AA v2.1 (Elo, công việc văn phòng chuyên môn) 1620 735 1437 1840
OSWorld 2.1 (điều khiển máy tính) 72,4% 15,7% 48,9% 83,9%
Terminal-Bench 4.0 (agent lập trình trên terminal) 39,2% 0,0% 16,4% 70,6%
Humanity’s Last Exam (không công cụ / có công cụ) 45,9% / 57,4% 10,2% / 18,7% — —

Bước nhảy so với Haiku 4.5 rất lớn: từ gần như không dùng được sang dùng được cho việc điều khiển máy tính và agent lập trình trên terminal. So với Luna, Haiku dẫn ở mọi hạng mục Anthropic công bố.

Tuy vậy, cần lưu ý ba điểm. Thứ nhất, đây là số liệu của Anthropic, chưa được kiểm chứng độc lập. Thứ hai, điểm Terminal-Bench được đo ở mức effort tối đa; theo VentureBeat, ở mức mặc định medium điểm chỉ khoảng 20%, vẫn hơn Luna nhưng cách biệt nhỏ hơn nhiều, trong khi mức max tiêu tốn thêm rất nhiều token suy luận. Thứ ba, Sonnet 5.5 vẫn vượt trội ở mọi hạng mục, đặc biệt là lập trình (70,6% so với 39,2%). Chính Anthropic cũng định vị Haiku cho việc “phân loại, trích xuất và định tuyến”, chứ không phải để viết code thay bạn.

Những điều lập trình viên cần đọc kỹ

Ngưỡng 100K. Khi prompt vượt 100.000 token, mọi mức giá nhân lên năm lần. Phụ phí context dài của Luna chỉ bắt đầu từ 272K. Có context 1 triệu token nhưng ngưỡng giá chỉ 100K, nên các tác vụ đọc tài liệu dài hay cả repo lớn cần được tính chi phí riêng; chúng sẽ không được hưởng mức giảm 90%.

Tokenizer mới. Haiku 5.5 dùng tokenizer (bộ tách văn bản thành token) thế hệ mới, ra mắt cùng Claude Opus 4.7. Hướng dẫn chuyển đổi chính thức cho biết cùng một đoạn văn bản sẽ tạo ra nhiều hơn khoảng 30% token so với Haiku 4.5. Tính nhanh: dưới 100K, lượng đầu vào trước đây tốn 1 USD nay tốn khoảng 1,3 × 0,10 = 0,13 USD, tiết kiệm thật khoảng 87%. Trên 100K thì là 1,3 × 0,50 = 0,65 USD so với 1 USD, chỉ tiết kiệm khoảng 35%. Ngoài ra, token suy luận nay được bật mặc định sẽ cộng thêm vào phần đầu ra.

Thay đổi API phá vỡ tương thích. Chuyển đổi không chỉ là đổi model ID. Theo hướng dẫn chính thức:

  • Phải bỏ temperature, top_p và top_k; giá trị khác mặc định sẽ trả về lỗi HTTP 400.
  • Prefill (gửi sẵn phần mở đầu câu trả lời của assistant) bị từ chối, kể cả khi tắt thinking. Muốn ép định dạng, hãy dùng structured outputs hoặc tool.
  • thinking: {type: "enabled", budget_tokens: N} trả về lỗi 400; thay bằng adaptive thinking cộng tham số effort.
  • Phản hồi có thể bắt đầu bằng các block thinking, nên code đang lấy content[0] làm câu trả lời phải chuyển sang lọc block theo type.
  • Block thinking gắn với tài khoản đã tạo ra nó và với phần hội thoại phía trước không đổi. Pipeline nào sửa lịch sử hội thoại hay phát lại hội thoại qua tài khoản khác sẽ phải điều chỉnh.
  • Tính năng computer use chuyển sang computer_toolset_20260801; tool cũ trả về lỗi 400.
  • Request có thể kết thúc với stop_reason: "refusal" do bộ phân loại an toàn, và Haiku 5.5 không hỗ trợ Priority Tier.

Những pipeline kiểu “rẻ, tất định, temperature 0” viết cho Haiku 4.5 chính là loại dễ vỡ nhất khi nâng cấp.

Vì sao điều này quan trọng

Tầng model nhỏ là phần chạy ở quy mô lớn nhất: các sub-agent mà model điều phối giao việc, bộ phân loại đứng trước mọi ticket hỗ trợ khách hàng, bộ trích xuất đọc từng hóa đơn. Chỉ trong hai tuần, hai phòng lab hàng đầu phương Tây đã cùng kéo tầng này về mức 0,10 / 0,50 USD, đồng thời tuyên bố khả năng điều khiển máy tính và làm việc dạng agent mà một năm trước model tầm trung của họ còn chật vật. Kết hợp với việc giảm giá cache của Sonnet 5.5, có thể thấy Anthropic nhắm thẳng vào khối lượng công việc của agent, nơi context đã cache được đọc lại ở mỗi bước.

Hệ quả thực tế nằm ở kiến trúc. Nếu một model nhỏ có thể điều khiển trình duyệt hay terminal một cách tin cậy với giá một phần mười xu mỗi lần gọi, thì việc chia việc cho nhiều agent rẻ và chỉ đẩy những ca khó lên Sonnet hay Opus trở nên hợp lý. Đòn bẩy chi phí chính lúc này là cách định tuyến, chứ không còn là chọn model nào.

Những câu hỏi còn bỏ ngỏ

  • Số liệu độc lập. Chưa có bên thứ ba nào tái lập các benchmark trên. Phép thử có ý nghĩa là chi phí cho mỗi tác vụ hoàn thành trên chính workload của bạn, tính cả lần chạy lại và token suy luận, chứ không phải giá mỗi token.
  • Tính tất định. Việc bỏ quyền chỉnh temperature là bước lùi với những nhóm dựa vào temperature thấp để trích xuất dữ liệu ổn định, lặp lại được. Anthropic khuyên dùng structured outputs; liệu thế đã đủ cho mọi pipeline hay chưa thì còn phải chờ.
  • Đánh đổi về an toàn. Anthropic cho biết các biện pháp bảo vệ về an ninh mạng chặt hơn Haiku 4.5, và theo các bài đưa tin, yêu cầu kiểm thử xâm nhập (penetration testing) bị chặn ở chế độ bảo vệ tiêu chuẩn. Các nhóm bảo mật dùng Haiku để quét tự động có thể gặp từ chối. Unite.AI, dẫn system card của Anthropic, cũng ghi nhận model đôi khi từ chối nhầm cả yêu cầu vô hại.
  • Đáy của cuộc chiến giá. Việc khớp giá Luna tới từng xu cho thấy hai công ty đang định giá theo đối thủ hơn là theo chi phí. Mức giá này bền vững được bao lâu, và các model open-weight (công khai trọng số) đang cạnh tranh ở cùng phân khúc sẽ ra sao, là câu chuyện đáng theo dõi tiếp.

Nguồn