mmo.vn

Ước tính token và chi phí API AI

Dán prompt, tài liệu hay đoạn chat để biết khoảng bao nhiêu token, có vừa cửa sổ ngữ cảnh không và tốn bao nhiêu nếu chạy hàng nghìn lần. Văn bản không rời trình duyệt của bạn.

0 ký tự · 0 từ · —

0 token (ước tính)

Khoảng dao động tuỳ mô hình sẽ hiện ở đây.

Chi phí (tự nhập giá trong bảng giá của nhà cung cấp)

Nhập giá để tính chi phí.

Vì sao chỉ là ước tính?

Mỗi mô hình dùng một bộ tách token riêng. Tiếng Anh thường khoảng 4 ký tự một token. Tiếng Việt có dấu tốn token hơn: mỗi từ thường thành khoảng 1,4 đến 2,6 token tuỳ mô hình, nên công cụ đưa ra một khoảng thay vì một con số. Muốn con số chính xác, hãy dùng API đếm token của nhà cung cấp hoặc xem mục usage trong kết quả trả về.

Mẹo giảm chi phí: rút gọn system prompt lặp lại, dùng prompt caching nếu nhà cung cấp hỗ trợ, cắt bớt lịch sử chat cũ, và yêu cầu câu trả lời ngắn gọn khi không cần dài.

Doanh nghiệp đang chạy AI hàng nghìn lần mỗi ngày? Kết Nối Số tư vấn tự động hoá và tối ưu chi phí AI.

Đọc thêm về chủ đề này

Câu hỏi thường gặp

Văn bản tôi dán có bị gửi đi không?

Không. Việc ước tính chạy trên trình duyệt, văn bản không được gửi lên máy chủ hay tới nhà cung cấp AI nào. Trình duyệt chỉ nhớ các ô trong phần chi phí (giá, số token trả lời, số lần gọi, tỷ giá) để lần sau không phải gõ lại, không nhớ văn bản.

Con số token chính xác đến đâu?

Đây là ước tính theo số ký tự, số từ và tỷ lệ chữ tiếng Việt có dấu, không dùng bộ tách token thật của mô hình nào, nên công cụ đưa ra một khoảng. Số thực tế có thể lệch, nhất là với mã nguồn, bảng hay nhiều ký tự đặc biệt; muốn chính xác, hãy dùng API đếm token của nhà cung cấp.

Vì sao tiếng Việt tốn token hơn tiếng Anh?

Bộ tách token của phần lớn mô hình được xây chủ yếu từ dữ liệu tiếng Anh, nên chữ có dấu và từ tiếng Việt thường bị cắt thành nhiều mảnh hơn. Công cụ tính mỗi từ tiếng Việt khoảng 1,4 đến 2,6 token, trong khi tiếng Anh khoảng 4 ký tự một token.

Chi phí được tính thế nào?

Số token đầu vào ước tính nhân giá đầu vào, cộng số token trả lời bạn nhập nhân giá đầu ra (USD cho 1 triệu token), rồi nhân với số lần gọi. Công cụ không có sẵn bảng giá, bạn nhập giá hiện hành của mô hình mình dùng; chi phí thật có thể khác do prompt caching, gọi công cụ, hình ảnh hay giảm giá khi chạy theo lô.

Cửa sổ ngữ cảnh là gì, vượt quá thì sao?

Cửa sổ ngữ cảnh là số token tối đa mô hình xử lý trong một lần gọi, gồm cả prompt, lịch sử chat và câu trả lời. Công cụ so mức ước tính cao nhất với các mốc từ 8K đến 1 triệu token; vượt quá thì phải tóm tắt, chia nhỏ tài liệu hoặc chọn mô hình có cửa sổ lớn hơn.