Thanh toán và giá

Chi phí thực tế phụ thuộc vào mô hình, lượng đầu vào và đầu ra, bộ nhớ đệm, hệ số nhóm và các tham số của nội dung đa phương tiện hoặc tác vụ. Hãy xem Danh mục mô hình trực tiếp và nhật ký sử dụng là nguồn thông tin chính xác nhất.

Thành phần	Ý nghĩa
Đầu vào	Lời nhắc, lịch sử, tài liệu và định nghĩa công cụ gửi tới mô hình
Đầu ra	Văn bản, suy luận hoặc nội dung có cấu trúc do mô hình tạo
Bộ nhớ đệm	Hoạt động đọc hoặc ghi đầu vào đủ điều kiện lưu đệm
Hệ số nhóm	Hệ số điều chỉnh áp dụng theo nhóm đã chọn của khóa
Nội dung tính theo thao tác	Một số endpoint hình ảnh hoặc tác vụ tính phí theo số lượng, thời lượng hoặc kích thước

Chi phí thay đổi khi lịch sử trò chuyện dài hơn, agent thực hiện nhiều lần gọi, giá mô hình khác nhau, nhóm thay đổi và số lần trúng bộ nhớ đệm biến động. Hãy kiểm tra bằng khối lượng công việc nhỏ nhưng thực tế thay vì ước tính một agent chỉ từ một cuộc trò chuyện ngắn.

Kiểm soát chi tiêu

• Dùng khóa riêng cho development, staging, production và từng ứng dụng trên máy tính.
• Mỗi khóa mới nên bắt đầu với hạn mức nhỏ.
• Giới hạn các mô hình đắt tiền hoặc không cần thiết.
• Giới hạn độ dài lịch sử hội thoại và kết quả công cụ.
• Theo dõi mức sử dụng theo khóa và mô hình.
• Đặt giới hạn thử lại và bộ ngắt mạch để tránh vòng lặp.

Số dư tài khoản cấp tiền cho mọi khóa. Hạn mức khóa là giới hạn bổ sung cho từng khóa. Khóa không giới hạn vẫn không thể chi vượt số dư tài khoản; khóa đã hết hạn hoặc bị tắt không thể gọi API.

Giá và nhóm có thể thay đổi. Không ghi cứng giá trong tài liệu vào logic thanh toán cho khách hàng nếu không có cơ chế cập nhật và mốc thời gian rõ ràng.