Joey 1 API
Joey-1 là mô hình quyết định trọng số mở 2B tham số của Baseten, nhận ngữ cảnh có cấu trúc và trả về xác suất cho các lựa chọn định trước thay vì sinh văn bản.
Joey-1 là mô hình quyết định trọng số mở với 2 tỷ tham số, được huấn luyện sau từ Qwen3.5-2B. Thay vì sinh văn bản, mô hình nhận ngữ cảnh có cấu trúc và trả về xác suất cho các lựa chọn được định trước, xử lý phân loại, định tuyến và chấm điểm trong một lượt truyền xuôi duy nhất. Đầu ra là xác suất đã hiệu chỉnh, phù hợp cho các quyết định tự động cần độ tin cậy đo được.
Mô hình phù hợp với các tác vụ quyết định khối lượng lớn ở tuyến đầu như kiểm duyệt nội dung, phát hiện gian lận, phân loại và định tuyến phiếu hỗ trợ, phát hiện thư rác và lừa đảo, phân loại prompt. Với độ trễ P50 khoảng 20 mili giây cho các yêu cầu trung bình 2.000 token và hỗ trợ gọi API đồng bộ, mô hình đáp ứng nhu cầu thời gian thực. Ngưỡng xác suất 0,85 được khuyến nghị để coi đầu ra là quyết định có độ tin cậy cao.
Joey-1 có thể tải về và chạy nội bộ nhờ là mô hình trọng số mở, đồng thời triển khai được dưới dạng điểm cuối API trong thư viện mô hình của Baseten. Trong một thiết lập phân tầng, mô hình đóng vai trò tầng khối lượng lớn, chuyển các trường hợp không chắc chắn lên những mô hình lớn hơn như Elephant-1 hoặc Mammoth-1. Cần lưu ý mô hình được thiết kế cho tác vụ quyết định chứ không phải sinh văn bản tổng quát.
Cập nhật:
ID MÔ HÌNH
joey-1- Ngữ cảnh
- 16.384K
- Đầu ra tối đa
- 14.745K
- Đầu vào
- text / image
- Đầu ra
- decisions
Điểm nổi bật
- Mô hình quyết định trọng số mở 2B tham số
- Trả về xác suất đã hiệu chỉnh cho lựa chọn định trước
- Xử lý phân loại, định tuyến, chấm điểm một lượt
- Độ trễ P50 khoảng 20 mili giây
- Có thể tải về và chạy nội bộ
- Triển khai được dưới dạng điểm cuối API
Nhà cung cấp
So sánh giá API giữa các nhà cung cấp. Chọn một nhà cung cấp để xem toàn bộ chi phí và điều kiện.
| $0.01 | $0 |
Điểm chuẩn
- 20
Độ trễ P50
mili giây cho các yêu cầu trung bình 2.000 token
Điểm số theo công bố của nhà cung cấp mô hình.
Bắt đầu nhanh với quyết định
Gửi trạng thái và các câu hỏi có kiểu hẹp đến /api/v1/decisions và nhận một câu trả lời cho mỗi câu hỏi: noul trả về xác suất từ 0 đến 1, choice trả về lựa chọn được chọn kèm phân bố, và score trả về điểm số cho các tiêu chí có thứ tự. Endpoint này tách biệt với các giao diện Chat Completions, Messages và Responses.
curl https://openapi.felo.ai/api/v1/decisions \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "joey-1",
"state": "Help! My payouts have been failing for 3 days.",
"questions": {
"is_urgent": {
"type": "noul",
"instructions": "Does this message convey urgency?",
"criteria": {"true": "Time-sensitive", "false": "No urgency"}
},
"department": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {
"billing": "Payments, invoicing, refunds",
"technical": "Bugs, outages, integrations",
"sales": "Pricing, upgrades, new accounts"
}
},
"frustration": {
"type": "score",
"instructions": "How frustrated is the customer?",
"criteria": ["Calm", "Frustrated", "Very angry"]
}
}
}'Câu hỏi thường gặp
Tìm hiểu Joey 1?
Joey-1 là mô hình quyết định trọng số mở với 2 tỷ tham số, được huấn luyện sau từ Qwen3.5-2B. Thay vì sinh văn bản, mô hình nhận ngữ cảnh có cấu trúc và trả về xác suất cho các lựa chọn được định trước, xử lý phân loại, định tuyến và chấm điểm trong một lượt truyền xuôi duy nhất. Đầu ra là xác suất đã hiệu chỉnh, phù hợp cho các quyết định tự động cần độ tin cậy đo được. Mô hình phù hợp với các tác vụ quyết định khối lượng lớn ở tuyến đầu như kiểm duyệt nội dung, phát hiện gian lận, phân loại và định tuyến phiếu hỗ trợ, phát hiện thư rác và lừa đảo, phân loại prompt. Với độ trễ P50 khoảng 20 mili giây cho các yêu cầu trung bình 2.000 token và hỗ trợ gọi API đồng bộ, mô hình đáp ứng nhu cầu thời gian thực. Ngưỡng xác suất 0,85 được khuyến nghị để coi đầu ra là quyết định có độ tin cậy cao. Joey-1 có thể tải về và chạy nội bộ nhờ là mô hình trọng số mở, đồng thời triển khai được dưới dạng điểm cuối API trong thư viện mô hình của Baseten. Trong một thiết lập phân tầng, mô hình đóng vai trò tầng khối lượng lớn, chuyển các trường hợp không chắc chắn lên những mô hình lớn hơn như Elephant-1 hoặc Mammoth-1. Cần lưu ý mô hình được thiết kế cho tác vụ quyết định chứ không phải sinh văn bản tổng quát.
Cách tính phí sử dụng?
Hóa đơn của bạn phụ thuộc vào nhà cung cấp bạn dùng, giá của họ và mức sử dụng của bạn. Đầu vào dài hơn hoặc các điều kiện khác có thể có giá khác.
Joey-1 nhận loại đầu vào nào?
Mô hình nhận đầu vào văn bản và hình ảnh, sau đó trả về xác suất cho các lựa chọn định trước.
Joey-1 khác gì mô hình sinh văn bản thông thường?
Joey-1 không sinh văn bản mà trả về xác suất đã hiệu chỉnh cho các lựa chọn có sẵn, xử lý phân loại, định tuyến và chấm điểm trong một lượt truyền xuôi.
Joey-1 phù hợp với những tác vụ nào?
Mô hình phù hợp với kiểm duyệt nội dung, phát hiện gian lận, phân loại và định tuyến phiếu hỗ trợ, phát hiện thư rác và phân loại prompt.
Khi nào nên coi đầu ra là quyết định có độ tin cậy cao?
Nên dùng ngưỡng xác suất 0,85 để coi đầu ra là quyết định có độ tin cậy cao.
Joey-1 khác Elephant-1 và Mammoth-1 ở điểm nào?
Joey-1 là tầng khối lượng lớn trong thiết lập phân tầng, còn các trường hợp không chắc chắn được chuyển lên những mô hình lớn hơn như Elephant-1 hoặc Mammoth-1.