Joey 1 API
โมเดลตัดสินใจแบบ open-weight ขนาด 2B พารามิเตอร์จาก Baseten ที่รับข้อความและรูปภาพแล้วคืนค่าความน่าจะเป็นสำหรับตัวเลือกที่กำหนด
Baseten: Joey 1 เป็นโมเดลตัดสินใจแบบ open-weight ขนาด 2B พารามิเตอร์ ที่ผ่านการฝึกต่อจาก Qwen3.5-2B ออกแบบมาเพื่อรับบริบทแบบมีโครงสร้างเป็นอินพุต แล้วส่งคืนค่าความน่าจะเป็นที่ผ่านการปรับเทียบสำหรับตัวเลือกที่กำหนดไว้ล่วงหน้า แทนการสร้างข้อความ จึงสามารถจัดการงานจำแนกประเภท การจัดเส้นทาง และการให้คะแนนได้ใน forward pass เดียว รองรับการเรียก API แบบซิงโครนัสสำหรับการใช้งานแบบเรียลไทม์
โมเดลนี้เหมาะกับงานตัดสินใจปริมาณมากที่ต้องการความเร็วและต้นทุนต่ำ เช่น การกลั่นกรองเนื้อหา การตรวจจับการฉ้อโกง การคัดแยกและจัดเส้นทางตั๋วสนับสนุน การตรวจจับสแปมและฟิชชิง และการจำแนกประเภทพรอมต์ โดยสามารถดาวน์โหลดและรันในองค์กรได้เอง และทำหน้าที่เป็นชั้นปริมาณสูงในโครงสร้างแบบลำดับชั้นที่ส่งเคสที่ไม่แน่ใจต่อไปยังโมเดลขนาดใหญ่กว่า เช่น Elephant-1 หรือ Mammoth-1
จุดเด่นด้านประสิทธิภาพคือค่า P50 latency อยู่ที่ 20 มิลลิวินาทีสำหรับคำขอที่มีค่าเฉลี่ย 2,000 โทเคน และแนะนำให้ใช้เกณฑ์ความน่าจะเป็น 0.85 ในการตัดสินใจที่มีความมั่นใจสูง โมเดลนี้เป็นส่วนหนึ่งของไลบรารีโมเดลของ Baseten ที่ déploy เป็น API endpoint ได้ โดยโครงสร้างการอนุมานของ Baseten มี custom kernel เทคนิคการถอดรหัสสมัยใหม่ และแคชขั้นสูง พร้อม uptime 99.99% และ cold start ที่รวดเร็ว รวมถึงขยายได้ในทุกภูมิภาคและทุกคลาวด์ รวมถึงการตั้งค่าแบบไฮบริด
อัปเดต:
ID โมเดล
joey-1- บริบท
- 16.384K
- เอาต์พุตสูงสุด
- 14.745K
- อินพุต
- text / image
- เอาต์พุต
- decisions
จุดเด่น
- โมเดลตัดสินใจแบบ open-weight 2B พารามิเตอร์
- คืนค่าความน่าจะเป็นที่ผ่านการปรับเทียบ
- จัดการจำแนก จัดเส้นทาง ให้คะแนนใน pass เดียว
- P50 latency 20 มิลลิวินาที
- รันในองค์กรเองได้
- API แบบซิงโครนัสสำหรับเรียลไทม์
ผู้ให้บริการ
เปรียบเทียบราคา API ระหว่างผู้ให้บริการ เลือกผู้ให้บริการเพื่อดูค่าใช้จ่ายและเงื่อนไขทั้งหมด
| $0.01 | $0 |
เบนช์มาร์ก
- 20
P50 latency
มิลลิวินาทีสำหรับคำขอที่มีค่าเฉลี่ย 2,000 โทเคน
คะแนนตามที่ผู้ให้บริการโมเดลเผยแพร่
เริ่มต้นอย่างรวดเร็วสำหรับการตัดสินใจ
ส่งสถานะและคำถามแบบมีชนิดที่แคบเฉพาะไปยัง /api/v1/decisions และอ่านคำตอบหนึ่งรายการต่อคำถาม: noul คืนค่าความน่าจะเป็นตั้งแต่ 0 ถึง 1, choice คืนตัวเลือกที่เลือกพร้อมการกระจาย และ score คืนคะแนนตัวเลขสำหรับเกณฑ์แบบเรียงลำดับ endpoint นี้แยกจากอินเทอร์เฟซ Chat Completions, Messages และ Responses
curl https://openapi.felo.ai/api/v1/decisions \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "joey-1",
"state": "Help! My payouts have been failing for 3 days.",
"questions": {
"is_urgent": {
"type": "noul",
"instructions": "Does this message convey urgency?",
"criteria": {"true": "Time-sensitive", "false": "No urgency"}
},
"department": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {
"billing": "Payments, invoicing, refunds",
"technical": "Bugs, outages, integrations",
"sales": "Pricing, upgrades, new accounts"
}
},
"frustration": {
"type": "score",
"instructions": "How frustrated is the customer?",
"criteria": ["Calm", "Frustrated", "Very angry"]
}
}
}'คำถามที่พบบ่อย
รู้จัก Joey 1?
Baseten: Joey 1 เป็นโมเดลตัดสินใจแบบ open-weight ขนาด 2B พารามิเตอร์ ที่ผ่านการฝึกต่อจาก Qwen3.5-2B ออกแบบมาเพื่อรับบริบทแบบมีโครงสร้างเป็นอินพุต แล้วส่งคืนค่าความน่าจะเป็นที่ผ่านการปรับเทียบสำหรับตัวเลือกที่กำหนดไว้ล่วงหน้า แทนการสร้างข้อความ จึงสามารถจัดการงานจำแนกประเภท การจัดเส้นทาง และการให้คะแนนได้ใน forward pass เดียว รองรับการเรียก API แบบซิงโครนัสสำหรับการใช้งานแบบเรียลไทม์ โมเดลนี้เหมาะกับงานตัดสินใจปริมาณมากที่ต้องการความเร็วและต้นทุนต่ำ เช่น การกลั่นกรองเนื้อหา การตรวจจับการฉ้อโกง การคัดแยกและจัดเส้นทางตั๋วสนับสนุน การตรวจจับสแปมและฟิชชิง และการจำแนกประเภทพรอมต์ โดยสามารถดาวน์โหลดและรันในองค์กรได้เอง และทำหน้าที่เป็นชั้นปริมาณสูงในโครงสร้างแบบลำดับชั้นที่ส่งเคสที่ไม่แน่ใจต่อไปยังโมเดลขนาดใหญ่กว่า เช่น Elephant-1 หรือ Mammoth-1 จุดเด่นด้านประสิทธิภาพคือค่า P50 latency อยู่ที่ 20 มิลลิวินาทีสำหรับคำขอที่มีค่าเฉลี่ย 2,000 โทเคน และแนะนำให้ใช้เกณฑ์ความน่าจะเป็น 0.85 ในการตัดสินใจที่มีความมั่นใจสูง โมเดลนี้เป็นส่วนหนึ่งของไลบรารีโมเดลของ Baseten ที่ déploy เป็น API endpoint ได้ โดยโครงสร้างการอนุมานของ Baseten มี custom kernel เทคนิคการถอดรหัสสมัยใหม่ และแคชขั้นสูง พร้อม uptime 99.99% และ cold start ที่รวดเร็ว รวมถึงขยายได้ในทุกภูมิภาคและทุกคลาวด์ รวมถึงการตั้งค่าแบบไฮบริด
การใช้งานถูกเรียกเก็บเงินอย่างไร
ค่าใช้จ่ายขึ้นอยู่กับผู้ให้บริการที่คุณใช้ ราคาของผู้ให้บริการนั้น และปริมาณการใช้งาน อินพุตที่ยาวขึ้นหรือเงื่อนไขอื่นอาจมีราคาแตกต่างกัน
Joey 1 รับอินพุตแบบใดได้บ้าง?
รับข้อความและรูปภาพเป็นอินพุต และส่งคืนค่าความน่าจะเป็นสำหรับตัวเลือกที่กำหนดไว้ล่วงหน้า
Joey 1 เหมาะกับงานประเภทใด?
เหมาะกับงานตัดสินใจ เช่น การจำแนกประเภท การจัดเส้นทาง และการให้คะแนน รวมถึงการกลั่นกรองเนื้อหา การตรวจจับการฉ้อโกง และการคัดแยกตั๋ว
Joey 1 ต่างจากโมเดลอื่นในตระกูลอย่างไร?
Joey 1 เป็นโมเดลแนวหน้าปริมาณสูงที่รวดเร็วและประหยัดต้นทุน ส่วนเคสที่ไม่แน่ใจสามารถส่งต่อไปยังโมเดลขนาดใหญ่กว่าอย่าง Elephant-1 หรือ Mammoth-1
ควรใช้เกณฑ์ความน่าจะเป็นเท่าใดจึงถือว่ามั่นใจสูง?
แนะนำเกณฑ์ความน่าจะเป็น 0.85 สำหรับการถือผลลัพธ์เป็นการตัดสินใจที่มีความมั่นใจสูง
สามารถนำ Joey 1 ไปรันในองค์กรเองได้หรือไม่?
ได้ เพราะเป็นโมเดลแบบ open-weight ที่สามารถดาวน์โหลดและรันในองค์กรได้เอง