LFM3-1.7B API
LFM3-1.7B เป็นโมเดลข้อความขนาดเล็กจาก Liquid AI ที่มีพารามิเตอร์ 1.73 พันล้าน เน้นการทำงานบนอุปกรณ์พกพาและการเรียกใช้เครื่องมือแบบมีโครงสร้าง
Liquid AI เปิดตัว LFM3-1.7B เมื่อวันที่ 27 ตุลาคม 2024 เป็นโมเดลข้อความขนาดเล็กที่มีพารามิเตอร์ 1.73 พันล้าน ตัว พร้อมหน้าต่างบริบท 128K โทเคนที่ครอบคลุมทั้งอินพุตและเอาต์พุต สถาปัตยกรรมแบบไตรผสม (Tri-hybrid) ประกอบด้วยเลเยอร์ 13 ชั้นที่เป็น gated convolution แบบสั้น, 5 เลเยอร์ที่เป็น sliding window attention และ 6 เลย์เยอร์ที่เป็น global attention โดยมีคลังคำศัพท์ 128,000 โทเคนครอบคลุม 16 ภาษา โมเดลนี้ผ่านการฝึกด้วยข้อมูล 22 ล้านล้านโทเคน ซึ่งเป็นอัตราส่วนโทเคนต่อพารามิเตอร์ประมาณ 12,717 เท่า และมีให้เลือกในรูปแบบต่างๆ ถึง6 แบบ ได้แก่ GGUF, MLX, ONNX, BF16, FP8 และ NVFP4
จุดเด่นของ LFM3-1.7B คือความสามารถในการรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง เมื่อทำ quantization แบบ 4 บิต จะใช้หน่วยความจำประมาณ 1GB เท่านั้น เหมาะสำหรับการทำงานเป็นเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือด้วยเอาต์พุตแบบมีโครงสร้าง การปรับแต่งสำหรับโดเมนเฉพาะ การตอบคำถามที่อิงกับการค้นคืนข้อมูล และการจำแนกคำขอของลูกค้าหรือการส่งต่อเคส โมเดลนี้มีกลไกการค้นหาเครื่องมือแบบเลื่อนออกไป (deferred tool search) สำหรับจัดการแค็ตตาล็อกเครื่องมือขนาดใหญ่ และผ่านการฝึกหลังการฝึก (post-trained) สำหรับสภาพแวดล้อมเอเจนต์อย่าง Hermes Agent, Pi และ OpenClaw
อย่างไรก็ตาม LFM3-1.7B ไม่ได้ถูกออกแบบมาสำหรับงานเขียนโค้ดแบบเอเจนต์หรือการให้เหตุผลหลายขั้นตอนที่ซับซ้อน และไม่สามารถเก็บความรู้เกี่ยวกับโลกได้มากเท่าระบบขนาดใหญ่ จึงแนะนำให้ใช้ร่วมกับการค้นคืนหรือค้นหาเมื่อต้องตอบคำถามที่ต้องใช้ความรู้จำนวนมาก ผลการประเมินด้านเอเจนต์อิงจากชุดงานเพียง 65 งาน และควรได้รับการทำซ้ำอย่างอิสระ โมเดลนี้เผยแพร่ภายใต้ LFM Open License v1.0 ซึ่งไม่ใช่ Apache หรือ MIT และบริษัทที่มีรายได้ต่อปีเกิน 10 ล้านดอลลาร์จำเป็นต้องขอใบอนุญาตเชิงพาณิชย์แยกต่างหาก
อัปเดต:
ID โมเดล
lfm-3-1.7b- บริบท
- 262.144K
- เอาต์พุตสูงสุด
- 8.192K
- API ที่แนะนำ
- messages
- อินพุต
- text
- เอาต์พุต
- text
จุดเด่น
- พารามิเตอร์ 1.73 พันล้าน ใช้หน่วยความจำราว 1GB ที่4 บิต
- หน้าต่างบริบท 256K โทเคน
- สถาปัตยกรรมไตรผสม 24 เลเยอร์
- รองรับการเรียกใช้เครื่องมือแบบมีโครงสร้าง
- รันบนโทรศัพท์และแล็ปท็อปได้
- มีให้เลือก6 รูปแบบ รวม GGUF, MLX, ONNX
ผู้ให้บริการ
เปรียบเทียบราคา API ระหว่างผู้ให้บริการ เลือกผู้ให้บริการเพื่อดูค่าใช้จ่ายและเงื่อนไขทั้งหมด
| อัตราความพร้อมใช้งาน | ||||
|---|---|---|---|---|
| $0.08 | $0.2 | $0.02 |
สถิติย้อนหลังไม่ใช่การตรวจสอบแบบเรียลไทม์ ข้อมูลที่หายไปไม่ได้หมายถึงบริการขัดข้อง
ซื้ออะไรได้ด้วย $10
- อินพุต
- 125M token
- เอาต์พุต
- 50M token
ประมาณจากราคาอินพุตและเอาต์พุตปัจจุบัน ก่อนหักส่วนลด
การให้เหตุผล
- เปิดใช้งานตลอด
- ใช่
เริ่มต้นอย่างรวดเร็ว
โค้ดพร้อมใช้สำหรับเรียกโมเดลนี้ด้วย API ที่เข้ากันได้ของ Felo API Platform เริ่มใน Playground เมื่อคุณต้องการทดสอบพรอมต์ก่อนเขียนโค้ด
ตั้งค่าคีย์ API
สร้างคีย์จากบัญชี Felo API Platform ของคุณและตั้งเป็นตัวแปรสภาพแวดล้อม
export FELO_API_KEY="YOUR_API_KEY"ส่งคำขอแรก
ใช้ ID โมเดลนี้กับ endpoint ของ Felo API Platform ส่วนหัวคำขอแบบไม่บังคับ เช่น X-Request-Id ช่วยในการแก้ไขปัญหา
lfm-3-1.7bโมเดลนี้มีความสามารถในการให้เหตุผล หากโปรโตคอลและเส้นทางโมเดลที่คุณเลือกเปิดการควบคุมการให้เหตุผล ให้เก็บเมทาดาทาการให้เหตุผลที่ส่งคืนไว้เมื่อสนทนาต่อ
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());การใช้ SDK ของบุคคลที่สาม
ใน SDK ที่เข้ากันได้ ให้ตั้ง baseURL เป็น https://openapi.felo.ai/api/v1. สำหรับไคลเอนต์สไตล์ Claude ให้ใช้ base URL ที่เข้ากันได้กับ Anthropic https://openapi.felo.ai/api.
เปิดใช้สตรีมมิ่ง
เพิ่ม stream: true เพื่อรับการตอบกลับเป็น server-sent events
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform มีอินเทอร์เฟซสำหรับเรียกโมเดลที่เข้ากันได้ เลือกอินเทอร์เฟซที่แอปหรือไคลเอนต์เอเจนต์ของคุณรองรับอยู่แล้ว
Messages
ข้อความที่เข้ากันได้กับ Anthropic สำหรับไคลเอนต์สไตล์ Claude
POST
https://openapi.felo.ai/api/v1/messagesพารามิเตอร์
modelstringlfm-3-1.7bID โมเดลสาธารณะที่ต้องการเรียกmax_tokensinteger—จำนวนโทเคนสูงสุดที่สร้างmessagesarray—ข้อความสนทนาสำหรับ Chat Completionsseed———stop———min_p———toolsarray—นิยาม tool calling ตามสคีมาที่เข้ากันได้top_k———top_p———logprobs———reasoning———temperaturenumber—ควบคุมความหลากหลายของการตอบกลับเมื่อรองรับtool_choicestring or object—ควบคุมว่าควรเรียกเครื่องมือหรือไม่top_logprobs———response_formatobject—ขอเอาต์พุตแบบมีโครงสร้างเมื่อรองรับpresence_penalty———frequency_penalty———include_reasoning———repetition_penalty———structured_outputs———max_completion_tokens———คำถามที่พบบ่อย
รู้จัก LFM3-1.7B?
Liquid AI เปิดตัว LFM3-1.7B เมื่อวันที่ 27 ตุลาคม 2024 เป็นโมเดลข้อความขนาดเล็กที่มีพารามิเตอร์ 1.73 พันล้าน ตัว พร้อมหน้าต่างบริบท 128K โทเคนที่ครอบคลุมทั้งอินพุตและเอาต์พุต สถาปัตยกรรมแบบไตรผสม (Tri-hybrid) ประกอบด้วยเลเยอร์ 13 ชั้นที่เป็น gated convolution แบบสั้น, 5 เลเยอร์ที่เป็น sliding window attention และ 6 เลย์เยอร์ที่เป็น global attention โดยมีคลังคำศัพท์ 128,000 โทเคนครอบคลุม 16 ภาษา โมเดลนี้ผ่านการฝึกด้วยข้อมูล 22 ล้านล้านโทเคน ซึ่งเป็นอัตราส่วนโทเคนต่อพารามิเตอร์ประมาณ 12,717 เท่า และมีให้เลือกในรูปแบบต่างๆ ถึง6 แบบ ได้แก่ GGUF, MLX, ONNX, BF16, FP8 และ NVFP4 จุดเด่นของ LFM3-1.7B คือความสามารถในการรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง เมื่อทำ quantization แบบ 4 บิต จะใช้หน่วยความจำประมาณ 1GB เท่านั้น เหมาะสำหรับการทำงานเป็นเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือด้วยเอาต์พุตแบบมีโครงสร้าง การปรับแต่งสำหรับโดเมนเฉพาะ การตอบคำถามที่อิงกับการค้นคืนข้อมูล และการจำแนกคำขอของลูกค้าหรือการส่งต่อเคส โมเดลนี้มีกลไกการค้นหาเครื่องมือแบบเลื่อนออกไป (deferred tool search) สำหรับจัดการแค็ตตาล็อกเครื่องมือขนาดใหญ่ และผ่านการฝึกหลังการฝึก (post-trained) สำหรับสภาพแวดล้อมเอเจนต์อย่าง Hermes Agent, Pi และ OpenClaw อย่างไรก็ตาม LFM3-1.7B ไม่ได้ถูกออกแบบมาสำหรับงานเขียนโค้ดแบบเอเจนต์หรือการให้เหตุผลหลายขั้นตอนที่ซับซ้อน และไม่สามารถเก็บความรู้เกี่ยวกับโลกได้มากเท่าระบบขนาดใหญ่ จึงแนะนำให้ใช้ร่วมกับการค้นคืนหรือค้นหาเมื่อต้องตอบคำถามที่ต้องใช้ความรู้จำนวนมาก ผลการประเมินด้านเอเจนต์อิงจากชุดงานเพียง 65 งาน และควรได้รับการทำซ้ำอย่างอิสระ โมเดลนี้เผยแพร่ภายใต้ LFM Open License v1.0 ซึ่งไม่ใช่ Apache หรือ MIT และบริษัทที่มีรายได้ต่อปีเกิน 10 ล้านดอลลาร์จำเป็นต้องขอใบอนุญาตเชิงพาณิชย์แยกต่างหาก
การใช้งานถูกเรียกเก็บเงินอย่างไร
ค่าใช้จ่ายขึ้นอยู่กับผู้ให้บริการที่คุณใช้ ราคาของผู้ให้บริการนั้น และปริมาณการใช้งาน อินพุตที่ยาวขึ้นหรือเงื่อนไขอื่นอาจมีราคาแตกต่างกัน
LFM3-1.7B รองรับอินพุตและเอาต์พุตแบบใดบ้าง
โมเดลนี้รองรับเฉพาะข้อความเป็นอินพุตและเอาต์พุต ไม่รองรับรูปภาพหรือเสียง
หน้าต่างบริบทของ LFM3-1.7B ยาวเท่าไร
มีหน้าต่างบริบท 256K โทเคน ซึ่งครอบคลุมทั้งอินพุตและเอาต์พุต
LFM3-1.7B เหมาะกับงานประเภทใด
เหมาะกับงานเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือแบบมีโครงสร้าง การปรับแต่งโดเมนเฉพาะ และการตอบคำถามที่อ้างอิงการค้นคืน
LFM3-1.7B ต่างจาก LFM2.5 ขนาด 2.6B อย่างไร
LFM3-1.7B มีพารามิเตอร์น้อยกว่า 35% แต่ให้ผลลัพธ์ที่ดีกว่า LFM2.5 ขนาด 2.6B
สามารถรัน LFM3-1.7B บนอุปกรณ์ใดได้บ้าง
สามารถรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง และเมื่อทำ quantization แบบ 4 บิตจะใช้หน่วยความจำประมาณ 1GB