Felo API PlatformFelo API Platform
กลับไปที่โมเดล
LiquidAImessages

LFM3-1.7B API

LFM3-1.7B เป็นโมเดลข้อความขนาดเล็กจาก Liquid AI ที่มีพารามิเตอร์ 1.73 พันล้าน เน้นการทำงานบนอุปกรณ์พกพาและการเรียกใช้เครื่องมือแบบมีโครงสร้าง

Liquid AI เปิดตัว LFM3-1.7B เมื่อวันที่ 27 ตุลาคม 2024 เป็นโมเดลข้อความขนาดเล็กที่มีพารามิเตอร์ 1.73 พันล้าน ตัว พร้อมหน้าต่างบริบท 128K โทเคนที่ครอบคลุมทั้งอินพุตและเอาต์พุต สถาปัตยกรรมแบบไตรผสม (Tri-hybrid) ประกอบด้วยเลเยอร์ 13 ชั้นที่เป็น gated convolution แบบสั้น, 5 เลเยอร์ที่เป็น sliding window attention และ 6 เลย์เยอร์ที่เป็น global attention โดยมีคลังคำศัพท์ 128,000 โทเคนครอบคลุม 16 ภาษา โมเดลนี้ผ่านการฝึกด้วยข้อมูล 22 ล้านล้านโทเคน ซึ่งเป็นอัตราส่วนโทเคนต่อพารามิเตอร์ประมาณ 12,717 เท่า และมีให้เลือกในรูปแบบต่างๆ ถึง6 แบบ ได้แก่ GGUF, MLX, ONNX, BF16, FP8 และ NVFP4

จุดเด่นของ LFM3-1.7B คือความสามารถในการรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง เมื่อทำ quantization แบบ 4 บิต จะใช้หน่วยความจำประมาณ 1GB เท่านั้น เหมาะสำหรับการทำงานเป็นเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือด้วยเอาต์พุตแบบมีโครงสร้าง การปรับแต่งสำหรับโดเมนเฉพาะ การตอบคำถามที่อิงกับการค้นคืนข้อมูล และการจำแนกคำขอของลูกค้าหรือการส่งต่อเคส โมเดลนี้มีกลไกการค้นหาเครื่องมือแบบเลื่อนออกไป (deferred tool search) สำหรับจัดการแค็ตตาล็อกเครื่องมือขนาดใหญ่ และผ่านการฝึกหลังการฝึก (post-trained) สำหรับสภาพแวดล้อมเอเจนต์อย่าง Hermes Agent, Pi และ OpenClaw

อย่างไรก็ตาม LFM3-1.7B ไม่ได้ถูกออกแบบมาสำหรับงานเขียนโค้ดแบบเอเจนต์หรือการให้เหตุผลหลายขั้นตอนที่ซับซ้อน และไม่สามารถเก็บความรู้เกี่ยวกับโลกได้มากเท่าระบบขนาดใหญ่ จึงแนะนำให้ใช้ร่วมกับการค้นคืนหรือค้นหาเมื่อต้องตอบคำถามที่ต้องใช้ความรู้จำนวนมาก ผลการประเมินด้านเอเจนต์อิงจากชุดงานเพียง 65 งาน และควรได้รับการทำซ้ำอย่างอิสระ โมเดลนี้เผยแพร่ภายใต้ LFM Open License v1.0 ซึ่งไม่ใช่ Apache หรือ MIT และบริษัทที่มีรายได้ต่อปีเกิน 10 ล้านดอลลาร์จำเป็นต้องขอใบอนุญาตเชิงพาณิชย์แยกต่างหาก

อัปเดต:

ID โมเดล

lfm-3-1.7b
บริบท
262.144K
เอาต์พุตสูงสุด
8.192K
API ที่แนะนำ
messages
อินพุต
text
เอาต์พุต
text

จุดเด่น

  • พารามิเตอร์ 1.73 พันล้าน ใช้หน่วยความจำราว 1GB ที่4 บิต
  • หน้าต่างบริบท 256K โทเคน
  • สถาปัตยกรรมไตรผสม 24 เลเยอร์
  • รองรับการเรียกใช้เครื่องมือแบบมีโครงสร้าง
  • รันบนโทรศัพท์และแล็ปท็อปได้
  • มีให้เลือก6 รูปแบบ รวม GGUF, MLX, ONNX

ผู้ให้บริการ

1 ผู้ให้บริการ

เปรียบเทียบราคา API ระหว่างผู้ให้บริการ เลือกผู้ให้บริการเพื่อดูค่าใช้จ่ายและเงื่อนไขทั้งหมด

ผู้ให้บริการ · รายละเอียดราคา
อัตราความพร้อมใช้งาน
$0.08$0.2$0.02

ซื้ออะไรได้ด้วย $10

อินพุต
125M token
เอาต์พุต
50M token

ประมาณจากราคาอินพุตและเอาต์พุตปัจจุบัน ก่อนหักส่วนลด

การให้เหตุผล

เปิดใช้งานตลอด
ใช่

เริ่มต้นอย่างรวดเร็ว

โค้ดพร้อมใช้สำหรับเรียกโมเดลนี้ด้วย API ที่เข้ากันได้ของ Felo API Platform เริ่มใน Playground เมื่อคุณต้องการทดสอบพรอมต์ก่อนเขียนโค้ด

1

ตั้งค่าคีย์ API

สร้างคีย์จากบัญชี Felo API Platform ของคุณและตั้งเป็นตัวแปรสภาพแวดล้อม

export FELO_API_KEY="YOUR_API_KEY"
2

ส่งคำขอแรก

ใช้ ID โมเดลนี้กับ endpoint ของ Felo API Platform ส่วนหัวคำขอแบบไม่บังคับ เช่น X-Request-Id ช่วยในการแก้ไขปัญหา

lfm-3-1.7b

โมเดลนี้มีความสามารถในการให้เหตุผล หากโปรโตคอลและเส้นทางโมเดลที่คุณเลือกเปิดการควบคุมการให้เหตุผล ให้เก็บเมทาดาทาการให้เหตุผลที่ส่งคืนไว้เมื่อสนทนาต่อ

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "lfm-3-1.7b",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

การใช้ SDK ของบุคคลที่สาม

ใน SDK ที่เข้ากันได้ ให้ตั้ง baseURL เป็น https://openapi.felo.ai/api/v1. สำหรับไคลเอนต์สไตล์ Claude ให้ใช้ base URL ที่เข้ากันได้กับ Anthropic https://openapi.felo.ai/api.

3

เปิดใช้สตรีมมิ่ง

เพิ่ม stream: true เพื่อรับการตอบกลับเป็น server-sent events

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "lfm-3-1.7b",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform มีอินเทอร์เฟซสำหรับเรียกโมเดลที่เข้ากันได้ เลือกอินเทอร์เฟซที่แอปหรือไคลเอนต์เอเจนต์ของคุณรองรับอยู่แล้ว

อินเทอร์เฟซเมธอดURL

Messages

ข้อความที่เข้ากันได้กับ Anthropic สำหรับไคลเอนต์สไตล์ Claude

POST

https://openapi.felo.ai/api/v1/messages

พารามิเตอร์

ชื่อชนิดค่าเริ่มต้นคำอธิบาย
modelstringlfm-3-1.7bID โมเดลสาธารณะที่ต้องการเรียก
max_tokensinteger—จำนวนโทเคนสูงสุดที่สร้าง
messagesarray—ข้อความสนทนาสำหรับ Chat Completions
seed———
stop———
min_p———
toolsarray—นิยาม tool calling ตามสคีมาที่เข้ากันได้
top_k———
top_p———
logprobs———
reasoning———
temperaturenumber—ควบคุมความหลากหลายของการตอบกลับเมื่อรองรับ
tool_choicestring or object—ควบคุมว่าควรเรียกเครื่องมือหรือไม่
top_logprobs———
response_formatobject—ขอเอาต์พุตแบบมีโครงสร้างเมื่อรองรับ
presence_penalty———
frequency_penalty———
include_reasoning———
repetition_penalty———
structured_outputs———
max_completion_tokens———

คำถามที่พบบ่อย

รู้จัก LFM3-1.7B?

Liquid AI เปิดตัว LFM3-1.7B เมื่อวันที่ 27 ตุลาคม 2024 เป็นโมเดลข้อความขนาดเล็กที่มีพารามิเตอร์ 1.73 พันล้าน ตัว พร้อมหน้าต่างบริบท 128K โทเคนที่ครอบคลุมทั้งอินพุตและเอาต์พุต สถาปัตยกรรมแบบไตรผสม (Tri-hybrid) ประกอบด้วยเลเยอร์ 13 ชั้นที่เป็น gated convolution แบบสั้น, 5 เลเยอร์ที่เป็น sliding window attention และ 6 เลย์เยอร์ที่เป็น global attention โดยมีคลังคำศัพท์ 128,000 โทเคนครอบคลุม 16 ภาษา โมเดลนี้ผ่านการฝึกด้วยข้อมูล 22 ล้านล้านโทเคน ซึ่งเป็นอัตราส่วนโทเคนต่อพารามิเตอร์ประมาณ 12,717 เท่า และมีให้เลือกในรูปแบบต่างๆ ถึง6 แบบ ได้แก่ GGUF, MLX, ONNX, BF16, FP8 และ NVFP4 จุดเด่นของ LFM3-1.7B คือความสามารถในการรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง เมื่อทำ quantization แบบ 4 บิต จะใช้หน่วยความจำประมาณ 1GB เท่านั้น เหมาะสำหรับการทำงานเป็นเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือด้วยเอาต์พุตแบบมีโครงสร้าง การปรับแต่งสำหรับโดเมนเฉพาะ การตอบคำถามที่อิงกับการค้นคืนข้อมูล และการจำแนกคำขอของลูกค้าหรือการส่งต่อเคส โมเดลนี้มีกลไกการค้นหาเครื่องมือแบบเลื่อนออกไป (deferred tool search) สำหรับจัดการแค็ตตาล็อกเครื่องมือขนาดใหญ่ และผ่านการฝึกหลังการฝึก (post-trained) สำหรับสภาพแวดล้อมเอเจนต์อย่าง Hermes Agent, Pi และ OpenClaw อย่างไรก็ตาม LFM3-1.7B ไม่ได้ถูกออกแบบมาสำหรับงานเขียนโค้ดแบบเอเจนต์หรือการให้เหตุผลหลายขั้นตอนที่ซับซ้อน และไม่สามารถเก็บความรู้เกี่ยวกับโลกได้มากเท่าระบบขนาดใหญ่ จึงแนะนำให้ใช้ร่วมกับการค้นคืนหรือค้นหาเมื่อต้องตอบคำถามที่ต้องใช้ความรู้จำนวนมาก ผลการประเมินด้านเอเจนต์อิงจากชุดงานเพียง 65 งาน และควรได้รับการทำซ้ำอย่างอิสระ โมเดลนี้เผยแพร่ภายใต้ LFM Open License v1.0 ซึ่งไม่ใช่ Apache หรือ MIT และบริษัทที่มีรายได้ต่อปีเกิน 10 ล้านดอลลาร์จำเป็นต้องขอใบอนุญาตเชิงพาณิชย์แยกต่างหาก

การใช้งานถูกเรียกเก็บเงินอย่างไร

ค่าใช้จ่ายขึ้นอยู่กับผู้ให้บริการที่คุณใช้ ราคาของผู้ให้บริการนั้น และปริมาณการใช้งาน อินพุตที่ยาวขึ้นหรือเงื่อนไขอื่นอาจมีราคาแตกต่างกัน

LFM3-1.7B รองรับอินพุตและเอาต์พุตแบบใดบ้าง

โมเดลนี้รองรับเฉพาะข้อความเป็นอินพุตและเอาต์พุต ไม่รองรับรูปภาพหรือเสียง

หน้าต่างบริบทของ LFM3-1.7B ยาวเท่าไร

มีหน้าต่างบริบท 256K โทเคน ซึ่งครอบคลุมทั้งอินพุตและเอาต์พุต

LFM3-1.7B เหมาะกับงานประเภทใด

เหมาะกับงานเอเจนต์ท้องถิ่น การเรียกใช้เครื่องมือแบบมีโครงสร้าง การปรับแต่งโดเมนเฉพาะ และการตอบคำถามที่อ้างอิงการค้นคืน

LFM3-1.7B ต่างจาก LFM2.5 ขนาด 2.6B อย่างไร

LFM3-1.7B มีพารามิเตอร์น้อยกว่า 35% แต่ให้ผลลัพธ์ที่ดีกว่า LFM2.5 ขนาด 2.6B

สามารถรัน LFM3-1.7B บนอุปกรณ์ใดได้บ้าง

สามารถรันบนโทรศัพท์และแล็ปท็อปได้โดยไม่ต้องใช้ GPU เฉพาะทาง และเมื่อทำ quantization แบบ 4 บิตจะใช้หน่วยความจำประมาณ 1GB

โมเดลที่เกี่ยวข้อง