LFM3-1.7B API
LFM3-1.7B হলো Liquid AI-এর ১.৭৩ বিলিয়ন প্যারামিটারের টেক্সট মডেল, যা ফোন ও ল্যাপটপে লোকাল এজেন্ট চালানোর জন্য উপযোগী।
LFM3-1.7B হলো Liquid AI-এর তৈরি একটি টেক্সট-ভিত্তিক মডেল, যার প্যারামিটার সংখ্যা ১.৭৩ বিলিয়ন। ৪-বিট কোয়ান্টাইজেশনে এটি প্রায় ১GB মেমরি নেয়, ফলে ডেডিকেটেড GPU ছাড়াই ফোন ও ল্যাপটপে লোকালি চালানো যায়। এর ট্রাই-হাইব্রিড আর্কিটেকচারে ২৪টি লেয়ার রয়েছে, যেখানে ১৩টি গেটেড শর্ট কনভোলিউশন, ৫টি স্লাইডিং-উইন্ডো অ্যাটেনশন এবং ৬টি গ্লোবাল অ্যাটেনশন লেয়ার মিশ্রিত। ভোকাবুলারিতে ১২৮,০০০ টোকেন রয়েছে যা ১৬টি ভাষা কভার করে।
এই মডেলটি বিশেষভাবে এজেন্টিক হ্যারনেস যেমন Hermes Agent, Pi এবং OpenClaw-এর জন্য পোস্ট-ট্রেইন করা হয়েছে এবং এতে স্ট্রাকচার্ড টুল কলিংয়ের বিল্ট-ইন সাপোর্ট রয়েছে। বড় টুল ক্যাটালগের সাথে কাজ করার জন্য এতে ডেফার্ড টুল সার্চ মেকানিজম আছে। রিজনিং ডিফল্টভাবে চালু থাকে, তবে enable_thinking কে False সেট করে সরাসরি উত্তর পাওয়া যায়। ২৫৬K-টোকেন কনটেক্সট উইন্ডো (ইনপুট ও আউটপুট উভয়ই) এই আকারের মডেলের জন্য অস্বাভাবিকভাবে বড়।
এটি ফোন ও ল্যাপটপে লোকাল এজেন্ট চালানো, স্ট্রাকচার্ড আউটপুট সহ টুল কলিং, ডোমেইন-নির্দিষ্ট ফাইন-টিউনিং, সার্চ বা রিট্রিভালের সাথে রিট্রিভাল-গ্রাউন্ডেড প্রশ্নোত্তর, গ্রাহক অনুরোধ শ্রেণীবদ্ধকরণ, ডকুমেন্ট তথ্য নিষ্কাশন এবং কোম্পানির নিজস্ব ডকুমেন্ট ও ফরম্যাটে ফাইন-টিউন করা বিশেষায়িত সহকারীর জন্য উপযুক্ত। তবে এটি এজেন্টিক কোডিং বা জটিল বহু-ধাপের রিজনিংয়ের জন্য সুপারিশ করা হয় না এবং স্বায়ত্তশাসিত সফটওয়্যার ইঞ্জিনিয়ারিং এজেন্ট বা দীর্ঘ যৌক্তিক অনুমানের চেইনের জন্য উপযুক্ত নয়।
আপডেট:
মডেল ID
lfm-3-1.7b- কনটেক্সট
- 262.144K
- সর্বোচ্চ আউটপুট
- 8.192K
- প্রস্তাবিত API
- messages
- ইনপুট
- text
- আউটপুট
- text
মূল বৈশিষ্ট্য
- ১.৭৩ বিলিয়ন প্যারামিটার, ৪-বিটে প্রায় ১GB মেমরি
- ২৫৬K টোকেন কনটেক্সট উইন্ডো
- স্ট্রাকচার্ড টুল কলিং সমর্থন
- ডিফল্টভাবে রিজনিং চালু
- একক GPU-তে দ্রুত ফাইন-টিউনযোগ্য
- GGUF, MLX, ONNX সহ ছয়টি ফরম্যাটে উপলব্ধ
প্রোভাইডার
প্রোভাইডারদের মধ্যে API মূল্য তুলনা করুন। সব চার্জ ও শর্ত দেখতে একটি প্রোভাইডার নির্বাচন করুন।
| প্রাপ্যতা | ||||
|---|---|---|---|---|
| $0.08 | $0.2 | $0.02 |
অতীত পরিসংখ্যান সরাসরি অবস্থা পরীক্ষা নয়। ডেটা না থাকা মানেই পরিষেবা বন্ধ নয়।
$10-এ কী পাওয়া যায়
- ইনপুট
- ১২.৫ কো টোকেন
- আউটপুট
- ৫ কো টোকেন
বর্তমান ইনপুট ও আউটপুট মূল্যের ভিত্তিতে আনুমানিক, ছাড়ের আগে।
রিজনিং
- সর্বদা সক্রিয়
- হ্যাঁ
দ্রুত শুরু
Felo API Platform-এর সামঞ্জস্যপূর্ণ API দিয়ে এই মডেল কল করার রেডি কোড। কোড লেখার আগে প্রম্পট পরীক্ষা করতে চাইলে Playground-এ শুরু করুন।
আপনার API key নিন
আপনার Felo API Platform অ্যাকাউন্ট থেকে একটি key তৈরি করুন এবং এটি environment variable হিসেবে সেট করুন।
export FELO_API_KEY="YOUR_API_KEY"প্রথম অনুরোধ পাঠান
এই মডেল ID Felo API Platform endpoint-এর সঙ্গে ব্যবহার করুন। X-Request-Id-এর মতো ঐচ্ছিক রিকোয়েস্ট হেডার সমস্যা সমাধানে সাহায্য করতে পারে।
lfm-3-1.7bএই মডেল রিজনিং সক্ষম। আপনার নির্বাচিত প্রোটোকল ও মডেল রুট রিজনিং নিয়ন্ত্রণ দিলে, কথোপকথন চালিয়ে যাওয়ার সময় ফেরত পাওয়া রিজনিং মেটাডেটা সংরক্ষণ করুন।
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());থার্ড-পার্টি SDK ব্যবহার
সামঞ্জস্যপূর্ণ SDK-তে baseURL সেট করুন https://openapi.felo.ai/api/v1. Claude-ধাঁচের ক্লায়েন্টের জন্য Anthropic-সামঞ্জস্যপূর্ণ base URL ব্যবহার করুন। https://openapi.felo.ai/api.
স্ট্রিমিং চালু করুন
রেসপন্স server-sent events হিসেবে পেতে stream: true যোগ করুন।
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform সামঞ্জস্যপূর্ণ মডেল-কলিং সারফেস দেয়। আপনার অ্যাপ বা এজেন্ট ক্লায়েন্ট যে সারফেস ইতিমধ্যে সমর্থন করে সেটি বেছে নিন।
Messages
Claude-ধাঁচের ক্লায়েন্টের জন্য Anthropic-সামঞ্জস্যপূর্ণ মেসেজ।
POST
https://openapi.felo.ai/api/v1/messagesপ্যারামিটার
modelstringlfm-3-1.7bকল করার প্রকাশ্য মডেল ID।max_tokensinteger—সর্বোচ্চ কত টোকেন তৈরি হবে।messagesarray—Chat Completions-এর কথোপকথন মেসেজ।seed———stop———min_p———toolsarray—সামঞ্জস্যপূর্ণ schema অনুসরণ করা tool calling সংজ্ঞা।top_k———top_p———logprobs———reasoning———temperaturenumber—সমর্থিত হলে রেসপন্সের বৈচিত্র্য নিয়ন্ত্রণ করে।tool_choicestring or object—কোনো tool কল করা উচিত কি না তা নিয়ন্ত্রণ করে।top_logprobs———response_formatobject—সমর্থিত হলে স্ট্রাকচার্ড আউটপুট অনুরোধ করে।presence_penalty———frequency_penalty———include_reasoning———repetition_penalty———structured_outputs———max_completion_tokens———সাধারণ প্রশ্ন
মডেল পরিচিতি: LFM3-1.7B?
LFM3-1.7B হলো Liquid AI-এর তৈরি একটি টেক্সট-ভিত্তিক মডেল, যার প্যারামিটার সংখ্যা ১.৭৩ বিলিয়ন। ৪-বিট কোয়ান্টাইজেশনে এটি প্রায় ১GB মেমরি নেয়, ফলে ডেডিকেটেড GPU ছাড়াই ফোন ও ল্যাপটপে লোকালি চালানো যায়। এর ট্রাই-হাইব্রিড আর্কিটেকচারে ২৪টি লেয়ার রয়েছে, যেখানে ১৩টি গেটেড শর্ট কনভোলিউশন, ৫টি স্লাইডিং-উইন্ডো অ্যাটেনশন এবং ৬টি গ্লোবাল অ্যাটেনশন লেয়ার মিশ্রিত। ভোকাবুলারিতে ১২৮,০০০ টোকেন রয়েছে যা ১৬টি ভাষা কভার করে। এই মডেলটি বিশেষভাবে এজেন্টিক হ্যারনেস যেমন Hermes Agent, Pi এবং OpenClaw-এর জন্য পোস্ট-ট্রেইন করা হয়েছে এবং এতে স্ট্রাকচার্ড টুল কলিংয়ের বিল্ট-ইন সাপোর্ট রয়েছে। বড় টুল ক্যাটালগের সাথে কাজ করার জন্য এতে ডেফার্ড টুল সার্চ মেকানিজম আছে। রিজনিং ডিফল্টভাবে চালু থাকে, তবে enable_thinking কে False সেট করে সরাসরি উত্তর পাওয়া যায়। ২৫৬K-টোকেন কনটেক্সট উইন্ডো (ইনপুট ও আউটপুট উভয়ই) এই আকারের মডেলের জন্য অস্বাভাবিকভাবে বড়। এটি ফোন ও ল্যাপটপে লোকাল এজেন্ট চালানো, স্ট্রাকচার্ড আউটপুট সহ টুল কলিং, ডোমেইন-নির্দিষ্ট ফাইন-টিউনিং, সার্চ বা রিট্রিভালের সাথে রিট্রিভাল-গ্রাউন্ডেড প্রশ্নোত্তর, গ্রাহক অনুরোধ শ্রেণীবদ্ধকরণ, ডকুমেন্ট তথ্য নিষ্কাশন এবং কোম্পানির নিজস্ব ডকুমেন্ট ও ফরম্যাটে ফাইন-টিউন করা বিশেষায়িত সহকারীর জন্য উপযুক্ত। তবে এটি এজেন্টিক কোডিং বা জটিল বহু-ধাপের রিজনিংয়ের জন্য সুপারিশ করা হয় না এবং স্বায়ত্তশাসিত সফটওয়্যার ইঞ্জিনিয়ারিং এজেন্ট বা দীর্ঘ যৌক্তিক অনুমানের চেইনের জন্য উপযুক্ত নয়।
ব্যবহারের জন্য কীভাবে চার্জ হয়?
আপনার বিল নির্ভর করে আপনি কোন প্রোভাইডার ব্যবহার করেন, তার মূল্য এবং আপনার ব্যবহারের ওপর। দীর্ঘ ইনপুট বা অন্যান্য শর্তে ভিন্ন মূল্য প্রযোজ্য হতে পারে।
LFM3-1.7B কী ধরনের ইনপুট ও আউটপুট সমর্থন করে?
এটি শুধুমাত্র টেক্সট ইনপুট ও টেক্সট আউটপুট সমর্থন করে। এতে স্ট্রাকচার্ড টুল কলিংয়ের বিল্ট-ইন সাপোর্ট রয়েছে।
এই মডেলের কনটেক্সট উইন্ডো কত বড়?
এর কনটেক্সট উইন্ডো ২৫৬K টোকেন, যা ইনপুট ও আউটপুট উভয়ই কভার করে। এই আকারের মডেলের জন্য এটি অস্বাভাবিকভাবে বড়।
এটি কি লোকাল ডিভাইসে চলতে পারে?
হ্যাঁ, ৪-বিট কোয়ান্টাইজেশনে এটি প্রায় ১GB মেমরি নেয় এবং ডেডিকেটেড GPU ছাড়াই ফোন ও ল্যাপটপে লোকালি চালানো যায়।
এটি কী কী কাজে সবচেয়ে উপযুক্ত?
লোকাল এজেন্ট, স্ট্রাকচার্ড আউটপুট সহ টুল কলিং, ডোমেইন-নির্দিষ্ট ফাইন-টিউনিং, রিট্রিভাল-গ্রাউন্ডেড প্রশ্নোত্তর এবং ডকুমেন্ট তথ্য নিষ্কাশনে এটি ভালো।
LFM3-1.7B কি এজেন্টিক কোডিংয়ের জন্য সুপারিশকৃত?
না, এটি স্পষ্টভাবে এজেন্টিক কোডিং বা জটিল বহু-ধাপের রিজনিংয়ের জন্য সুপারিশ করা হয় না। স্বায়ত্তশাসিত সফটওয়্যার ইঞ্জিনিয়ারিং এজেন্টও এর আওতার বাইরে।
পূর্ববর্তী LFM2.5 মডেলের তুলনায় এটি কেমন?
এটি পূর্ববর্তী ২.৬B-প্যারামিটারের LFM2.5 মডেলকে ছাড়িয়ে যায়, যদিও ৩৫% কম প্যারামিটার ব্যবহার করে। এজেন্টিক মূল্যায়নে এটি প্রতি কাজে ৫৮% কম টোকেন ব্যবহার করেছে।