Flint (free) API
Flint là mô hình ngôn ngữ mixture-of-experts mở của Recursive, gồm 39,8 tỷ tham số với khoảng 2,5 tỷ tham số hoạt động mỗi token, được thiết kế cho các tác nhân lập trình và hỗ trợ cửa sổ ngữ cảnh 262.000 token.
Flint là mô hình ngôn ngữ mixture-of-experts mã nguồn mở do Recursive phát hành, tập trung vào các tác vụ lập trình có tác nhân. Mô hình có 39,8 tỷ tham số tổng cộng, với khoảng 2,5 tỷ tham số hoạt động trên mỗi token. Kiến trúc gồm 49 lớp: 2 lớp dense đầu tiên, tiếp theo là 47 lớp mixture-of-experts. Flint hỗ trợ sử dụng công cụ đa lượt và chỉ nhận đầu vào văn bản, trả về đầu ra văn bản. Cửa sổ ngữ cảnh262.000 token được chia sẻ giữa prompt và đầu ra, với khuyến nghị ngân sách đầu ra tối thiểu 32.768 token.
Flint phù hợp cho các quy trình lập trình có tác nhân: khảo sát codebase, sửa lỗi, triển khai tính năng và viết kiểm thử. Mô hình cũng hữu ích cho việc hỗ trợ lập trình viên viết mã, xây dựng ứng dụng nhỏ và giải quyết các bài toán lập trình. Nhờ cửa sổ ngữ cảnh lớn, Flint có thể chứa một phần đáng kể của kho mã cỡ trung bình cùng với dấu vết suy luận của tác nhân mà không cần chia nhỏ hay truy xuất phức tạp. Recursive mô tả Flint là mô hình MoE có hiệu suất tốt nhất với tổng số tham số dưới 50 tỷ trên các benchmark lập trình có tác nhân, sánh ngang với các mô hình dense mạnh nhất có kích thước tương đương.
Flint được phát hành theo giấy phép Apache 2.0, cho phép sử dụng thương mại, sửa đổi và phân phối lại. Mô hình chạy trên một GPU B300 hoặc H200 cho mỗi bản sao với bộ công cụ phục vụ SGLang, đạt tốc độ từ 125 token/giây trở lên trên M4 Pro và từ 150 token/giây trở lên trên GPU NVIDIA 64GB. Checkpoint BF16 nặng khoảng 80 GB. Phần lớn mô hình được xây dựng bởi hệ thống nghiên cứu AI nội bộ của Recursive có tên Eureka Machine.
Cập nhật:
ID MÔ HÌNH
flint-v1.0:free- Ngữ cảnh
- 262.144K
- Đầu ra tối đa
- 235.929K
- API đề xuất
- messages
- Đầu vào
- text
- Đầu ra
- text
Điểm nổi bật
- MoE 39,8 tỷ tham số, khoảng 2,5 tỷ tham số hoạt động mỗi token
- Cửa sổ ngữ cảnh 262.000 token chia sẻ
- Hỗ trợ sử dụng công cụ đa lượt
- Giấy phép Apache 2.0 cho phép dùng thương mại
- Chạy trên một GPU B300 hoặc H200 với SGLang
Nhà cung cấp
So sánh giá API giữa các nhà cung cấp. Chọn một nhà cung cấp để xem toàn bộ chi phí và điều kiện.
| $0 | $0 |
Điểm chuẩn
- 74.2%
SWE-bench Verified
Đánh giá phát hành của Recursive, mini-swe-agent, pass@1 trung bình trên ít nhất năm lần thử
- 89.7%
SWE-bench Pro v2
Đánh giá phát hành của Recursive, mini-swe-agent, pass@1 trung bình trên ít nhất năm lần thử
- 54.9%
Terminal-Bench 2.1
Đánh giá phát hành của Recursive sử dụng Terminus 2; các giải pháp truy xuất từ web bị tính là thất bại
- #3
Xếp hạng tuân thủ chỉ dẫn
trong số 153 mô hình đủ điều kiện
- 94.7
Điểm danh mục tuân thủ chỉ dẫn
trên thang 100
Điểm số theo công bố của nhà cung cấp mô hình.
Suy luận
- Luôn bật
- Có
Bắt đầu nhanh
Mã dùng ngay để gọi mô hình này bằng các API tương thích của Felo API Platform. Bắt đầu trong Playground khi bạn muốn thử prompt trước khi viết mã.
Thiết lập khóa API
Tạo khóa trong tài khoản Felo API Platform của bạn và đặt làm biến môi trường.
export FELO_API_KEY="YOUR_API_KEY"Gửi yêu cầu đầu tiên
Dùng ID mô hình này với endpoint Felo API Platform. Các header tùy chọn như X-Request-Id có thể giúp khắc phục sự cố.
flint-v1.0:freeMô hình này có khả năng suy luận. Nếu giao thức và route mô hình bạn chọn có hỗ trợ điều khiển suy luận, hãy giữ nguyên siêu dữ liệu suy luận được trả về khi tiếp tục hội thoại.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "flint-v1.0:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Dùng SDK bên thứ ba
Trong các SDK tương thích, đặt baseURL thành https://openapi.felo.ai/api/v1. Với các client kiểu Claude, dùng base URL tương thích Anthropic. https://openapi.felo.ai/api.
Bật streaming
Thêm stream: true để nhận phản hồi dưới dạng server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "flint-v1.0:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform cung cấp các giao diện gọi mô hình tương thích. Chọn giao diện mà ứng dụng hoặc client agent của bạn đã hỗ trợ.
Messages
Tin nhắn tương thích Anthropic cho client kiểu Claude.
POST
https://openapi.felo.ai/api/v1/messagesTham số
modelstringflint-v1.0:freeID mô hình công khai cần gọi.max_tokensinteger—Số token tối đa được tạo.messagesarray—Tin nhắn hội thoại cho Chat Completions.include_reasoning———logprobs———reasoning———response_formatobject—Yêu cầu đầu ra có cấu trúc khi được hỗ trợ.seed———stop———temperaturenumber—Điều chỉnh độ đa dạng của phản hồi khi được hỗ trợ.toolsarray—Định nghĩa tool calling theo schema tương thích.top_logprobs———top_p———Câu hỏi thường gặp
Tìm hiểu Flint (free)?
Flint là mô hình ngôn ngữ mixture-of-experts mã nguồn mở do Recursive phát hành, tập trung vào các tác vụ lập trình có tác nhân. Mô hình có 39,8 tỷ tham số tổng cộng, với khoảng 2,5 tỷ tham số hoạt động trên mỗi token. Kiến trúc gồm 49 lớp: 2 lớp dense đầu tiên, tiếp theo là 47 lớp mixture-of-experts. Flint hỗ trợ sử dụng công cụ đa lượt và chỉ nhận đầu vào văn bản, trả về đầu ra văn bản. Cửa sổ ngữ cảnh262.000 token được chia sẻ giữa prompt và đầu ra, với khuyến nghị ngân sách đầu ra tối thiểu 32.768 token. Flint phù hợp cho các quy trình lập trình có tác nhân: khảo sát codebase, sửa lỗi, triển khai tính năng và viết kiểm thử. Mô hình cũng hữu ích cho việc hỗ trợ lập trình viên viết mã, xây dựng ứng dụng nhỏ và giải quyết các bài toán lập trình. Nhờ cửa sổ ngữ cảnh lớn, Flint có thể chứa một phần đáng kể của kho mã cỡ trung bình cùng với dấu vết suy luận của tác nhân mà không cần chia nhỏ hay truy xuất phức tạp. Recursive mô tả Flint là mô hình MoE có hiệu suất tốt nhất với tổng số tham số dưới 50 tỷ trên các benchmark lập trình có tác nhân, sánh ngang với các mô hình dense mạnh nhất có kích thước tương đương. Flint được phát hành theo giấy phép Apache 2.0, cho phép sử dụng thương mại, sửa đổi và phân phối lại. Mô hình chạy trên một GPU B300 hoặc H200 cho mỗi bản sao với bộ công cụ phục vụ SGLang, đạt tốc độ từ 125 token/giây trở lên trên M4 Pro và từ 150 token/giây trở lên trên GPU NVIDIA 64GB. Checkpoint BF16 nặng khoảng 80 GB. Phần lớn mô hình được xây dựng bởi hệ thống nghiên cứu AI nội bộ của Recursive có tên Eureka Machine.
Cách tính phí sử dụng?
Hóa đơn của bạn phụ thuộc vào nhà cung cấp bạn dùng, giá của họ và mức sử dụng của bạn. Đầu vào dài hơn hoặc các điều kiện khác có thể có giá khác.
Flint hỗ trợ những loại đầu vào nào?
Flint chỉ hỗ trợ đầu vào văn bản và trả về đầu ra văn bản.
Cửa sổ ngữ cảnh và giới hạn đầu ra của Flint là bao nhiêu?
Flint có cửa sổ ngữ cảnh 262.000 token được chia sẻ giữa prompt và đầu ra. Recursive khuyến nghị ngân sách đầu ra tối thiểu 32.768 token.
Flint phù hợp với những tác vụ nào?
Flint được thiết kế cho các quy trình lập trình có tác nhân như khảo sát codebase, sửa lỗi, triển khai tính năng và viết kiểm thử. Mô hình cũng hỗ trợ lập trình viên viết mã, xây dựng ứng dụng nhỏ và giải quyết bài toán lập trình.
Flint khác gì so với các mô hình cùng kích thước?
Flint là mô hình MoE với 39,8 tỷ tham số tổng cộng và khoảng 2,5 tỷ tham số hoạt động mỗi token. Recursive mô tả đây là mô hình MoE có hiệu suất tốt nhất với dưới 50 tỷ tham số trên các benchmark lập trình có tác nhân, sánh ngang với các mô hình dense mạnh nhất có kích thước tương đương.
Flint có thể chạy trên phần cứng nào?
Flint chạy trên một GPU B300 hoặc H200 cho mỗi bản sao với bộ công cụ SGLang. Mô hình đạt tốc độ từ 125 token/giây trở lên trên M4 Pro và từ 150 token/giây trở lên trên GPU NVIDIA 64GB.