Công cụ duyệt website dựa trên đồ thị sử dụng Tavily Crawl.
Web Content
Web crawling, URL discovery and page extraction.
Công cụ duyệt website dựa trên đồ thị sử dụng Tavily Crawl.
Duyệt một trang web từ url gốc và trả về nội dung của các trang tìm thấy. Điều hướng bằng instructions ngôn ngữ tự nhiên cùng bộ lọc đường dẫn và tên miền dạng regex, đồng thời giới hạn bằng max_depth, max_breadth và limit. Trả về base_url và results[] với url và raw_content. Dùng cho phạm vi bao phủ rộng trên một trang web — tài liệu, danh mục, blog của đối thủ. Endpoint trả lời đồng bộ, khác với post_firecrawl_crawl: endpoint đó chạy dưới dạng tác vụ nền và phù hợp với các lần crawl quá lớn để chờ.
Tham chiếu giá
- Đo lường: Đơn vị phản hồi được đo lường.
- Ước tính tham chiếu cho mỗi yêu cầu: USD 0.024.
- Cơ sở chi phí đơn vị: USD 0.008.
- Đơn vị tài nguyên:
tavily_credit. - Hệ số khách hàng tham chiếu: 1.0. Không áp dụng lại cho số tiền khách hàng đã quyết toán.
- Cơ sở chi phí không xác lập giá cuối cùng cho khách hàng, kể cả khi bằng 0.
Chỉ là siêu dữ liệu tham chiếu, không phải báo giá cho tài khoản, mức giá được bảo đảm hay hạn mức chi tiêu. Tín dụng tài nguyên không phải tín dụng Felo. Khoản phí cuối cùng tuân theo bản ghi thanh toán của Felo.
- Kiểu: stringurlbắt buộc
URL gốc để bắt đầu quá trình thu thập.
- Kiểu: booleanallow
_external Bao gồm các liên kết miền bên ngoài trong danh sách kết quả cuối cùng.
- Kiểu: integerchunks
_per _source tối thiểu:1tối đa:5Số đoạn nội dung liên quan tối đa được trả về cho mỗi nguồn.
- Kiểu: array string[]exclude
_domains Mẫu regex để loại trừ các tên miền hoặc tên miền phụ cụ thể khỏi quá trình thu thập.
- Kiểu: array string[]exclude
_paths Mẫu regex để loại trừ các URL có mẫu đường dẫn cụ thể.
- Kiểu: string enumextract
_depth Độ sâu của quá trình trích xuất.
giá trị- basic
- advanced
- Kiểu: string enumformat
Định dạng của nội dung trang web được trích xuất.
giá trị- markdown
- text
- Kiểu: booleaninclude
_favicon Bao gồm URL favicon cho mỗi kết quả.
- Kiểu: booleaninclude
_images Bao gồm hình ảnh trong kết quả thu thập.
- Kiểu: booleaninclude
_usage Bao gồm thông tin sử dụng tín dụng trong phản hồi.
- Kiểu: stringinstructions
Chỉ dẫn bằng ngôn ngữ tự nhiên cho trình thu thập.
- Kiểu: integerlimittối thiểu:1
Tổng số liên kết mà trình thu thập sẽ xử lý trước khi dừng.
- Kiểu: integermax
_breadth tối thiểu:1tối đa:500Số liên kết tối đa cần theo dõi mỗi cấp của cây.
- Kiểu: integermax
_depth tối thiểu:1tối đa:5Độ sâu tối đa của quá trình thu thập.
- Kiểu: array string[]select
_domains Mẫu regex để chỉ thu thập các tên miền hoặc tên miền phụ cụ thể.
- Kiểu: array string[]select
_paths Mẫu regex để chỉ chọn các URL có mẫu đường dẫn cụ thể.
- Kiểu: number Định dạng: floattimeouttối thiểu:10tối đa:150
Thời gian tối đa tính bằng giây để chờ thao tác thu thập.
- Kiểu: object200
Kết quả crawl được trả về thành công.
- Kiểu: stringbase
_url URL gốc đã được thu thập.
- Kiểu: stringrequest
_id Mã định danh yêu cầu duy nhất.
- Kiểu: number Định dạng: floatresponse
_time Thời gian tính bằng giây để hoàn thành yêu cầu.
- Kiểu: array object[]results
- faviconKiểu: string
URL favicon của trang đã thu thập.
- rawKiểu: string
_content Nội dung thô được trích xuất từ trang.
- urlKiểu: string
URL của trang đã thu thập.
- Kiểu: objectusage
- creditsKiểu: integer
Chi tiết sử dụng tín dụng cho yêu cầu.
application/json - 400
Không thể xử lý yêu cầu. Hãy kiểm tra các tham số yêu cầu.
- 401
Cần có khóa API Felo hợp lệ.
- 402
Không thể tiếp tục yêu cầu vì chưa đáp ứng yêu cầu thanh toán.
- 403
Tài khoản không được phép thực hiện thao tác này.
- 429
Đã đạt giới hạn yêu cầu hoặc giới hạn chi tiêu.
- 502
Dịch vụ không thể hoàn tất yêu cầu.
- 503
API hoặc dịch vụ thanh toán tạm thời không khả dụng.
- 504
Dịch vụ đã hết thời gian chờ khi xử lý yêu cầu.
- default
Phản hồi lỗi; phản hồi chuyển tiếp từ thượng nguồn có thể dùng định dạng của nhà cung cấp
application/json
curl https://openapi.felo.ai/v1/beta/tavily/crawl \
--request POST \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer YOUR_SECRET_TOKEN' \
--data '{
"url": "docs.tavily.com",
"instructions": "",
"chunks_per_source": 3,
"max_depth": 1,
"max_breadth": 20,
"limit": 50,
"select_paths": [
""
],
"select_domains": [
""
],
"exclude_paths": [
""
],
"exclude_domains": [
""
],
"allow_external": true,
"include_images": false,
"extract_depth": "basic",
"format": "markdown",
"include_favicon": false,
"timeout": 150,
"include_usage": false
}'
{
"base_url": "string",
"results": [
{
"url": "string",
"raw_content": "string",
"favicon": "string"
}
],
"response_time": 1,
"usage": {
"credits": 1
},
"request_id": "string"
}