Інструмент обходу сайтів на основі графа з використанням Tavily Crawl.
Web Content
Web crawling, URL discovery and page extraction.
Інструмент обходу сайтів на основі графа з використанням Tavily Crawl.
Обходить сайт від кореневого url і повертає вміст знайдених сторінок. Керуйте обходом за допомогою instructions природною мовою та фільтрів шляхів і доменів на регулярних виразах, а обмежуйте його через max_depth, max_breadth і limit. Повертає base_url і results[] з url і raw_content. Використовуйте для широкого охоплення одного сайту — документації, каталогу, блогу конкурента. Відповідає синхронно, на відміну від post_firecrawl_crawl: той виконується як фонове завдання і підходить для обходів, які занадто великі, щоб їх чекати.
Довідкові ціни
- Тарифікація: тарифіковані одиниці відповіді.
- Довідкова оцінка запиту: USD 0.024.
- Базова вартість одиниці: USD 0.008.
- Одиниця ресурсу:
tavily_credit. - Довідковий множник для клієнта: 1.0. Не застосовуйте його повторно до вже розрахованої суми клієнта.
- Базові вартості не визначають остаточну ціну для клієнта, зокрема коли вони дорівнюють нулю.
Лише довідкові метадані, а не котирування для облікового запису, гарантована ціна чи ліміт витрат. Кредити ресурсів — це не кредити Felo. Остаточні списання здійснюються за записами білінгу Felo.
- Тип: stringurlобов'язкове
Кореневий URL для початку обходу.
- Тип: booleanallow
_external Включати посилання на зовнішні домени до фінального списку результатів.
- Тип: integerchunks
_per _source мін.:1макс.:5Максимальна кількість релевантних чанків, що повертаються на джерело.
- Тип: array string[]exclude
_domains Regex-шаблони для виключення конкретних доменів або піддоменів з обходу.
- Тип: array string[]exclude
_paths Regex-шаблони для виключення URL з певними шаблонами шляхів.
- Тип: string перелікextract
_depth Глибина процесу вилучення.
значення- basic
- advanced
- Тип: string перелікformat
Формат вилученого вмісту вебсторінки.
значення- markdown
- text
- Тип: booleaninclude
_favicon Включати URL favicon для кожного результату.
- Тип: booleaninclude
_images Включати зображення до результатів обходу.
- Тип: booleaninclude
_usage Включати відомості про використання кредитів у відповідь.
- Тип: stringinstructions
Інструкції для краулера природною мовою.
- Тип: integerlimitмін.:1
Загальна кількість посилань, які краулер обробить до зупинки.
- Тип: integermax
_breadth мін.:1макс.:500Максимальна кількість посилань для переходу на кожному рівні дерева.
- Тип: integermax
_depth мін.:1макс.:5Максимальна глибина обходу.
- Тип: array string[]select
_domains Regex-шаблони для вибору обходу лише конкретних доменів або піддоменів.
- Тип: array string[]select
_paths Regex-шаблони для вибору лише URL з певними шаблонами шляхів.
- Тип: number Формат: floattimeoutмін.:10макс.:150
Максимальний час очікування операції обходу в секундах.
- Тип: object200
Результати обходу успішно повернено.
- Тип: stringbase
_url Базовий URL, який було обійдено.
- Тип: stringrequest
_id Унікальний ідентифікатор запиту.
- Тип: number Формат: floatresponse
_time Час виконання запиту в секундах.
- Тип: array object[]results
- faviconТип: string
URL favicon обійденої сторінки.
- rawТип: string
_content Необроблений вміст, вилучений зі сторінки.
- urlТип: string
URL обійденої сторінки.
- Тип: objectusage
- creditsТип: integer
Відомості про використання кредитів для запиту.
application/json - 400
Не вдалося обробити запит. Перевірте параметри запиту.
- 401
Потрібен дійсний API-ключ Felo.
- 402
Запит неможливо виконати: умови білінгу не виконано.
- 403
Обліковий запис не має дозволу на цю операцію.
- 429
Досягнуто ліміту запитів або витрат.
- 502
Служба не змогла виконати запит.
- 503
API або служба білінгу тимчасово недоступні.
- 504
Час очікування обробки запиту вичерпано.
- default
Відповідь із помилкою; наскрізні відповіді апстріму можуть використовувати формати постачальника
application/json
curl https://openapi.felo.ai/v1/beta/tavily/crawl \
--request POST \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer YOUR_SECRET_TOKEN' \
--data '{
"url": "docs.tavily.com",
"instructions": "",
"chunks_per_source": 3,
"max_depth": 1,
"max_breadth": 20,
"limit": 50,
"select_paths": [
""
],
"select_domains": [
""
],
"exclude_paths": [
""
],
"exclude_domains": [
""
],
"allow_external": true,
"include_images": false,
"extract_depth": "basic",
"format": "markdown",
"include_favicon": false,
"timeout": 150,
"include_usage": false
}'
{
"base_url": "string",
"results": [
{
"url": "string",
"raw_content": "string",
"favicon": "string"
}
],
"response_time": 1,
"usage": {
"credits": 1
},
"request_id": "string"
}