DataForSEO
SEO, search-engine results, keyword research, backlinks and AI visibility data.
OnPage API 重复内容
抓取中内容与给定 url 相似且高于 similarity 阈值的页面。它读取已完成的抓取,因此需要 post_dataforseo_on_page_submit 返回的 id,并返回 crawl_progress 以及由 max_crawl_pages、pages_in_queue 和 pages_crawled 组成的 crawl_status——在相信一个很小的结果之前请先检查这些字段,因为仍在运行的抓取本来就没有多少可报告的内容。如需重复的标题或元描述而非正文,请使用 post_dataforseo_on_page_duplicate_tags。💰 上游免费:查询已完成的抓取不产生费用,只有抓取本身收费。
计费参考
- 计量方式:按上报的响应成本计量。
- 参考请求估算:0.012 美元。
- 参考客户倍率:1.0。不得对已结算的客户金额再次应用。
仅供参考的元数据,不是账户报价、保证价格或消费上限。资源额度不同于 Felo 额度。最终扣费以 Felo 计费记录为准。
- 类型: array (object | null)[]
- id类型: string
- limit类型: integer | null
返回页面的最大数量
可选字段
默认值:100
最大值:1000 - offset类型: integer | null
返回页面结果数组中的偏移量
可选字段
默认值:0
最大值:2000000
如果指定10,结果数组中的前十个页面将被省略,数据将针对后续页面提供 - similarity类型: integer | null
内容相似度分数
默认情况下,如果该值大于或等于6,内容将被视为重复
你可以指定 0 到 10 范围内的任意相似度分数 - tag类型: string | null
用户自定义任务标识符
可选字段
字符数上限为 255
可使用此参数标识任务,并将其与结果对应
可在响应的data对象中找到指定的tag值 - url类型: string
页面 URL
必填字段
指定你想获取重复内容所对应的初始页面
- 类型: object | null · Response36Afe1097B20_OnPageDuplicateContentResponseInfo200
- 类型: number | null 格式: doublecost
任务总费用,美元
- 类型: integer | nullstatus
_code 通用状态码 完整响应码列表见此处
- 类型: string | nullstatus
_message 通用信息性消息 完整的一般信息性消息列表见此处
- 类型: array (object | null)[] | nulltasks
任务数组
- 类型: object | null · Response36Afe1097B20_OnPageDuplicateContentTaskInfo
- cost类型: number | null 格式: double
任务总费用,美元
- data类型: object | null
包含你在 POST 请求中指定的相同参数
- property类型: object | null
Name
- id类型: string | null
任务标识符 我们系统中 UUID 格式的唯一任务标识符
- path类型: array (string | null)[] | null
URL 路径
- result类型: array (object | null)[] | null
结果数组
- crawl类型: string | null
_progress 抓取会话的状态
可能的值:in_progress、finished - crawl类型: object | null · Response36Afe1097B20_CrawlStatusInfo
_status 抓取会话的详细信息
- max类型: integer | null 格式: int64
_crawl _pages 爬取页面数上限 表示设置任务时指定的 max_crawl_pages 限制
- pages类型: integer | null 格式: int64
_crawled 已爬取的页面数量
- pages类型: integer | null 格式: int64
_in _queue 当前在爬取队列中的页面数量
- items类型: array (object | null)[] | null
条目数组
- pages类型: array (object | null)[] | null
内容重复的页面
- page类型: array (object | null)[] | null
重复内容页面的信息
- 类型: object | null · Response36Afe1097B20_OnPageHtmlResourceItem
- 类型: object · Response36Afe1097B20_OnPageHtmlResourceItem
- resource
_type 鉴别器类型: string | null元素类型
- broken类型: boolean | null
_links 表示页面是否包含损坏链接
- broken类型: boolean | null
_resources 表示页面是否包含损坏资源
- cache类型: object | null · Response36Afe1097B20_CacheControl
_control 缓存说明
- cachable类型: boolean | null
表示页面是否可缓存
- ttl类型: integer | null
生存时间,浏览器缓存资源的时间长度
- checks类型: object | null
网站检查:与页面相关的页内检查项
- property类型: boolean | null
Name
- click类型: integer | null
_depth 到达页面所需的点击次数:表示从首页到达目标页面所需的点击数
- content类型: string | null
_encoding 编码类型
- custom类型: string | null
_js _client _exception 执行自定义 JS 时的错误:如果在执行 custom_js 字段中指定的脚本时发生错误,错误信息将显示在此处
- custom类型: object | null
_js _response 执行指定 JS 脚本的结果:请注意,需在设置任务时指定 custom_js 字段才能收到此数据,字段类型及其值完全取决于所指定的脚本;也可以按此值筛选结果,方式如下:["custom_js_response.url", "like", "pixel"]
- duplicate类型: boolean | null
_content 表示页面是否包含重复内容
- duplicate类型: boolean | null
_description 表示页面是否包含重复描述
- duplicate类型: boolean | null
_title 表示页面是否包含重复标题标签
- encoded类型: integer | null
_size 编码后的页面大小,表示编码后页面的字节大小
- fetch类型: string | null
_time 获取资源的日期和时间,采用 UTC 格式:“yyyy-mm-dd hh-mm-ss +00:00”,示例:2019-11-15 12:57:46 +00:00
- is类型: boolean | null
_resource 表示页面是否为单一资源
- last类型: object | null · Response36Afe1097B20_LastModified
_modified 包含与资源相关的变更数据,若无数据,该值为 null
- header类型: string | null
标头上次修改的日期和时间 UTC 格式:“yyyy-mm-dd hh-mm-ss +00:00” 示例: 2019-11-15 12:57:46 +00:00 如果没有数据,该值将为 null
- meta类型: string | null
_tag 元标签上次修改的日期和时间 UTC 格式:“yyyy-mm-dd hh-mm-ss +00:00” 示例: 2019-11-15 12:57:46 +00:00 如果没有数据,该值将为 null
- sitemap类型: string | null
站点地图上次修改的日期和时间 UTC 格式:“yyyy-mm-dd hh-mm-ss +00:00” 示例: 2019-11-15 12:57:46 +00:00 如果没有数据,该值将为 null
- location类型: string | null
Location 头,表示将页面重定向到的 URL
- media类型: string | null
_type 用于显示页面的媒体类型
- meta类型: object | null · Response36Afe1097B20_PageMetaInfo
页面属性:该值取决于 resource_type
- broken类型: object | null · Response36Afe1097B20_OnPageResourceIssueInfo
_html 资源错误和警告
- errors类型: array (object | null)[] | null
资源错误
- column类型: integer | null
发现错误的列
- line类型: integer | null
发现错误的行
- message类型: string | null
错误的文本消息:可能的 HTML 错误完整列表可在此处找到
- status类型: integer | null
_code 通用状态码,完整响应码列表见此处。注意:我们强烈建议设计必要的系统来处理相关的异常或错误情况
- warnings类型: array (object | null)[] | null
资源警告
- column类型: integer | null
发现错误的列
- line类型: integer | null
发现错误的行
- message类型: string | null
错误的文本消息:可能的 HTML 错误完整列表可在此处找到
- status类型: integer | null
_code 通用状态码,完整响应码列表见此处。注意:我们强烈建议设计必要的系统来处理相关的异常或错误情况
- canonical类型: string | null
规范页面
- charset类型: integer | null
代码页:示例:65001
- content类型: object | null · Response36Afe1097B20_HtmlContentInfo
页面内容的总体信息
- automated类型: number | null
_readability _index 自动可读性指数
- coleman类型: number | null
_liau _readability _index Coleman–Liau 指数
- dale类型: number | null
_chall _readability _index Dale–Chall 可读性指数
- description类型: number | null
_to _content _consistency meta description 标签与页面内容的一致性;测量值为 0 到 1
- flesch类型: number | null
_kincaid _readability _index Flesch–Kincaid 可读性指数
- meta类型: number | null
_keywords _to _content _consistency meta keywords 标签与页面内容的一致性;测量值为 0 到 1
- plain类型: number | null 格式: double
_text _rate 纯文本比率值 plain_text_size 与 size 的比值
- plain类型: integer | null
_text _size 页面上文本的总大小,以字节为单位
- plain类型: integer | null
_text _word _count 页面上的单词数量
- smog类型: number | null
_readability _index SMOG 可读性指数
- title类型: number | null
_to _content _consistency meta title 标签与页面内容的一致性;测量值为 0 到 1
- cumulative类型: number | null
_layout _shift 衡量页面布局稳定性的 Core Web Vitals 指标:衡量页面整个生命周期内每次意外布局偏移的所有单独布局偏移分数之和。了解更多。
- deprecated类型: array (string | null)[] | null
_tags 页面上的已弃用标签
- description类型: string | null
meta 描述标签的内容
- description类型: integer | null
_length 描述标签的字符长度
- duplicate类型: array (string | null)[] | null
_meta _tags 页面上的重复 meta 标签
- external类型: integer | null 格式: int64
_links _count 页面上的外部链接数
- favicon类型: string | null
页面的 favicon
- follow类型: boolean | null
表示页面的“meta robots”是否允许爬虫跟踪页面上的链接:如果为 false,页面的“meta robots”标签包含 "nofollow" 参数,指示爬虫不要跟踪页面上的链接
- generator类型: string | null
meta 标签生成器
- htags类型: object | null
HTML 头部标签
- property类型: array string[] | null
Name
- images类型: integer | null 格式: int64
_count 页面上的图片数
- images类型: integer | null
_size 页面上图片的总大小(字节)
- inbound类型: integer | null 格式: int64
_links _count 指向该页面的内部链接数
- internal类型: integer | null 格式: int64
_links _count 页面上的内部链接数
- meta类型: string | null
_keywords 关键词 meta 标签的内容
- meta类型: string | null
_title 页面的 meta 标题:定义页面标题的 HTML 文档 head 部分的 meta 标签
- render类型: integer | null 格式: int64
_blocking _scripts _count 页面上阻止页面渲染的脚本数
- render类型: integer | null 格式: int64
_blocking _stylesheets _count 页面上阻止页面渲染的 CSS 样式数
- scripts类型: integer | null 格式: int64
_count 页面上的脚本数
- scripts类型: integer | null
_size 页面上脚本的总大小(字节)
- social类型: object | null
_media _tags - property类型: string | null
Name
- spell类型: object | null · Response36Afe1097B20_HunspellInfo
拼写检查 hunspell 拼写检查错误
- hunspell类型: string | null
_language _code 拼写检查语言代码
- misspelled类型: array (object | null)[] | null
拼写错误单词数组
- word类型: string | null
拼写错误的单词
- stylesheets类型: integer | null 格式: int64
_count 页面上的样式表数
- stylesheets类型: integer | null
_size 页面上样式表的总大小(字节)
- title类型: string | null
页面标题
- title类型: integer | null
_length 标题标签的字符长度
- onpage类型: number | null
_score 以 100 分制显示页面优化情况:该字段显示在考虑检测到的关键页面问题和警告后页面的优化情况;100 是可能的最高分,表示页面没有任何关键页面问题和重要警告;如需了解该指标的计算方式,请参阅这篇帮助中心文章
- page类型: object | null · Response36Afe1097B20_PageTiming
_timing 页面加载指标对象
- connection类型: integer | null
_time 连接服务器的时间 与服务器建立连接所需的时间(毫秒)
- dom类型: integer | null
_complete 加载资源的时间 下载页面及其所有子资源所需的时间(毫秒)
- download类型: integer | null
_time 浏览器接收响应所需的时间(毫秒)
- duration类型: integer | null
_time 浏览器从服务器接收完整响应所需的总时间(毫秒)
- fetch类型: integer | null
_end 完成下载 HTML 资源的时间,即浏览器完成下载页面所需的时间
- fetch类型: integer | null
_start 开始下载 HTML 资源的时间,即浏览器开始下载页面所需的时间
- first类型: number | null
_input _delay 表示页面响应能力的 Core Web Vitals 指标 从用户首次与页面交互到浏览器响应该交互所需的时间(毫秒)。了解更多。
- largest类型: number | null
_contentful _paint 衡量首屏最大内容元素显示速度的 Core Web Vitals 指标 从用户请求 URL 到在视口中渲染最大内容元素所需的时间(毫秒)。了解更多。
- request类型: integer | null
_sent _time 向服务器发送请求的时间 向服务器发送请求所需的时间(毫秒)
- time类型: integer | null
_to _interactive Time To Interactive (TTI) 指标 用户可与页面交互所需的时间(毫秒)
- time类型: integer | null
_to _secure _connection 建立安全连接的时间 与服务器建立安全连接所需的时间(毫秒)
- waiting类型: integer | null
_time 首字节时间 (TTFB),以毫秒为单位
- relative类型: integer | null
_url _length 相对 URL 长度(字符数)
- resource类型: object | null · Response36Afe1097B20_OnPageResourceIssueInfo
_errors 资源错误和警告
- errors类型: array (object | null)[] | null
资源错误
- column类型: integer | null
发现错误的列
- line类型: integer | null
发现错误的行
- message类型: string | null
错误的文本消息:可能的 HTML 错误完整列表可在此处找到
- status类型: integer | null
_code 通用状态码,完整响应码列表见此处。注意:我们强烈建议设计必要的系统来处理相关的异常或错误情况
- warnings类型: array (object | null)[] | null
资源警告
- column类型: integer | null
发现错误的列
- line类型: integer | null
发现错误的行
- message类型: string | null
错误的文本消息:可能的 HTML 错误完整列表可在此处找到
- status类型: integer | null
_code 通用状态码,完整响应码列表见此处。注意:我们强烈建议设计必要的系统来处理相关的异常或错误情况
- server类型: string | null
服务器版本
- size类型: integer | null
资源大小,表示指定页面的字节大小
- status类型: integer | null
_code 通用状态码,完整响应码列表见此处。注意:我们强烈建议设计必要的系统来处理相关的异常或错误情况
- total类型: integer | null 格式: int64
_dom _size 页面的 DOM 总大小
- total类型: integer | null 格式: int64
_transfer _size 压缩后的页面大小,表示指定页面的压缩后大小
- url类型: string | null
页面 URL
- url类型: integer | null
_length 页面 URL 长度(字符数)
- similarity类型: integer | null
Integer numbers.
- total类型: integer | null 格式: int64
_count 重复页面的总数
- url类型: string | null
指定页面的 URL
- items类型: integer | null 格式: int64
_count 结果数组中的条目数
- result类型: integer | null 格式: int64
_count result 数组中的元素数
- status类型: integer | null
_code 任务的状态码 由 DataForSEO 生成,范围如下:10000-60000 完整响应码列表见此处
- status类型: string | null
_message 任务的信息性消息 完整的一般信息性消息列表见此处
- time类型: string | null
执行时间,秒
- 类型: integer | null 格式: int64tasks
_count tasks 数组中的任务数
- 类型: integer | null 格式: int64tasks
_error tasks 数组中返回错误的任务数
- 类型: string | nulltime
总执行时间,秒
- 类型: string | nullversion
API 的当前版本
application/json - 400
无法处理该请求。请检查请求参数。
- 401
需要有效的 Felo API 密钥。
- 402
由于未满足计费要求,请求无法继续。
- 403
该账户无权执行此操作。
- 429
已达到请求或支出限额。
- 502
服务无法完成该请求。
- 503
API 或计费服务暂时不可用。
- 504
服务在处理请求时超时。
- default
错误响应;上游透传响应可能采用提供方格式
application/json
curl https://openapi.felo.ai/v1/beta/dataforseo/on_page/duplicate_content \
--request POST \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer YOUR_SECRET_TOKEN' \
--data '[
{
"id": "07281559-0695-0216-0000-c269be8b7592",
"url": "https://www.etsy.com/"
}
]'
{
"version": null,
"status_code": null,
"status_message": null,
"time": null,
"cost": null,
"tasks_count": null,
"tasks_error": null,
"tasks": [
{
"id": null,
"status_code": null,
"status_message": null,
"time": null,
"cost": null,
"result_count": null,
"path": [
null
],
"data": null,
"result": [
{
"crawl_progress": null,
"crawl_status": {
"max_crawl_pages": null,
"pages_in_queue": null,
"pages_crawled": null
},
"items_count": null,
"items": [
{
"url": null,
"total_count": null,
"pages": [
"[Max Depth Exceeded]"
]
}
]
}
]
}
]
}