AI Readable
← 全部规则
AI 爬虫可达性严重权重 3

AI 爬虫未被 robots.txt 屏蔽

crawlability/ai-crawlers-allowed

为什么这条重要

GEO 的前提条件。屏蔽了 AI 爬虫,内容就不会进入模型语料或实时检索结果,站内其他优化全部作废。这类屏蔽常来自 CDN 的默认模板,站点所有者往往并不知情。

怎么修

具体适用哪条建议,取决于评估的实际发现。标签是触发该建议的条件。

  • blocked

    在 robots.txt 中为这些 user-agent 显式放行需要被收录的路径。若屏蔽是 CDN(Cloudflare、Akamai 等)的“AI 爬虫防护”默认开启的,需要在 CDN 控制台关闭。

检查你自己的页面

跑一次免费评估,看看这些规则里你的页面已经满足了哪些。

免费评估一次

在你的站点上试一试

AI 爬虫可达性 的其他规则