AI 爬虫可达性严重权重 3
AI 爬虫未被 robots.txt 屏蔽
crawlability/ai-crawlers-allowed为什么这条重要
GEO 的前提条件。屏蔽了 AI 爬虫,内容就不会进入模型语料或实时检索结果,站内其他优化全部作废。这类屏蔽常来自 CDN 的默认模板,站点所有者往往并不知情。
怎么修
具体适用哪条建议,取决于评估的实际发现。标签是触发该建议的条件。
blocked在 robots.txt 中为这些 user-agent 显式放行需要被收录的路径。若屏蔽是 CDN(Cloudflare、Akamai 等)的“AI 爬虫防护”默认开启的,需要在 CDN 控制台关闭。
检查你自己的页面
跑一次免费评估,看看这些规则里你的页面已经满足了哪些。
免费评估一次