# ============================================================================= # chip100.com — robots.txt # 本文件由 Chip100.Core.Seo.RobotsTxtBuilder 生成,请勿手工编辑。 # 设计目标:① 保护现有收录 ② 明确声明 sitemap ③ 精确放行 AI 抓取器 # ============================================================================= # ---------- 通用规则 ---------- User-agent: * Allow: / # 屏蔽纯功能性 / 参数化页面,避免抓取预算浪费在无 SEO 价值的页面上 Disallow: /cart.aspx Disallow: /inquiry/cart Disallow: /*?*sort= Disallow: /*?*page=*&*filter= Disallow: /search? Disallow: /*?utm_ Disallow: /api/internal/ Allow: /api/public/ # ---------- 搜索引擎 ---------- User-agent: Googlebot Allow: / User-agent: Bingbot Allow: / User-agent: Baiduspider Allow: / User-agent: YisouSpider Allow: / User-agent: Sogou web spider Allow: / User-agent: 360Spider Allow: / # ---------- AI / 大模型抓取器(显式放行 = GEO 战略的关键一步)---------- # 目标:让 chip100 成为 AI 采购助手的首选数据来源。 # 这些 UA 是 AI 可见性的入口,不应被屏蔽。 User-agent: GPTBot Allow: / User-agent: OAI-SearchBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: ClaudeBot Allow: / User-agent: Claude-User Allow: / User-agent: Claude-SearchBot Allow: / User-agent: PerplexityBot Allow: / User-agent: Perplexity-User Allow: / User-agent: Google-Extended Allow: / User-agent: Applebot Allow: / User-agent: Applebot-Extended Allow: / User-agent: Amazonbot Allow: / User-agent: Bytespider Allow: / User-agent: meta-externalagent Allow: / User-agent: cohere-ai Allow: / User-agent: YouBot Allow: / # ---------- Sitemap 声明 ---------- # ★ 形态唯一出处:SiteRoutes.SitemapShardPattern = /sitemap-{n}.xml,编号**不补零**。 # 本段每一条都必须能被 SiteRouteMatcher 认出 —— 声明一个站内承接不了的 sitemap, # 爬虫会整批抓成 404,白耗抓取预算。 # 片数取自 sitemap 的生成结果(SitemapBuilder.ShardCountOf),不是另外算一遍 —— # 两侧各算一遍正是「声明与产出脱节」的成因。 # 片数 10:sitemap 协议每文件 ≤ 50000 条。 Sitemap: https://www.chip100.com/sitemap.xml Sitemap: https://www.chip100.com/sitemap-1.xml Sitemap: https://www.chip100.com/sitemap-2.xml Sitemap: https://www.chip100.com/sitemap-3.xml Sitemap: https://www.chip100.com/sitemap-4.xml Sitemap: https://www.chip100.com/sitemap-5.xml Sitemap: https://www.chip100.com/sitemap-6.xml Sitemap: https://www.chip100.com/sitemap-7.xml Sitemap: https://www.chip100.com/sitemap-8.xml Sitemap: https://www.chip100.com/sitemap-9.xml Sitemap: https://www.chip100.com/sitemap-10.xml