搜索引擎、AI 问答引擎、RSS 阅读器、商品目录及链接预览系统可以通过 HTML、结构化数据、feeds、sitemap 和 llms.txt 发现相同的公开目录事实。
爬虫访问不会获得特殊的排名内容:公开的 HTML、结构化数据、feeds、sitemap 和 llms.txt 所描述的商品、政策和教学资源与展示给用户的内容一致。
可检索的文件
- Sitemap 索引: /sitemap-index.xml
- Robots 政策: /robots.txt
- AI 可读地图: /llms.txt
- 商品 feeds: /feeds/products.json, /feeds/products.xml, /feeds/products.csv
- 指南 feeds: /feeds/articles.xml, /feeds/articles.json