跳转到内容

JavaScript 渲染与 AI 爬虫

简明回答

Googlebot 用无头 Chromium 渲染 JavaScript。Vercel 和 MERJ 2024 年 12 月的研究发现,OpenAI、Anthropic、Perplexity 等主要 AI 爬虫不执行 JavaScript。2025 年 10 月的一项测试发现,实时抓取页面的三个助手中,只有 Gemini 会执行 JavaScript。客户端渲染才出现的内容,其他爬虫可能看不到。

在 searchVIU 的测试中,ChatGPT 和 Gemini 的表现与 2024 年 12 月的发现一致。这两项都是单项研究:前一项已近两年,后一项只用了一个页面、一个问题,文章里还给出了两个不同的运行次数。爬虫行为可能在没有公告的情况下改变。上述公司也都没有在文档中说明其爬虫是否渲染 JavaScript。请把它们当作目前最好的观察结果,不要当作规范。

  • 把主要内容、标题、描述、各级标题和链接放在服务器返回的 HTML 中。
  • 对 Googlebot 以外的爬虫,不要依赖 JavaScript 注入结构化数据、canonical 标签或 noindex。在 searchVIU 的测试中,实时抓取页面的助手即使在 HTML 中也没有使用 JSON-LD(结构化数据与 AI 搜索)。
  • 检查爬虫实际收到的内容。在不执行 JavaScript 的情况下获取页面(curl -A "OAI-SearchBot" …),再与用户看到的内容对比。

每个页面在构建时预渲染为静态 HTML,搜索、筛选和主题切换都是在此之上的增强。每个条目还有 Markdown 版本(/路径.md),智能体无需 HTML 或 JavaScript 即可获得相同内容。

参考来源

  1. Understand JavaScript SEO basicsGoogle Search Central · official · ✓ 2026-10-25
  2. The rise of the AI crawler (17 Dec 2024)Vercel & MERJ · industry · ✓ 2026-10-25
  3. Schema Markup and AI in 2025: What ChatGPT, Claude, Perplexity & Gemini Really See (2 Dec 2025)searchVIU · industry · 尚未核实
  4. AI features and your websiteGoogle Search Central · official · ✓ 2026-10-24