首页 / AI 爬虫 / Google-CloudVertexBot

Google-CloudVertexBot

运营方Google
用途其他
遵守 robots.txt遵守
来源官方文档 ↗

应网站所有者的请求抓取,用于搭建 Vertex AI Agents。写给它的 robots.txt 规则只影响这类由站长发起的抓取。

屏蔽后会怎样

你(或你授权的人)用 Vertex AI Agents 搭建基于本站内容的智能体时,抓取会受限;不影响 Google 搜索。

robots.txt 写法

屏蔽:

User-agent: Google-CloudVertexBot
Disallow: /

显式放行(当有更宽的规则拦了其他机器人时有用):

User-agent: Google-CloudVertexBot
Allow: /

官方原文

Crawling preferences addressed to the Google-CloudVertexBot user agent affect crawls requested by the site owners' for building Vertex AI Agents.Google 文档,核对于 2026-11-04

Google 的其他爬虫

Google-Extended
Google

独立的控制 token,不单独发请求:控制 Google 抓到的内容能否用于训练未来的 Gemini 模型,以及用于 Gemini Apps / Vertex AI 的 grounding。

Googlebot
Google · 搜索引擎

Google 搜索主爬虫,自动抓取时总是遵守 robots.txt。

Google-CloudVertexBot 能访问你的网站吗?

免费,无需注册。我们以 18 种不同身份请求你的首页,告诉你每个请求拿到了什么。