
Google、Microsoft 與 OpenAI 於 10 月 30 日同日公布支援共享 AI 訓練偏好,方向是讓網站以 robots.txt 向多個參與平台表達訓練選擇。香港 SME 現階段不應因公告立即加入未定稿規則;應先分清 AI 訓練、grounding、搜尋展示及抓取權限,再按正式實作通知部署。這不保證任何排名、引用、展示、流量或商業成果。
今次公告改變了甚麼?
由各自規則走向共享訊號
Google 表示計劃支援 IETF AI Preferences 工作組提出的共享 AI training control。網站可在 robots.txt 使用共同 policy token,向參與的 AI provider 表達偏好,減少分別維護訓練規則。OpenAI 亦表示會尊重這個共同訊號,但會在未來數月才公布具體實作詳情。
它仍不是完成的通用標準
Google 的目標是在 2027 年與其他 AI provider 一起支援;Microsoft 則公布 2027 年開始按新偏好生效的安排。這是標準化進展,不代表今天所有平台已用同一方法解讀。現在把草案 token 當成生效指令,可能令管理層誤以為所有平台已採納。
香港 SME 最容易混淆的三個概念
訓練不等於搜尋展示
AI training 是內容是否可用來修改生成式模型的 learned parameters。Google-Extended 是獨立的 robots.txt 控制,不影響 Google Search 納入或排名。OpenAI 也把 GPTBot 與 OAI-SearchBot 的用途分開。禁止訓練,不等於禁止搜尋連結。
Grounding 是另一種內容使用
Grounding 是模型在產生回應時,以網頁資料協助回答。Microsoft 明確把 AI Training 與 AI Grounding 分開,並提供頁面層級的 Allow、DisallowExtended 和 Disallow 選擇。若要停止訓練卻保留某些回應使用可能性,不能簡化為「全面封鎖 AI」;選擇要配合平台定義和授權政策。
Usage preference 不等於 crawl access
Microsoft 特別提醒,新偏好管理的是內容用途,不是 robots.txt 對 Bingbot 的抓取權限。即使表達 Allow,另一條 robots.txt 規則封鎖 crawler,平台仍可能無法讀取頁面。IndexNow 只能通知網址變更,不能保證即時重新抓取或套用偏好。
現在應如何準備而不是搶先改檔?
先保存現有控制清單
企業可先列出 robots.txt 的 Google-Extended、GPTBot、OAI-SearchBot、Bingbot 規則,以及 HTML meta 或 HTTP header 的 noindex、預覽和平台專用控制。每項都應寫明目的:搜尋、訓練、grounding、預覽或機密資料保護。這可避免不同目的的規則互相覆蓋。
待正式實作後再作 production 變更
對沒有明確 AI 授權政策的 SME,最穩妥的做法是先不加入未定稿共享 token,訂閱三個平台的官方更新,再由負責人決定哪些公開內容可用於訓練或 grounding。Microsoft 已列出 2027 年的生效與過渡日期;若現有 NoArchive 或 NoCache,應按官方過渡指引處理。
管理層應怎樣解讀商業影響?
共享訊號可降低跨平台表達偏好的維護成本,不是新的 GEO 排名技巧。維持訓練或 grounding 的可用性,也不會要求平台展示某頁或引用品牌;選擇限制使用,則可能減少某些 AI 生成體驗的內容可見度。香港 SME 應先把公開資料、保密資料和授權條件分層,再按正式文件及變更流程決定。
資料來源
- Google Search Central:Supporting a shared AI training control for websites ↗
- Microsoft Bing:Your content, your choice: clearer preferences for training and grounding ↗
- OpenAI:Making it easier for websites to express AI training preferences ↗
- Google:Common Crawlers and Fetchers — Google-Extended ↗
- OpenAI:Overview of OpenAI Crawlers ↗