大神觀點 · 趨勢觀察 （原發 2026 年 8 月 18 日）
本篇出自 2026年9月5日 晨報
Arvind Narayanan 是普林斯頓大學電腦科學教授、《AI Snake Oil》共同作者。他分兩則長文解釋文字浮水印的機制，補上這條線此前缺的那一環：「The watermark doesn't introduce new randomness; it hides in the randomness that already existed in the distribution of responses to a given prompt. If the output distribution for a given prompt doesn't have enough variation, there will simply be no detectable watermark.」浮水印不製造新的隨機性，它藏在同一個提問的回應本來就有的隨機性裡；輸出的變化不夠時，根本就不會有可偵測的浮水印。他並更正一個普遍誤解：這不是長度的問題，是隨機量的問題，長度只是與之相關（Arvind Narayanan，2026-08-18）。他認可的一個例子把後果講得最白：要求模型照嚴格格式輸出 JSON，剩下可以抽樣的變化幾乎為零，浮水印沒有東西可以附著。對法遵與技術主管的推論就在這裡。 涵蓋範圍聽起來像由法規與公司政策決定，依機制它其實是一條物理邊界：消費端的長篇文字天生變化大，是浮水印最有效的區間；企業產線那些嚴格格式的輸出恰好在另一端，結構上載不了標記。同一項規定對這兩群人的實際約束力可能差一個量級。⚠️ 這條機制解釋沒有實驗數字，也沒有碰到任一家的實際做法細節。本報手上唯一有數字的錨是史丹佛團隊 2023 年那篇實測：對典型使用者指令的回應，中位長度約 100 個 token，只有約 25% 可偵測（Kuditipudi 等，arXiv 2307.15593）。token 是模型計算文字長度的單位，一個 token 通常比一個字小。⚠️ 而「企業產線的輸出大多變化很小」這一句沒有量測支撐，是本報從產線常識推的。把問題從「這家的模型有沒有浮水印」換成「我們產線的輸出有多少變化」，後者是你可以自己量、可以據以分流的工程問題。
只留 email，隨時退訂。這是我們唯一想請你做的事。
Sebastian Raschka 是長期寫深度學習架構解說的技術作者，經營電子報《Ahead of AI》，與模型廠商沒有利害關係（Ahead of AI，2026-09-09）…
Evan Hubinger 是 Anthropic 對齊科學團隊的負責人；對齊是一個研究領域，目標是讓 AI 系統的行為符合人類意圖與價值。9 月 8 日他回應一名剛離職同事的長文…
對企業採購方來說，它影響的是「供應商對自己產品風險的內部評估」這一欄，而那一欄平常只能靠猜測。本報收的是「Hubinger 這樣說」，不是那個機率數字本身。 ⚠️ 那是他個人的主觀…
Zvi 9 月 7 日逐字寫：「Jakub Pachocki flat out says that no one is at a place where it would be r…