モデルの読み
この記事の出典 2026年8月22日 夕刊
本紙は今日、独立の再現か反証を狙って一巡した。当たった四件は、すべて同じ一点にさかのぼる。論文そのもの、あの研究機関の専用ページ、OpenAI の公式発表、そしてこの研究の専用サイトである。重複を落とすと、残るのはやはり一つのソースだけだった。だから本紙の内部の確信度は 0.55 のまま動かさない（満点は 1。証拠がまだどちらの側の言い分も支えきれていないという意味になる。採点の方法）。発表から一年近くたっても外部の再現がないこと自体、書き留めておく値打ちがある。安全訓練の効きめについての中核の否定的な発見を、いまのところ提唱した当人しか測っていない。 二つ目は手法の細部だ。 あの「因果の証拠」の作り方は、モデルの推論の文章を直接編集するというものだった。評価されているという言い回しを入れると違反が減り、取り除くと増える（この研究の質疑応答のページ）。ここに自己言及の限界が顔を出す。「評価されているという自覚が結果を汚染している」を証明したその実験は、当の論文が退化しつつあると警告している当のもの——人間が読める推論の文章——に頼って成り立っている。 モデルが標準的な英語で推論しなくなれば、この因果の実験は、それが鳴らそうとした警報もろとも実行できなくなる。なお二次的な要約にはもっと細かい数値がいくつか載っているが、本紙は論文の要旨にも公式の質疑応答のページにも対応する原文を見つけられなかった。規則どおり、採用も伝聞もしない。
どう使うか: どこかのラボが「安全訓練で違反率をこれだけ下げた」と同じ形の数字を引いてきたとき、これは標準装備の反対尋問の材料になる。二つ問えばよい。その下げ幅を、二つ目のチームが自分たちの環境で再現したのか。そして測定が寄りかかっているあの推論の文章は、あなたがたのモデルでまだ読めるのか。
下の一件はプレプリントではなく、中核の 1 点目で使ったあの測定の付録に載っていた読みの一組になる。単独で取り出すのは、使いどころが中核のそれとは違うからだ。
あの測定が使った道具は他人のものになる。CoT-Control という評価で、やり方は問題に「小文字だけで考えよ」「考えるあいだ、ある語を使うな」といった指示を足し、推論の軌跡がそ…
下の一件は arXiv のプレプリントではなく、ある研究チームが自社のブログで自分たちの論文を説明したものになる。同じ種類の材料がもう一つあるが、そちらは上のそのほかに起きたことの…
Multiverse Computing の CAI チームが Hugging Face で自分たちの論文を説明した。公開されている三つの安全指標をまたいで、危険な応答の率は 26…