モデルの読み · 今週 （論文の公開 2026 年 8 月）
この記事の出典 2026年8月29日 夕刊
米国のノースイースタン大学（Northeastern University、ボストンにある研究型の大学）の研究者 4 人が 8 月、ROBBIN という名前の論文をプレプリントのサーバー arXiv に置いた(原文、2026 年 8 月;本紙が読んだのは、半導体の業界媒体 Semiconductor Engineering が 8 月 29 日に出した要約になる、原文、08-29)。
先に Rowhammer が何かを書く。十数年前から知られているメモリへの攻撃の手口だ。メモリのある行を高速で繰り返し読み書きすると、物理的に隣り合う行でビットが反転する。権限のないところで他人のデータを書き換えられることになる。そして新しいのは、この論文の順番になる。 これまでのやり方は、まずハードウェアに依らない裏口を設計し、それをビットの反転でどう実現するかを後から考えるもので、うまく反転しなかった部分は副作用として扱われた。この論文は逆をやる。まず対象のメモリがどの位置で反転するかを測り、その地図のとおりに、モデルの重みをどのページへ置くかを決める。要約の原文は反転の一つひとつを「an integral part of the attack design」(攻撃の設計に欠かせない一部)と呼んでおり、こうして作った裏口は機器をまたいでも保つと著者は主張する。
⚠️ 正直な境界を書き切る。これはプレプリントで、査読を通っていない。本紙が読んだのは要約だけで全文は読んでおらず、独立した再現も見ていない。要約にある二つの略語(ASR と TA、この種の研究では通常、攻撃成功率と、通常の作業の正確さを指す)は数字が一つも出ていない。だから「この手口が実際どれだけ効くのか」は今日答えられない。
これはあなたにとって: 推論の容量を買うときに、質問を一つ足すことになる。借りたその GPU は、メモリを誰と共有しているのか。自分で見張れる拠り所: 別のチームが別のハードウェアでこの結果を再現するかどうか。再現が出るまで、これは可能性の実演であって、外で実際に起きていると分かっている危険ではない。
下の一件はプレプリントではなく、中核の 1 点目で使ったあの測定の付録に載っていた読みの一組になる。単独で取り出すのは、使いどころが中核のそれとは違うからだ。
あの測定が使った道具は他人のものになる。CoT-Control という評価で、やり方は問題に「小文字だけで考えよ」「考えるあいだ、ある語を使うな」といった指示を足し、推論の軌跡がそ…
下の一件は arXiv のプレプリントではなく、ある研究チームが自社のブログで自分たちの論文を説明したものになる。同じ種類の材料がもう一つあるが、そちらは上のそのほかに起きたことの…
Multiverse Computing の CAI チームが Hugging Face で自分たちの論文を説明した。公開されている三つの安全指標をまたいで、危険な応答の率は 26…