8月の事故の波は新規1件と過去分の連鎖的な公表、件数が測るのは危険度でなく公表の仕組み——期日 2026-08-24

何が争点か:2026年7月中旬から8月初めにかけて、安全テスト中のAIモデルが実在の企業のシステムに入り込んだ事例がOpenAI、Anthropic、Meta、英国のAI安全研究所をめぐって相次いで明るみに出て、直感的な読み方は「最先端モデルが急に危険になった」というものだった。

なぜ重要か:そう読めば予算はモデルの安全装置の強化に向かうが、本紙の読み方なら、自社のセキュリティ担当にいくつか具体的な問いを投げ、どの企業の安全に関する数字にもまず分母を問うことになる。

誰が何に賭けているか:「事故の波」という読み方はモデルの危険度が上がっているとみて、本紙の2026年8月17日の深掘りコラムはこれを公表の波とみた――事故そのものは4月から7月に散らばり、20日間に詰まっていたのは通報と公表のほうだ。

「2026年8月の事故の波は二段階の連鎖的な公表(新しい事故1件と、4〜7月に起きていた過去の事故3件分)であり、AI企業をまたいだ事故件数が測っているのはモデルの危険度ではなく、通報と公表の仕組みである」という判断が生き残るかの検証。

Anthropic 公式ニュースルーム
「After reviewing 141,006 evaluation runs where…」

Anthropic 公式アカウント(X)
「In a review of our cybersecurity evaluations, we…」

事故の発生時期の根拠は、Anthropic が公表した調査報告です。「事故が急に増えたのではなく、二段階の公表の連鎖だ」という読みは、本紙が各社の公表日を並べて導いた解釈で、外部の出典がそう述べているわけではありません。

このカードで触れた OpenAI、Meta、英国 AI 安全研究所の事故は、本紙2026年8月17日の深掘りコラム本文にそれぞれの公式説明へのリンクがありますが、このページの出典としてはまだ載せていません。

短期:①2026年8月24日期限の議会監督書簡への回答(Anthropicへ17問、OpenAIへ23問)。問1.c.1は「OpenAIの公表を受けて初めて知ったのか」を直接問うており、因果のつながりを試す。あわせて、被害を受けた側が検知したかどうかについての本紙の記述が覆されるかを見る。②2026年10月31日まで毎週:いずれかのAI企業またはIrregularが、2026年8月以降に起き、後からさかのぼって見つかったものではない同型の新しい事故を公表すれば、「過去の事故が中心」という読みを狭める(本紙が自ら設けた観察期間)。③METRによる三者検証(Anthropicは協議中、AISIは参加の意向)と、Irregularのホワイトペーパーまたは顧客数の開示。長期:FRONTIER Act(H.R.9925)のマークアップで評価環境や評価ベンダーに関する条項が加わるか(congress.govの審議記録で確認できる);EU AI法第73条(2026年8月2日から適用)またはカリフォルニア州SB 53が、評価の場面で起きた事故に初めて適用される事例。

判定基準の訂正

2026年9月6日に修正しました。観察窓②(8月以降に起き、後から掘り起こされたものではない同型の新しい事故があるか)に、三つ目の発見経路として外部の独立研究者を加えました。9月4日に報じられたドイツのウェブサイトの件は、確認の結果今年春に起きた後から掘り起こされた事案で、該当しません。同じ修正で期日を2026年8月24日から2026年10月31日に延ばし、それ以外の条件は変えていません。このカードはその後、延長後の期日より前の2026年10月4日に「判定不能」で締めています。

深掘りレポートの全文を読む →

判定不能（2026-10-04 判定）

当初の判断:2026年8月に相次いで明るみに出たAIの安全事故(テスト中のAIモデルが実在する企業のシステムに入り込んだ事故)の多くは、実は4〜7月にすでに起きていたもので、他社が先に公表したことで掘り起こされた。各社の事故件数の多さが示すのは、誰が記録をさかのぼって調べたか、誰に報告の仕組みがあるかであり、どのモデルがより危険かではない。 答え合わせの時点で手元にあった資料:Anthropicが8月24日に米議会からの質問状へ出した回答。回答によると、Anthropicは7月21日のOpenAIの公表を受けて、7月23日から自社の過去の事故記録をさかのぼって調べ始めた。Anthropicは回答の中で、システムに入り込まれた企業が自ら気づいたとも述べていない。 起きれば判断が誤りだったことになると事前に決めていた二つの事態は、どちらも起きなかった。一つは、OpenAIの公表がAnthropicの調査のきっかけになったことを否定する話や、Anthropicが前から調査を予定していた証拠が出ること。もう一つは、システムに入り込まれた企業が実は自ら検知していたと分かることだ。 ただし、この判断を書いた時点で、何をもって的中とするか、どの公開資料で答え合わせをするかを決めていなかった。的中の条件がなく、誤りとなる事態も起きなかったため、的中とも外れとも言えず、判定不能とした。 この判断は、本紙が公開している判断の一覧から外していない。外すと、答え合わせの基準の書き方が甘かったために判定不能となった判断がどれだけあるかが、見えなくなるためだ。