モデルの読み · 方法論 トレンド観察
この記事の出典 2026年8月5日 夕刊
Teortaxes は DeepSeek の 2024 年の末の V3 のモデルについての公式の開示に、2 つの経路で検算を掛けている。ハードの経路(カードの枚数 × 1 枚あたりの実効の計算量 × 秒数)と、モデルの経路(動くパラメータ × 学習のデータの量 × 標準の係数)をそれぞれ 1 回ずつ計算し、両側の差は 14% であり、一部の演算がなお遅い精度を通っていることで説明が付くとして、おおむね合うと判じている(Teortaxes、07-21)。本紙は彼の 2 本の式を計算し直して誤りが無いことを確かめ、さらに彼がやっていない 3 本目を自分で足した。2048 枚 × 24 時間 × 55 日=およそ 270 万 GPU 時間であり、V3 の技術報告が自ら開示したおよそ 266 万との差は 1.5% である——独立に合った。「55 日」は帳尻合わせではない。だからどの研究所が「X 枚のカード、Y 日、Z のデータ量」を出してきても、両側をそれぞれ 1 回計算すればよい。合わなければ、言っていないものがある。非公開の情報は 1 つも要らない。切り分けはそのまま写す。これが証明するのは「最後のあの 1 回の学習についての開示の数字が自分と整合する」ことであって、「DeepSeek にこれ以上のカードが無い」ことではない。その組織の全体の保有量についての外部のより高い推計は、これと完全に両立する。2 つは別の話であり、混ぜてはならない。
下の一件はプレプリントではなく、中核の 1 点目で使ったあの測定の付録に載っていた読みの一組になる。単独で取り出すのは、使いどころが中核のそれとは違うからだ。
あの測定が使った道具は他人のものになる。CoT-Control という評価で、やり方は問題に「小文字だけで考えよ」「考えるあいだ、ある語を使うな」といった指示を足し、推論の軌跡がそ…
下の一件は arXiv のプレプリントではなく、ある研究チームが自社のブログで自分たちの論文を説明したものになる。同じ種類の材料がもう一つあるが、そちらは上のそのほかに起きたことの…
Multiverse Computing の CAI チームが Hugging Face で自分たちの論文を説明した。公開されている三つの安全指標をまたいで、危険な応答の率は 26…