AIが化学データベースの数十年前の誤りを発見とNatureが報道　科学の「監査役」になるAIの実力と限界【海外の反応・解説】

Table of Contents

今回の記事の重要ポイント（三点）

・2026年8月、機械学習モデルの沸点予測が化学の参照データベースの値と食い違い、元の文献を確認したところデータベース側が間違っていたとNatureが報じた。

・参照データを機械で検算する試みには前例があり、2011年にはニューラルネットワークでハンドブックの沸点を検算し、誤りを指摘した研究が出版されている。

・AIは科学の誤りを見つける側であると同時に、存在しない引用文献を作り出す側でもある。焦点は「AIか人間か」ではなく、見つけた誤りを確定し、訂正まで届ける仕組みに移りつつある。

AIの予測と食い違った沸点データ、間違っていたのは人間側の記録だった

英科学誌Natureは2026年8月6日、AIモデルをきっかけに、化学の参照データベースに長年残っていた誤りが見つかったと報じた。中国・杭州の研究機関、之江実験室の理論化学者セバスティアン・ピオス氏が機械学習モデルで分子の沸点を予測したところ、広く使われてきた参照値と一致しなかった。

ピオス氏は当初、モデル側の誤りを疑った。しかし元の文献までさかのぼって確認した結果、間違っていたのは参照データベースの側だったと報じられている。見つかった誤りには、古い論文の誤植や、約100年前に行われた測定の誤りが含まれるという。誤りの件数や、対象となったデータベースの名称は記事では明らかにされていない。

Natureは記事の副題で、この技術が数十年前の論文や参照データベースの誤りの発見に力を発揮しつつあるとしている。一方で、この検証作業をまとめた研究論文は8月30日時点で公開されておらず、使われたモデルや誤りの件数を含め、事例の詳細は報道の範囲にとどまっている。

87年未解決のヤコビアン予想をAIが反証　「発見」はだれの仕事になるのか【海外の反応・解説】

OpenAIとAnthropicのAIが実在企業をハッキング　「暴走」ではなく命令に忠実すぎた事故の全貌【海外の反応・解説】

誤りが数十年生き残る仕組みと、15年前からあった機械の検算

沸点の数値は、化学の作業の土台になっている

沸点は「その物質が何であるか」を確かめる基本的な手がかりです。化学者は未知の物質を特定するときや、混ざり合った液体を沸点の差で分ける蒸留という操作を設計するときに、ハンドブックやデータベースに載っている沸点の値を参照します。

こうした参照データ集は、過去の論文で報告された測定値を集めて編さんしたものです。研究者が毎回自分で沸点を測り直すことはなく、「信頼できる本に載っている値」をそのまま使います。参照データは、いちいち疑わなくてよいことに価値がある存在です。

なお、沸点は圧力や試料の純度といった測定条件によって変わる数値です。予測値と記載値が食い違っても、それだけでは条件の違いなのか誤りなのかは決められません。食い違いは疑いの入口にすぎず、確定には元の文献の確認が要ります。

誤りは「引用の連鎖」に乗って生き残る

だからこそ、最初の入力に誤りがあると長く残ります。ある論文の測定値や誤植がデータ集に採録され、データ集の値がデータベースに収録され、その値を後続の論文が引用する。この連鎖のどこかで元の論文まで戻って確かめる人がいなければ、誤った数字が権威を持ったまま流通し続けます。

これは科学がいい加減だという話ではありません。世界の学術論文は年に数百万本の規模で増えており、すべての数値を常時測り直すことは人手では不可能です。科学は「他人の結果を信頼して積み上げる」仕組みで速度を出してきました。その信頼の分だけ、まれに紛れ込んだ誤りの寿命も延びます。

訂正が伝わりにくいという事情もあります。仮に元の論文の誤りが見つかっても、その値をすでに採録したデータ集や、引用してしまった後続の論文に訂正が自動で届く仕組みはありません。誤りの発見と、流通している誤りの回収は別の作業です。

機械による検算は、15年前から行われていた

参照データを機械で検算する発想自体は、今回が初めてではありません。2011年に出版された論文は、ニューラルネットワークの予測値とハンドブックの記載値を突き合わせて元素の沸点や蒸発エンタルピー（気体になるときに必要な熱量）を検算し、物性表に10〜900％の食い違いがあることを示しました。

機械の予測値を、既存の参照値を疑う手がかりとして使うという発想は、今回の事例と重なります（2011年の対象は元素、今回は分子と報じられています）。

化学の外でも同種の試みは続いてきました。

年	取り組み	方法	見つかったもの
2011年	ハンドブックの元素データの検算	ニューラルネットの予測と記載値の突き合わせ	物性表に10〜900％の食い違い
2015年	心理学論文の統計値を大規模自動チェック（statcheck）	論文中の統計値の自動再計算	統計的検定を使う論文の約半数に少なくとも1件の不整合
2021年〜	問題論文スクリーナー（トゥールーズ大学）	不自然な言い換え表現の自動走査	2021年公開分だけで1,500本超を問題論文の候補として検出

（各研究の公表資料から作成。対象と分母が異なるため件数どうしは比較できない。2026年8月30日時点）

機械による誤り探しの道具は、生成AIの登場前から積み重ねられてきました。今回の出来事は、その系譜の最新の一例にあたります。

海外の反応

このニュースを扱ったスレッドは意外なほど少なく、まとまった議論が起きていたのはAI論文解析ツールを手がける企業のコミュニティに立った一本だけでした。売り手の側から出た話題ではありますが、集まったコメントは歓迎一色ではなく、「AIに向いた仕事だ」という賛成と「その誤検出を誰が確かめるのか」という慎重論が正面からぶつかっています。

AI agents are now finding errors that sat in scientific papers for decades. Should journals start using AI to audit old literature?
byu/scispace_ inSciSpaceFellow

以下はスレッド内のユーザーコメントの抜粋・翻訳です。

これこそAIの使いどころだと、ずっと言ってきた。人間がやるととてつもなく時間を食うのに、出てきた結果の正しさは簡単に確かめられる。大量の論文をAIが通しで読んで、怪しい箇所に印を付ける。それを人が後から見ていく。それなら文句はない。

よし。次は医学をやってくれ。医学の文献に5％から50％の誤りが眠っていても、まったく不思議ではない。まずは記述の食い違いを洗うところからでいい。そこから先へ進めばいい。

AIは整合性のチェックも日付の突き合わせも、かなり苦手だと思うが。

ふむ。もし論文を支えているデータそのものが出鱈目だったら、AIには誤りを見つけようがないのでは。

失礼、私としたことが。研究者がデータをいじるなんて、あるわけがなかった。

「だが、そうしたAIによる事実確認ツールは、科学の集積を裁く審判としてはいまだ信頼できない」。ノルウェーの計算機科学者の言葉だ。これがSF小説の一文なら、荒唐無稽すぎて現実味がないと切り捨てるところだ。実に素晴らしい。

私の分野、つまり計算機アーキテクチャについてしか言えないが、答えは「いいえ」だ。土台になっている論文はどれも後続の研究に使われてきたし、直接にせよ間接にせよ何度も検証を通っている。

影響力の小さい研究では役に立つかもしれないし、「ある考えは成り立たない」と示された箇所が実は成り立っていた、という取りこぼしを拾えるかもしれない。だが、みんなが何年も頼りにしてきたものが、これでひっくり返ることはない。

それは分野によってずいぶん違う。追試されていない、そして追試のしようがない科学は山ほどある。ただ、別の人も指摘していたとおり、研究が進歩した結果の書き換えと、単なる粗悪な研究とを分けて考える必要はある。

この話は前提が抜け落ちている。投稿された記事を実際に読むと、扱われているのは非常に古い論文の食い違いを見つけた話だ。現在進行中の研究を検証できるという話ではない。

例として挙がっているのは、古い沸点の測定値に混じった打ち間違いで、それが参照用データベースに取り込まれていた。記事によればこの誤りは「一部の研究者をかなり困らせた可能性が高い」という。それはおそらく本当だろう。ただ、当時の人たちも誤りには気づいて自分で直したはずで、元の論文の側が直されなかっただけだ。つまりAIがやったのは、みんなが薄々知っていた数十年前の間違いを指差したことだけだ。

AIがその誤りのいくつかを幻視しているか、あるいは「数十年前の」論文が単に古い研究で、新しい研究ですでに修正済みなだけだろう。

科学の世界には間違いも不正も山ほどある。全部見つかるべきだ。しかし問題はいつもと同じ、AIである。大規模言語モデル（文章生成AIの中核技術）は、厳しく制御して監督しないと大量に間違える。しかも実際には誤りでないものを「見つけた」ことにしてしまい、扱いを誤れば誰かの経歴や人生に取り返しのつかない傷を残しかねない。

科学の訓練を受けていない人が使うと、何も見つけていないのに「見つけた」と思い込んでしまうのが厄介だ。しかもAIは相手に合わせて同じ話を返してくるだけだから、そのまま深みにはまっていく。私としては、公教育をきちんとして、科学がどう進むのか、本物と偽物をどう見分けるのかを理解できる人を増やすほうがいいと思う。

おまけとして、AIは今まさに、これから数十年居座ることになる誤りを科学論文の中に作り込んでもいる。ついでに、人間の査読者が面倒がって中身を見ないせいで通ってしまう、まるごと捏造の論文もだ。

過去に焦点を当てても仕方がない。AIがあろうとなかろうと、研究の目的はただ一つ、理解を深めて新しいものを見つけることに尽きる。

AIが人間の誤りを見つける話の裏側では、AIが誤りを作り込む話が数か月前に大きく広がっていました。生成AIが作り出した、存在しない引用文献が学術論文に紛れ込んでいるというNatureの分析を扱ったスレッドです。

Hallucinated citations are polluting the scientific literature. What can be done? – Tens of thousands of publications from 2025 might include invalid references generated by AI, a Nature analysis suggests.
byu/polymute intechnology

以下はスレッド内のユーザーコメントの抜粋・翻訳です。

AI以前、引用文献はどれくらい厳密に確かめられていたのだろうか。そこが気になってくる。

確かめられていたのは一部だけだ。査読は「片手間の仕事」で、査読者には何も返ってこない。時間と労力を注いでも、功績にならず、経歴にも残らず、報酬も出ない。誰もそこまで時間をかけないのは当然だ。

おまけに、たいていの論文には40から80の参照文献があり、その多くはせいぜい一文か二文しか関係していない。全部に当たって確かめるなど誰もやらない。単純に無理なのだ。自分の専門の範囲内なら間違いはすぐ分かる。だが論文の中に、大きいにせよ小さいにせよ、自分の専門から外れた部分がある。

この仕組みはほとんどの部分で、著者が誠実に振る舞い、最善を尽くし、もう出せると思ったものを出してくる、という前提の上に成り立ってきた。まともな学術誌ではその前提はおおむね正しかった。著者がそれをやめるなら、学術誌の側が入り口を高くするしかない。いまの査読に関門の役目を期待するのは現実的ではない。

出典は私自身だ。年に何本も論文を書き、何本も査読している。

査読を頻繁にやっている身として言えば、参照文献を全部確かめる時間はない。この種の地味な作業は本来、学術誌の側がやるべきだ。金を受け取っているのは彼らだけなのだから。

参照文献が実在するかどうかを機械で調べるのは、難しくないはずだ。

問題は、AIが実在する論文を、間違った文脈で使ってくることだ。記事の最初の例がまさにそれだ。今年に入って、計算機科学者のギヨーム・カバナックのもとに、自分の論文が国際歯科学雑誌に引用されたという通知が届いた。捏造論文の発見を扱う彼の研究が歯科と交わることは、まずない。

幻覚を起こさない大規模言語モデルなど存在しない。原理的にも定義の上でも、それは不可能な話になる。

誤りを見つけるAIと、誤りを作るAIの間で

「監査」は予測の副産物として生まれた

今回の事例で注目したいのは、AIが科学の誤りを探しに行ったのではないという点です。Natureの見出しは「AIエージェント」ですが、同誌のリード文が書いているのは「AIモデル」が明らかにしたという事実で、経緯も「沸点を予測していたら参照値と食い違った」という流れです。誤りの発見は、予測モデルを作る作業の副産物でした。

それでも、この副産物には構造的な理由があります。人間の研究者が一日に読める論文の数には限りがあり、過去100年分の文献と数百万件の数値を突き合わせることはできません。機械は同じ照合を疲れずに繰り返せます。AIの強みは天才的な洞察ではなく、人間には不可能な規模で突き合わせを行える物量にあります。

その意味で、今回の新しさは道具そのものにはありません。補足説明で見たとおり、機械による検算は15年前に行われています。変わったのは、この照合を回せる規模と、次に見る「機械自身が作り出す誤り」の量です。

同時に、確定させたのは人間だったという点も動きません。モデルが示したのは「合わない」という信号だけで、どちらが間違っているかを決めたのは、原典の文献まで戻って確かめたピオス氏の側です。機械が候補を絞り、人間が確定する。この分業の型は、7月に扱った「AIが87年未解決の数学の予想を反証した」事例とも共通しています。あちらが新しい結論を出す側の話だとすれば、今回は過去の記録の品質を洗い直す側の話です。

AIは誤りを見つける側であり、作る側でもある

裏側では、AIが科学文献に新しい誤りを注ぎ込んでいます。代表例が、生成AIが作り出したと推定される「存在しない引用文献」です。もっともらしい著者名と論文名を持つのに実在しない参照が、実際の論文やプレプリント（査読前の公開論文）に紛れ込み始めています。

その規模の推計は、調査によって大きく割れています。

調査	対象	実在しない引用の検出数
2026年5月のプレプリント	論文250万本・引用1億1100万件	2025年分だけで約14万7000件（保守的な推計）
米コロンビア大学のチームの調査（2026年5月・医学誌ランセット掲載）	論文200万本超・引用9700万件	約4,000件（論文2,800本）

（各調査の公表資料・報道から作成。何を「存在しない引用」と数えるかの基準や対象が異なるため、数字どうしの単純な比較はできない。2026年8月30日時点）

ほぼ同じ規模の母集団を調べながら、検出数には30倍を超える開きがあります。数え方の基準も対象も異なるためで、AIが作り出す誤りの規模は、まだ確定した数字を持ちません。AIが人間の誤りを見つけ、人間がAIの誤りを確かめ、その確認作業をまた別の自動チェックが手伝う。相互監査と呼ぶべき構図が、すでに科学出版の現場で始まっています。

「誤りを見つけるAI」自体の成績は、まだ安定していない

では監査役としてのAIの実力はどうか。2025年5月に公開されたSPOTというベンチマーク（性能測定用の共通テスト）は、正誤表や撤回につながった重大な誤り91件を含む論文83本をAIに検査させました。

結果は厳しいものでした。当時の最先端モデルでも再現率21.1％・適合率6.1％を超えられず、同じ検査を繰り返しても同じ誤りを再発見できないことが多いと報告されています。この評価の条件では、AIが誤りとして挙げた候補のうち本当に誤りだったものは6.1％で、指摘の9割以上は正解ではありませんでした。誤った指摘が研究者の経歴を傷つける危険を考えると、この精度のまま「AIに科学を裁かせる」ことはできません。

一方で、対象を絞れば成績は大きく変わります。スタンフォード大学のチームが2025年12月に公開した検査ツールの研究は、数式・計算・図表のような客観的に正誤が決まる誤りだけに対象を限定しました。人間の専門家が指摘316件を検証したところ、83.2％が実際の誤りでした。差を生んだのはAIの能力というより、何を監査させるかという設計です。

2026年6月にはGoogleの査読支援ツールが、SPOTのうち数学的な誤りの検出で、単発のゼロショット推論（追加の工夫なしに一度だけ答えさせる方式）と比べて再現率を34％改善したと報告しました。評価の条件が違うため、これらの成績を横並びには比べられません。それでも、解釈や新規性の判断には踏み込まず、答え合わせが可能な誤りに絞るという設計は共通しており、これが現時点での現実的な使いどころです。

見つけた誤りを、誰が直すのか

検出の自動化に比べて、訂正の経路は整備が遅れています。今回の報道でも、指摘された参照データベースの誤りが訂正されたのかどうかは伝えられていません。

一方で、米国立標準技術研究所（NIST）の化学データベースのように、個々の値に原典と測定方法の注記を残すデータベースもあります。どの値がどこから来たのかを追跡する仕組み自体は、すでに存在します。問題は、AIが大量の疑いを挙げる時代に、それを誰が確認し、どの記録を、どの手順で更新するかです。

登場する主体を並べると、ずれの正体が見えます。誤りを見つけるのは研究者やAI開発企業、誤りを確定するのは分野の専門家、しかし記録を直す権限を持つのはデータベースの運営者や出版社です。見つける主体と直す主体が別で、その間をつなぐ手続きが標準化されていません。

検出は機械の速度で進み、訂正は組織の速度で進む。精度の向上は誤検出の負担を減らす方向にも働きますが、検出の量が増えるほど、この落差は表に出やすくなります。

さらに、直した後の伝達の問題が残ります。補足説明で見たとおり、誤った値はすでに複数のデータ集と論文に引用されています。大元を直しても、下流のコピーには届きません。科学の誤り探しが本当に難しいのは、見つける段階ではなく、この回収の段階だと言えます。

「誰が言ったか」から「再検証できるか」へ

この訂正の問題に、一つの方向性を示す議論が出ています。Nature Computational Scienceが8月20日に掲載した論説は、AIが研究に深く入り込む時代の信頼の土台を、AIの中身を完全に理解することではなく、何を参照し、何を実行し、何を測定したかを後から開いて監査できる記録に置くべきだと提案しました。この記録はプロベナンス（来歴）と呼ばれます。

提案したのはカーネギーメロン大学の研究者らで、著者のうち2人はAIの科学的評価を行うコンサルティング企業の共同創業者であり、Alphabet傘下の研究組織にも所属しています。AI評価という事業の当事者からの提案だという立場は、割り引いて読む必要があります。

興味深いことに、同じ号には編集部名義の論説も並んでいます。そちらの結論は「AIは学術的な判断の補助であって代替ではない。使ったツールが何であれ、正確性と結論への責任はもっぱら人間に残る」でした。査読者が未公開の原稿を公開のAIサービスに入力することも、守秘義務違反と位置づけています。

記録さえ残せば自律的なAIも信頼できるという提案と、責任は人間から動かせないという原則。この二つが同じ号に並んだこと自体が、科学界の現在地を示しています。

その先には「AI科学者」の議論が控えています。計算化学の分野では、計算条件の設定から結果の分析までを担うエージェント型システムが、2024年の半ダース程度から2026年8月時点で50近くまで増えたと整理されています。ただし同じ調査は、開発者以外の利用はきわめて限定的で、報告されたシステムはすべて人間の関与を前提にしているとも述べています。数の急増と利用の少なさが同居する、離陸前の段階です。

今回の沸点の一件も、検証の記録という観点から見ると示唆的です。誤りの発見を伝えたのはNatureの報道で、検証作業をまとめた論文は公開されていません。どの値がどう間違っていたのか、モデルが何を学習してその予測に至ったのかを、第三者が再検証する道は今のところ閉じたままです。

誤りの指摘が「再検証できる形」で共有されて初めて、監査は科学の仕組みに組み込まれます。この事例が論文として公開されるか、対象のデータベースが訂正を出すか。それが、この話の続きを測る最初の目印になります。

AIと科学者が確かめ合う時代へ

覆ったのは「疑わなくてよい」という日常の前提だった

今回の出来事は「AIが科学の常識を覆した」話ではありません。覆ったのは、参照データベースの一部の数値と、それを疑わなくてよいとしてきた日常の前提です。土台となる研究の多くは後続の研究に使われる中で検証を重ねており、AIの検算で次々ひっくり返る性質のものとは違います。

それでも、この一件が示した方向は小さくありません。科学では、掲載誌や研究者の実績、査読の有無といった手がかりが、膨大な知識を扱うための信頼の目印として使われてきました。AIが誤りを見つけ、同時に誤りを作り出す時代には、こうした目印だけでは足りなくなります。代わりに重みを増すのは、元のデータと計算の過程をたどり直せるか、つまり再検証できるかという性質です。

AI対科学者という対決の構図で語られてきた話は、実際には、AIと科学者が組んで、人類が積み上げてきた膨大な記録の山と向き合う話に変わりつつあります。人間がAIの答えを採点するだけの関係は終わり、AIも人間の蓄積を採点し返してくる。

どちらの採点も鵜呑みにせず、検証の記録を残して確かめ合う。次にどこかの参照値がAIの予測と食い違ったとき、その食い違いを開いて確かめられる仕組みがあるかどうかが、この技術の価値を決めます。

それではまた、次回の記事でお会いしましょう。

YouTubeでも配信中

せかはんでは、記事の内容をまとめた解説動画とショート動画を配信しています。動画で振り返りたい方はこちらからどうぞ。

チャンネル登録はこちら

▼記事が面白かったら応援クリックお願いします！▼