論文を読ませたAIが4時間で生物研究AIを再現　英研究所がコード秘匿に警鐘

英国のAI安全機関であるAI Security Institute（AISI）の化学・生物チームは、AIエージェントが論文などの限定的な公開情報をもとに生物学向けAIツール（BAIT）を再構築できるかを検証した評価フレームワーク「ReproBAIT」の結果を発表した。検証の結果、ソースコードが非公開であっても、AIエージェントがわずかな時間と低予算で特定の機能を再現できることが示された。

タンパク質の構造予測や新規分子の設計などに使われる生物学AIツールは、正当な科学研究を推進する一方で、有害な目的に転用される「デュアルユース」のリスクを抱えている。そのため、開発者が悪用防止や商業価値の保護を意図し、設計手法やプログラムのソースコードを非公開にし、審査を通った利用者のみに限定公開する管理手法がとられることがある。しかし、最先端の学習して、人間のように文章を理解・生成できるAI。ChatGPTやGeminiの中身。">大規模言語モデルを基盤とするAIエージェントの研究・コーディング能力が高まるにつれ、わずかな公開情報からリバースエンジニアリングされる懸念が生じていた。

AISIがSecureBioと共同で構築したReproBAITは、インターネット接続を遮断した単一のGPUサンドボックス環境で実施された。対象には、難易度の異なるオープンソースのタンパク質設計ツール「ProteinMPNN」と「RFdiffusion3」、そして手法は公開されているもののコードは非公開の分子設計ツール「CMD」の3つが選ばれた。評価では論文の要約のみを与える条件と、論文全文および補足資料を与える条件を設定し、Claude Opus 5、GPT-5.6 Sol、Kimi K3、Qwen3.8-2.4Tの4種類のコーディングエージェントを用いて各3回の試行が行われた。

実験の結果、比較的単純なツールであれば、4時間以内かつ20ドル未満の計算コストで機能的な複製品の作成と訓練に成功した。成功した2つのツールにおける再構築費用は通常4ドルから20ドルの間に収まった。一方で、より複雑なRFdiffusion3の再現には成功せず、試行ごとに102ドルから301ドルの費用を要した。また、論文全文を与えても要約のみの場合と比べて再現性能が一貫して向上するわけではないことも判明した。調査では、過去に公開された情報がAIの事前学習データに含まれていたことによる暗記の影響も一部で確認された。

AISIは今回の結果から、ソースコードを非公開にすることや公開論文の情報を制限することだけでは、生物学AIツールの安全な公開を担保できないと指摘している。今後は計算資源や時間を増やした場合の検証を進めるとともに、AIの悪用リスクを管理するアプローチとして、コードの秘匿よりもツールの基盤となる生物学的データのガバナンスを重視すべきだと提言している。