オープンAI、悪質なネット攻撃に対抗する指針を発表　緊急停止機能など提言

米オープンAIは、サイバー攻撃からシステムを守る防御側を支援するための政策指針を公開した。人工知能（AI）が悪用されるリスクに先手を打ち、防御側の能力を高めることを目的に、政府機関や産業界に向けた具体的な行動提案をまとめている。

AIはサイバーセキュリティにおける対応の速度や規模を変化させており、脆弱性の発見や侵入検知に役立つ一方、悪意ある攻撃者にも利用される危険性がある。オープンAIは、高度な攻撃技術が広く出回る前に防御側へ先端AIを配備して対策を固めるべき限られた好機にあると指摘。過去のサイバーセキュリティ行動計画や安全性指針に加え、自社モデルで起きた不整合やセキュリティ事案の経験から、業界全体での説明責任と厳格な保護策の必要性を強調した。

指針では3つの領域で具体策を提示している。第1に、最先端モデルや自律型エージェントの保護責任を明確化し、危険な挙動の検知や確実な緊急停止機能を維持すること。第2に、防御側へ高度なツールや訓練を提供し、重要インフラの保護や旧式システムの刷新を進めること。第3に、政府による技術評価の強化やインシデント報告義務の策定、復旧体制の整備を通じて強靭な公的機関を築くことだ。

オープンAIは、AI開発機関には自社システムが生み出すリスクに対処し社会防衛を支援する責任があると表明した。技術の進化に合わせて規制や要件を強化していくため、各国の政策立案者に対して今すぐ行動を起こすよう促している。