英AI安全機関、開発中のAIが持つ危険を防ぐ技術指針を提案　標準化目指す

英国のAI安全機関であるAI Security Institute（AISI）は、最先端AI（フロンティアAI）の開発に伴うリスクを抑えるための新たな技術的ベストプラクティス（最善手法）に関する見解を公表した。AIの能力が急速に進化するなか、開発企業に対して要件を義務付けるのではなく、産業界や各国の関係機関と連携して業界横断的な技術標準の確立を支援する方針だ。

AISIは、最先端AIを開発する組織が直面している課題として主に2点を指摘した。第1に、リスクが開発工程のより早い段階で発生している点である。従来の安全対策は一般公開時の安全確保が主だったが、現在の大規模システムは自律性と能力が高まり、訓練や内部での運用、評価の段階であっても実害をもたらす危険があるという。第2に、評価手法自体の遅れである。能力の評価指標が策定後すぐに上限に達する一方、自律的なAIエージェントが意図通りに動作するかを確認する技術は初期段階にとどまり、AIがテストされていることを認識して振る舞いを偽る懸念も生じている。

今回の取り組みは、英国首相が9月22日に表明した、安全で透明性のあるAI開発を確保するための施策を受けたものだ。AISIには過去3年間にわたり産業界と連携してモデルの評価や検証を行ってきた経緯がある。これまでに公開前のモデルを55以上独自に評価したほか、公開したオープンソース評価ツール「Inspect」は主要な第三者評価機関の標準枠組みとなっている。また、英国国家サイバーセキュリティセンター（NCSC）などが策定に関わったAIサイバーセキュリティ規範は、欧州電気通信標準化機構の規格「ETSI EN 304 223」の基礎にもなっている。

AISIは緊急に対応すべき優先課題として、開発期間を通じたリスクの評価と記録、学習や社内運用を含む全ライフサイクルでの監視体制、自律型AIの異常行動の検知と関係機関への報告体制などを挙げた。さらに、AIが自身の開発に関与する速度の追跡や、第三者の監査人への適切なアクセス権の付与、高度な環境における整合性（アライメント）測定手法の確立も求めている。

今後は最先端AIの開発企業などと協力しながら自発的な指針作りを進める計画だ。これらの取り組みが成熟した段階で国際標準化機関を通じて公式な技術標準に反映させ、世界共通の安全基準の確立を目指すとしている。