AIセーフティ・インスティテュート（AISI）は、AIがもたらす技術革新の恩恵を活かしつつ、その利用に伴うリスクを適切に管理するために設立された機関です。日本では、AISIがAIの安全性に関する中心組織として位置付けられています。

本記事では、AISI設立の背景、政府や研究機関との連携体制、具体的な活動内容について解説します。

AISI設立の背景

AISIの目的は、AIの関係者がリスクを正しく理解し、AIのライフサイクル全体でガバナンスを確保しながら、イノベーションの促進とリスクの緩和を両立することです。

2023年11月、英国主催のAIセーフティサミットでの国際的議論を受け、同年12月に岸田総理大臣が日本国内におけるAISIの設立を表明しました。2024年2月には情報処理推進機構（IPA）内にAISI事務局が設置されました。日本は英国、米国に続き、3番目にAIセーフティに関する政府機関を立ち上げた国となりました。

AISIは内閣府が策定した「統合イノベーション戦略2024」において、AIの安全性を担う中心機関として位置付けられています。戦略の柱には「AI分野の競争力強化と安全・安心の確保」が掲げられており、AISIはAIの安全性検討や偽・誤情報への対策など、AI分野における安全・安心の実現を支えています。

AISIの主要な役割と推進体制

AISIはAIの安全・安心な活用を促進するため、評価手法の検討、国際連携、研究機関との協力など多面的に取り組んでいます。

AISIの三つの役割

AISIはAIの安全・安心な活用を促進するため、次の三つの役割を担っています。

• AIセーフティに関する調査や評価手法の検討、基準の作成などを行い、政府に対して専門的支援を提供すること。
• 産学における最新の取り組み情報を集約し、企業や研究機関、さらには海外のAIセーフティ機関と連携すること。日本におけるAIセーフティのハブ機能を果たすこと。
• 国立研究開発法人などの関係研究機関と連携し、パートナーシップ事業を推進すること。

AISIの活動領域は、AIの「社会への影響」「ガバナンス」「AIシステム」「コンテンツ」「データ」など多岐にわたり、国内外の動向を踏まえた取り組みが進められています。

AISIの推進体制

AISIは内閣府を中心に、12府省庁と5つの関係機関（IPA、AIST、NICT、NII、RIKEN）が横断的に参画する体制で運営されています。政策面では「AISI関係府省庁等連絡会議」が政府方針の検討を担い、「AISI運営委員会」が事業の重要事項を審議することで、方針と実施の連携を図っています。

AIの安全性確保はAISI単独では実現できないため、国内の関連機関と連携して取り組むための「AISIパートナーシップ協定」が締結されました。この協定の下で、AISIと参画機関は共同研究・調査を実施し、相互に助言や情報提供を行うなど、協働的な体制を強化しています。

AISIの具体的な活動と貢献

AISIは安全性評価ガイドやレッドチーミング手法ガイドを公表し、AIシステムのリスク評価を体系化しています。さらに、国内ガイドラインの策定支援や国際会議への参加を通じて、グローバルなAIガバナンスの形成にも貢献しています。

AIシステムの安全性評価

AISIは、AIシステムの安全性評価に関する調査や基準の検討を進め、「評価観点ガイド」を発行しました。このガイドでは、リスクの種類、評価項目、評価者の役割、評価時期、評価手法などを整理し、AIを安全に活用するための基本的な考え方を提示しています。

また、AIへの攻撃手法を検証するための「レッドチーミング手法ガイド」も公表しています。プロンプトインジェクション、ポイズニング攻撃、回避攻撃など、LLMシステムへの代表的な攻撃手法に加え、レッドチーミングの実施計画や改善策の立案など、実践的な評価プロセスも提示しています。

AI活用の事業者ガイドラインの普及

AISIは、国内でAIを安全に活用するため、総務省・経済産業省が策定する「AI事業者ガイドライン」検討会に共同事務局として参画しています。このガイドラインでは、AIのライフサイクル（データ前処理・学習、開発、実装、提供、利用）を通じて、AI開発者・提供者・利用者が果たすべき責任や留意点を明確にしています。

さらにAISIは、国際的な整合性を高めるため、米国NISTの「AI Risk Management Framework（RMF）」と日本のガイドラインを比較・調整する「日米クロスウォーク」を実施しました。その成果を公開し、国際的なAI運用基準の共通化にも貢献しています。

グローバルなAIガバナンス枠組みへの貢献

AIやデータはグローバルに展開されるため、国際的なルール作りと協調が重要な課題です。AISIは、AIソウル・サミットやAISI国際ネットワーク会合（サンフランシスコ）、AIアクションサミット（パリ）などに参加し、国際的なAIガバナンス構築に積極的に貢献しています。

また、AIセーフティに関する活動全体の関係性や課題を可視化した「AIセーフティに関する活動マップ（AMAIS）」を公開しました。日本主導のこの取り組みは国際協力を強化し、持続可能で信頼性の高いAI社会の実現に寄与することが期待されています。

AIによるイノベーションと安全性を両立する未来へ

AISIは、AIの革新を推進しながら、その安全性と信頼性を確保するための中核機関です。

その活動は、ガイドライン策定や評価基準の整備にとどまらず、国際的な協力や制度設計を通じて、AI社会全体の基盤を支える役割を担っています。

AISIの取り組みにより、日本はグローバルなAI安全性ネットワークの中でリーダーシップを発揮し、安全・安心で持続可能なAI社会を実現することが期待されます。