近年、企業におけるAIの活用が急速に拡大し、それに伴いAIの規制や法整備についての議論が始まっています。本記事では、AIに規制や法整備が求められる理由、そしてEUおよび日本のAI規制に関する現状について解説します。

AIが抱えるリスクと規制

AI技術が発展し、業務での活用が進んでいますが、一方で倫理違反やバイアス、プライバシー侵害といったAIに関連したリスクも増加傾向にあります。AIチャットボットが人種差別や性差別、倫理に反するような回答をする、AIのモデルに用いるデータ収集の際にプライバシー違反を起こす、などのインシデントが実際に発生しています。また、学習した機密情報をAIが漏洩する事例もあり、こういった問題を防ぐためにAIに対して規制や法整備が求められるようになりました。

AIの活用にはリスクが伴うため、処理の中身の透明性や追跡可能性、判断理由の説明可能性などを担保した適正な利用が求められます。AI活用のリスク対策として、OECD（経済協力開発機構）などの国際機関や政府が原理原則を取りまとめや、各国政府による国別ルールの制定が進められるようになりました。国別ルールには、法的拘束力を伴うものとガイドラインに留まるものがあります。現時点ではガイドラインレベルのものが大半ですが、法的拘束力を伴うルールの制定が進む動きも見られます。

一方で、企業内でも個人情報や機密情報の取り扱いに関する自主的なルールを整備しているケースが増加しています。AIサービスを提供する際に利用規約を整備し、ユーザーの個人情報の扱いやAIによって生成されたものの知的財産の扱いについて明記します。こういった企業ルールの制定の際には、政府が取りまとめた原理原則やガイドラインなどが参考になるでしょう。

EUのAI規制

EUでは統一的なAI規制案が議論され、最速で2024年後半に完全施行される予定です。この規制案では、AIが抱えるリスクの大きさに応じて規制内容を変える「リスクベースアプローチ」が採用されています。特に、対象者などの行動を実質的に歪めるため、対象者の意識を超えた サブリミナルな技法を展開するもの、年齢・障害などによるグループ（子ども、障害者など）の脆弱性を利用するもの、対象者に精神的、身体的な害を生じさせるAIは禁止扱いです。また重要なインフラ管理や入試面接評価などのAIは、高リスクとして特別な規制がかけられます。

EUのAI規制は、日本などEU域外の国にも幅広く適用されます。したがって、EU所在の者を対象にAIシステムやサービスを提供した場合、日本の企業であっても規制の対象となります
さらに、AIのアウトプットがEUで利用される場合も規制の対象となりますが、これはAIシステムのアウトプットを提供する契約を結んだ場合に限ります。

規制対象となるのはAIシステムのソフトウエアですが、その規制対象の範囲には十分注意しなければなりません。規制に違反した場合は巨額の制裁金が課される可能性があり、またEUでのビジネスができなくなる恐れもあります。

日本のAI規制

日本では、EUと比べてAI規制について慎重な姿勢を取っています。経済産業省の報告書では、技術の使われ方によって社会に与える利害や損害が異なるとし、AIの応用分野や用途によって規制する範囲については慎重に定めるべきと指摘しています。

内閣府が発表した「AI戦略2022」では、AI時代に対応した人材育成や実世界産業におけるAI応用の先駆者を目指すなど、AIの利活用に向けた具体的な目標が示されました。

また日本政府は、企業がAIを利活用する際の原理原則やガイドラインを公表しています。具体的には、経済産業省が取りまとめる「AI原則実践のためのガバナンス・ガイドライン Ver. 1.1」において、人間中心のAI社会を目指すための実務的な指針が提供されています。これらのガイドラインに法的拘束力はありませんが、AIに関する共通認識の形成やトラブル回避のため、AIの開発・運用に関わる企業には自主的な取り組みが期待されています。

AI活用の拡大で規制や法整備の議論が進む

AI技術が抱えるリスクである倫理違反やバイアス、プライバシー侵害といった問題に対し、AIのデータ収集や生成物等に規制を設ける必要性が議論されるようになりました。また、国際機関による原理原則、国別ルール、企業ルールの制定が進んでいます。

EUのAI規制はリスクの度合いによっては法的に禁止扱いになるものもあり、ソフトウエアに対して幅広く適用され、EU域外の国も対象となることが特徴です。一方、日本は慎重な姿勢を保ちつつ、法的拘束力のないガイドラインを示しています。

これらのように、AI活用の拡大に伴う規制や法整備の議論は今後も進んでいくと予想されます。各企業は、自身のAI活用状況に応じて、適切なルール作りや対策を進めていくことが求められるでしょう。