Trustworthy AI（信頼されるAI）

所属部署　研究第二部　経営グループ
氏名：西田美帆

1.Trustworthy AI(信頼されるAI)とは

Trustworthy AI^１（信頼されるAI）とは、個人の権利利益の保護などの法適合性、多様性配慮や差別防止などの倫理性、そして技術的な不具合によるリスクを最小限に抑える堅牢（けんろう）性が担保された人工知能（AI）を指します。
AIの普及に伴い倫理的な課題が生じている中、AIの社会受容に不可欠とされる「信頼」の醸成に向け、多くの国・地域でTrustworthy AIの開発が進められています。

2.倫理規範、ガバナンスの確立が急務なAI

近年、AIは加速度的に世界の多くの国・地域でその応用が進み、産業活動や人々の生活の利便性の向上に貢献しています。しかし同時に、その副作用として倫理的な課題をもたらしているのも事実です。例として、2016年に、Microsoft社の人工知能チャットボットTayが攻撃的なツイートを発信する事態が起きました。また2020年には、AIの画像認識技術を活用した米ミシガン州の警察当局によりアフリカ系米国人の男性が誤逮捕されるケースもありました。これらの事例は、AIの機械学習に必要な教師データが不足していたこと、また機械学習システムが情報に偏りのあるチャネルからデータを収集したことによって、推論の精度に差が生じたことが原因です。また、AI に道徳的・倫理的な善悪の判断・精査を行う能力が不足していたことも背景にありました。
このような倫理的課題が顕在化したことを受け、民間の団体や企業、学会を中心に、AI倫理規範やAIの適切な開発・利用を促すガイドラインなどのAIガバナンスの検討が始まりました。2017年には、Skype創設者Jaan Tallinn氏、Tesla創設者のElon Musk氏らが設立した非営利団体The Future of Life Instituteによって、AIの倫理や価値、長期的な課題などを定めた指針「Asilomar AI Principles」が公表されました。また、2018年にはMicrosoftやGoogleなどもAI倫理の基本方針を発表しました。いつの時代も顧客や社会から「信頼」を獲得することが企業の重要課題ですが、ことAIに関わる製品やサービスを取り扱う企業の場合、自ら率先してAI技術に関わる倫理規範や開発の透明性確保など、AIガバナンスを考慮し実践することも不可欠な要素となっています。

3.活発化するTrustworthy AIの検討

近年、AI倫理規範の策定とAIガバナンスの実装に関する議論は、民間・学会レベルから、政府レベルに拡大しています。具体的なAI倫理規範としては、日本の“人間中心のAI社会原則”、欧州（EU）の “Ethics Guidelines for Trustworthy AI”、米国の“Guidance for Regulation of Artificial Intelligence Applications”、中国の“次世代AIガバナンス原則”などがあります（下表参照）。

（参考）表：主なAI規範比較

各種資料を基に日立総研作成

これら各国・地域の規範に共通しているのは、プライバシー、セキュリティ、説明責任など技術的な倫理原則に重点が置かれている点です。一方で、各国の規範の策定背景や狙いでは特徴となる差異点があります。米国は、国家安全保障の観点から主に中国を念頭に置いてAIの技術的優位性の強化を進める一方、中国は2030年までに世界トップのAI大国をめざし技術標準での主導権を狙っているとみられます。また、Society5.0実現で経済成長をめざす日本や、産業・社会インフラ領域におけるデータ・AIの利活用のルール形成で競争力向上に取り組む欧州では、自国産業の競争優位性確保を念頭に、規範の策定が進められています。
AI倫理規範の策定に加えて、規範を有効たらしめる法令など政策ツールや技術的なガイドラインの策定が、各国・地域で推進されています。欧州においては、事業者が“Ethics Guidelines for Trustworthy AI”に準拠した開発を進められるよう、倫理上問題がないかセルフチェックを行うための評価リストを作成しています。米国においては、サンフランコ市などの一部の地域が、基本的人権の尊重を求めるAI倫理規範に照らし、独自の条例を策定し、人種差別を助長し得る顔認証技術の使用を禁止しました。中国では顔を書き換えるディープフェイク技術を活用したアプリケーション開発企業に対し、安全管理局が監視、警告をしています。このように、各国でAI倫理規範に基づくガバナンスが強化されつつあります。

4.Trustworthy AIの確立に向けた国際協調の進展と今後の課題

各国・地域の政府機関においてAI倫理規範の策定とそのガバナンスの具体化が進む一方、複数の規範やガバナンス体系が乱立することも懸念されています。AIを活用する企業にとって、国・地域によって求められる対応が異なることでの混乱や管理コストの増加が予想されます。これに対し、国際統一的なAI倫理規範やツールを策定するための国際協力が進展しています。G20は、「G20 AI原則」を発表し、世界的な技術基準の開発に向けて国際協力を進める旨を定め、国際的なイニシアテブ「AIに関するグローバルパートナーシップ（Global Partnership on AI、GPAI）」を通じて、人間中心のAIシステムの責任ある開発・使用とAIガバナンスの促進をめざしています。その具体的な取り組みは、「信頼」の担保の要件として国際的に共有されている指標に基づいて、AI システムを評価する認証・評価・監査メカニズムの開発です。
また、Trustworthy AI の実現には、統一的なAI倫理規範やAIガバナンスのツール開発だけでなく、AI技術そのものの技術的な発展も重要です。現在のAI技術の中心である深層学習(ディープラーニング)は、大量の教師データが必要なことから、推論プロセスの説明が困難であるなどの課題があります。また、データ自体についても、フェイク情報やデータ改ざんなど推論の精度に関わる問題が発生しています。このような課題に対して、自律的に知識獲得・成長するAI技術や、説明可能なAI技術、さらにはフェイクニュース、データ改ざんなどを検知し対処する技術などの研究開発の推進が求められます。
これらの課題を克服し、「信頼」の担保されたTrustworthy　AIの社会実装が拡大することにより、産業活動や社会活動のさらなる利便性向上と、人々の豊かな生活の実現が期待されます。

1

AI (Artificial Intelligence、人工知能)：データ、情報、知識の学習により、自らの出力や処理方法を変化させる機能を持つ処理モジュール、および、このようなモジュールを構成要素として含むシステム

2

AI戦略2019 : 2019年に、統合イノベーション推進会議で決定された日本のAI戦略。Society5.0の実現を通じて、世界と国内の社会課題の克服を目的に、AI利活用の環境整備・方策を示す。

3

Society5.0 : 内閣府の第5期科学技術基本計画によって提唱された、サイバー空間（仮想空間）とフィジカル空間(現実空間)を高度に融合させたシステムにより、経済発展と社会的課外の解決を両立する人間中心の社会。

4

European　Data　Strategy: 2020年に発表された、欧州のデータ戦略。データによる変革を促進し、企業や市民にももたらす恩恵を拡大するために「データ単一市場」を構築することを目標に据える。

5

White Paper on Artificial Intelligence : 2020年に発表された、欧州のAI白書。欧州がAIシステムの利用と応用における世界的なリーダーとなるべきとし、市民の価値観と権利を尊重した安全なAI開発の「信頼性」と「優越性」を実現するための政策オプションを提示。

6

The American AI initiative　:　2019年に大統領令として承認された、米国のAI戦略。五つの柱として、「AI研究開発への投資」「AI資源の開放」「AIガバナンス基準の設定」「AI労働力の構築」「国際的な関与とAIの優位性の保護」を定める。

7

次世代AI発展計画 : 2017年に中国政府国務院が発表したロードマップ。30年に、中国が、AI関連産業の育成によってイノベーション創出型かつ世界をリードする科学技術強国へ至る工程が記される。
(参考文献)一般財団法人マルチメディア振興センター編、藍沢志津、小原弘嗣、黒川綾子、坂本博史、田中絵麻、木賊智昭、平井智尚著、「世界のAI戦略-各国が描く未来創造のビジョン」明石書店、2020年