AIをめぐる倫理と規制：迷路を進む方法

企業ブランドを損ないかねない倫理リスクから規制の不確実性まで、人工知能（AI）は投資家に難題を突きつけている。しかしながら、前進する道はある。

AIは多くの倫理問題を引き起こしており、それらは結果的に、消費者、企業、投資家にとってリスクになる可能性がある。そして、進捗状況はまちまちだが、複数の国・地域がAIをめぐる規制を策定中であり、そのことが不確実性を高めている。アライアンス・バーンスタイン（以下、「AB」）の見解では、そうした状況下で投資家にとって重要なのは、透明性や説明可能性を重視することである。

AIをめぐる倫理問題及びリスクは、このテクノロジーの開発企業から始まる。そこから、AIを自らの事業に組み込むクライアント企業に広がり、さらに消費者やより広範な社会へと広がっていく。投資家はAI開発企業やAIを利用する企業の株式や債券を保有することにより、そのようなリスクチェーンに巻き込まれている。

AIはほとんどの人間の理解をはるかに超えて急速に発展しているが、世界各国の規制当局や立法機関はそれに遅れまいとしている。一見しただけでも、AI分野での彼らの活動はここ2～3年間で急拡大しており、多くの国がAI関連の戦略を発表しているほか、それ以外の国も策定中である（図表1）。

しかし、実際の進捗状況はまちまちであり、道のりは依然長い。AIをめぐる規制については国・地域を横断した統一的なアプローチはなく、チャットGPTが2022年末に公開される前に規制を導入した国もある。今後AIが急速に普及するにつれ、多くの規制当局がすでに導入済みの規制を実状に合うように見直したり、枠組みを広げたりする必要も出てくるだろう。

投資家にとっては、そうした規制の不確実性がAIの他のリスクを増幅させる。それらのリスクへの対処方法を理解し、評価するためには、AIビジネスの概観やその倫理及び規制環境を頭に入れておくことが役に立つ。

データリスクは企業ブランドを損ないかねない

AIには、通常は人間が行うタスクを人間のような方法で実行するために開発された多くのテクノロジーが含まれるが、企業は生成AIによってそのテクノロジーを利用できる。生成AIには、映像、音声、テキスト、音楽といったさまざまな種類のコンテンツ生成や、自然言語処理に特化した大規模言語モデル（LLM）などが含まれる。LLMは、企業が顧客へのエンゲージメントに関してますます利用するようになっている、チャットボット、コンテンツの自動生成、大量の情報の分析及び要約といった、さまざまな用途のための基盤として機能する。

ただし、多くの企業がすでに認識したように、AIイノベーションは企業ブランドを損ないかねないリスクを伴う場合がある。そうしたリスクはLLMが学習するデータに含まれる偏見から生じる可能性がある。これまでに例えば、銀行が住宅ローンを承認するにあたり、不注意にもマイノリティーを差別したほか（フォーブスの記事ご参照（英語、外部サイト））、米国の健康保険会社が利用しているAIアルゴリズムが原因で、高齢患者の長期介護保険金の請求が不当に却下されたとして（フォーブスの記事ご参照（英語、外部サイト））、集団訴訟を起こされる結果となっている。

偏見と差別は、規制当局が標的にし、投資家が注意すべきリスクのうちの2つにすぎず、それら以外のリスクには知的財産権やデータ・プライバシーなどがある。開発企業によるAIモデルの性能や正確性、けん牢性のテストに加え、クライアント企業に対して提供されるAIソリューション導入時のサポートや透明性など、リスク軽減のために行われている対策についても精査すべきである。

AI規制に関する理解を深める

AIをめぐる規制環境は、世界各国・地域でさまざまな形で展開を見せている。最近の動きとしては、2024年半ばに発効予定である欧州連合（EU）のAI規制法や、2023年英国政府が公開したAI規制白書をきっかけとした協議プロセスと、それに対する同政府の対応がある。

これらの取り組みは、AI規制へのアプローチがいかに異なったものになりうるかを示している。具体的には英国は、原則として既存の規制当局がそれぞれの監督領域内のAI問題に適用することができる枠組みを採用している。EUのAI規制法はそれとは対照的に、AIシステムの開発企業、利用企業、輸入企業、販売企業に対してリスクによって等級分けした法令遵守義務を課す、包括的な法的枠組みを導入している。

ABの見解では、投資家は各国・地域のAI規制を詳細に掘り下げるだけでは不十分である。各国・地域がAI問題にどのように対処しているのかについても、AIを対象にした規制より以前から存在する、その他の法律をよく理解すべきである。例えば、データ侵害に対処する著作権法について、あるいは、AIが労働市場に影響を及ぼしている場合には雇用法について、理解を深めるべきである。

ファンダメンタルズ分析とエンゲージメントの重要性

AIのリスクを評価しようとする投資家にとって役に立つのは、自らのAI戦略及びポリシーについて積極的かつ全面的に開示している企業は、新たな規制に対しても十分な対応ができる可能性が高いという経験則である。加えてAI関連のリサーチにおいては、責任投資の基本であるファンダメンタルズ分析と企業とのエンゲージメントが極めて重要である。

ファンダメンタルズ分析では、企業レベルだけでなく、ビジネスチェーンと規制環境の全体にわたるリスク・ファクターを調査に加え、責任あるAIの基本原則に照らした検証が求められる（図表2）。

企業とのエンゲージメントにおいては、AIに関する課題が事業運営に影響を及ぼすという視点からも、環境・社会・ガバナンス（ESG）の視点からも対話が可能である。投資家が取締役会や経営陣に投げかけるべき質問としては以下のような項目が挙げられる。

• AIの組み込み：その企業は全体的な事業戦略にAIをどのように組み込んでいるのか？社内のAI用途としてはどのような具体例があるか？ 
• 取締役会の監督及び専門知識：取締役会は、その企業のAI戦略及び導入状況を効果的に監督するための十分な専門知識を持っていることを、どのように確かめているのか？具体的な研修プログラムや取り組みはあるか？ 
• 責任あるAIに関するコミットメント：その企業は責任あるAIに関する正式なポリシーまたは枠組みを発表しているか？それは、業界の標準的なポリシーや、AIをめぐる倫理的な課題、AI規制とどの程度整合的か？ 
• 透明性を高める施策：その企業は将来の新しい規制による影響を緩和するために、透明性を積極的に高めるような施策を実施しているか？ 
• リスク管理及びアカウンタビリティ：その企業はAI関連のリスクを特定して軽減するため、どのようなリスク管理プロセスを導入しているのか？そうしたリスクの監督責任を負う人物はいるか？ 
• LLMのデータをめぐる課題：大規模言語モデルの学習に用いる入力データに関連するプライバシーや著作権をめぐる課題に、その企業はどのように対処しているのか？入力データがプライバシー規制や著作権法に確実に準拠しているようにするため、どのような施策を実施しているのか？また、入力データに関連した制約や要件にどのように対応しているのか？
• 生成AIに関する偏見及び公平性をめぐる課題：AIシステムが導き出す偏見を伴う結果や不公平な結果を防止／軽減するため、その企業はどのような対策を講じているのか？その企業はどのようにして、生成AIシステムを利用して作り出したものが確実に公平であり、偏見を伴っておらず、いかなる個人やグループに対しても差別的でなく、悪影響を及ぼさないようにしているのか？ 
• 事象の追跡調査及びその報告：その企業は、AIの開発または利用に関連して発生した事象を、どのように調査・報告しているのか？ 
• 評価及びその報告：その企業はどのような指標によってAIシステムのパフォーマンスや影響を測定しているのか？また、そうした指標をどのようにして外部の利害関係者に報告しているのか？AI用途の規制遵守をモニターするための体制をどのように維持しているのか？  

突き詰めていくと、AIをめぐる倫理及び規制の迷路で投資家が迷わないで済む最善の方法は、常に落ち着いて疑い深いスタンスでいることである。AIは複雑かつ日進月歩のテクノロジーである。投資家は明確な回答を求めるべきであり、手の込んだ説明や複雑な説明には過度な好印象を持つべきではない。