ML-For-Beginners/translations/ja/1-Introduction/3-fairness

責任あるAIによる機械学習ソリューションの構築

スケッチノート: Tomomi Imura

事前講義クイズ

はじめに

このカリキュラムでは、機械学習がどのように、そしてすでにどのように私たちの日常生活に影響を与えているかを探求し始めます。現在でも、システムやモデルは医療診断、ローン承認、詐欺検出などの日常的な意思決定のタスクに関わっています。したがって、これらのモデルが信頼できる成果を提供できることが重要です。あらゆるソフトウェアアプリケーションと同様に、AIシステムは期待を裏切ったり、望ましくない結果を出したりすることがあります。だからこそ、AIモデルの挙動を理解し説明することが不可欠です。

これらのモデルを構築する際に使用するデータに、例えば人種、性別、政治的見解、宗教などの特定の属性が欠けていたり、不均衡に代表されていたらどうなるでしょうか。モデルの出力が特定の属性を優遇するように解釈されたらどうなるでしょうか。そのアプリケーションへの影響は何でしょうか？さらに、モデルが悪影響を及ぼし、人々に害を与えた場合はどうなるでしょうか？AIシステムの挙動に誰が責任を持つべきでしょうか？これらは本カリキュラムで探求するいくつかの質問です。

本レッスンで学ぶこと:

• 機械学習における公平性の重要性と公平性に関連する害についての認識を高めること。
• 信頼性と安全性を確保するために異常値や異常なシナリオを探索する実践に慣れること。
• 包摂的なシステム設計によって全ての人を支援する必要性を理解すること。
• データおよび人々のプライバシーとセキュリティを保護することの重要性を探求すること。
• AIモデルの挙動を説明するためにガラスボックスアプローチを採る重要性を確認すること。
• AIシステムの信頼構築に不可欠な説明責任に注意を払うこと。

前提条件

前提条件として、「Responsible AI Principles」ラーニングパスを受講し、以下の関連動画を視聴してください:

このラーニングパスで責任あるAIについてさらに学びましょう

🎥 上の画像をクリックして動画を視聴: Microsoftの責任あるAIへのアプローチ

公平性

AIシステムはすべての人を公平に扱い、似たようなグループの人々に異なる影響を与えないようにすべきです。例えば、AIシステムが医療治療、ローン申請、雇用に関するガイダンスを出す際には、似た症状、財務状況、職業資格を持つ全員に同じ推奨を行うべきです。人間それぞれが持つ先入観は私たちの判断や行動に影響を与えます。こうしたバイアスはAIシステムの学習に使うデータに明示的に現れることもあります。このような操作は時に意図せずに起こります。自分がデータにバイアスを導入しているかどうかを意識的に知ることは難しいものです。

「不公平」とは、人種、性別、年齢、障害の有無などで定義されたグループに対する否定的影響、つまり「害」のことを指します。主な公平性に関連する害は以下のように分類できます：

• 割り当ての不公平。例えば、性別や民族性が他と比べて優遇される場合。
• サービス品質の低下。ある特定のシナリオでのみデータを学習し、現実はもっと複雑だと、性能の悪いサービスにつながります。例えば、肌の暗い人を感知できなかったハンドソープ分配器。参考
• 中傷。何かまたは誰かを不当に批判・レッテル貼りすること。例えば、画像ラベリング技術が肌の暗い人の画像をゴリラと誤ってラベル付けしたケース。
• 過小または過剰代表。特定のグループがある職業に存在しないとみなされ、その状態を助長するサービスや機能は害を生みます。
• ステレオタイプ化。あるグループにあらかじめ割り当てられた属性を結びつけること。例えば、英語とトルコ語間の機械翻訳システムで、性別に関するステレオタイプ的な関連語により不正確さが生じることがあります。

トルコ語への翻訳

英語への再翻訳

AIシステムを設計・テストする際には、公平であり、人間が行うことを禁止されているような偏った差別的な判断をするようにプログラムされていないことを確認する必要があります。AIと機械学習における公平性の保証は依然として複雑な社会技術的課題です。

信頼性と安全性

信頼を築くために、AIシステムは通常および予期せぬ状況下で信頼でき、安全で一貫している必要があります。特に異常値となるような様々な状況でAIシステムがどう振る舞うかを知ることは重要です。AIソリューションの構築において、想定される様々な状況への対応方法に相当な注意を払う必要があります。例えば、自動運転車は人々の安全を最優先にします。そのため、その車のAIは夜間、雷雨、吹雪、子供が道路を横断する場合、ペット、道路工事など、遭遇する可能性のあるすべてのシナリオを考慮する必要があります。どれほど広範囲な条件を信頼性かつ安全に処理できるかは、データサイエンティストやAI開発者が設計・テスト時にどれだけ想定していたかを反映します。

🎥 動画を見る: AIにおける信頼性と安全性

包摂性

AIシステムはすべての人が関わり、支援されるように設計されるべきです。AIシステムを設計・実装する際、データサイエンティストやAI開発者は、人を意図せずに排除する可能性のある障壁を特定し、解決します。たとえば、世界には10億人の障害者がいます。AIの進歩により、彼らは日常生活でより簡単に多様な情報や機会にアクセスできるようになっています。障壁を取り除くことで、すべての人に利益をもたらすより良い体験のあるAI製品のイノベーションと開発の機会が生まれます。

🎥 動画を見る: AIにおける包摂性

セキュリティとプライバシー

AIシステムは安全であり、人々のプライバシーを尊重すべきです。人々は自身のプライバシー、情報、生命が危険にさらされるシステムに対して信頼を持ちません。機械学習モデルを学習させる際、最良の結果を出すためにデータに依存します。そのため、データの出所と整合性を考慮する必要があります。例えば、そのデータはユーザーから提供されたものか公開データか。次に、データを扱う際、機密情報を保護し攻撃に耐えうるAIシステムを開発することが重要です。AIが普及するにつれて、プライバシー保護と重要な個人・企業情報のセキュリティ確保はますます重要かつ複雑になっています。プライバシーとデータセキュリティの問題は特に注意を要します。というのも、AIシステムが人々について正確かつ十分な情報に基づいた予測や判断を行うためにはデータへのアクセスが不可欠だからです。

🎥 動画を見る: AIにおけるセキュリティ

• 業界として、GDPR（一般データ保護規則）などの規制により、プライバシーとセキュリティに関して大きな進展を遂げました。
• しかしAIシステムでは、システムをよりパーソナルで効果的にするためにより多くの個人データが必要になることとプライバシーの間に緊張関係があることを認識する必要があります。
• インターネットを通じたコンピューター接続の誕生と同様に、AIに関連するセキュリティ問題も急増しています。
• 一方で、多くの現代のアンチウイルススキャナーは現在AIのヒューリスティクスで駆動され、AIはセキュリティ強化にも用いられています。
• 私たちのデータサイエンスプロセスが最新のプライバシーおよびセキュリティの実践と調和するようにする必要があります。

透明性

AIシステムは理解可能であるべきです。透明性の重要な部分は、AIシステムとその構成要素の挙動を説明することです。AIシステムへの理解を深めるためには、関係者がどのように、なぜ動作するかを理解し、潜在的な性能問題、安全性・プライバシー懸念、バイアス、除外的実践、意図しない結果を識別できる必要があります。また、AIシステムを使う人々は、いつ、なぜ、どのようにそれを展開するか、その制限も含めて正直に説明すべきだと考えています。例えば、銀行が消費者向け融資の判断にAIシステムを利用する場合、その結果を検証し、どのデータがシステムの推薦に影響を与えているか理解することが重要です。政府は産業全体でAIを規制し始めているため、データサイエンティストや組織は、望ましくない結果が生じた際にAIシステムが規制要件を満たしているか説明しなければなりません。

🎥 動画を見る: AIにおける透明性

• AIシステムは非常に複雑であるため、その動作や結果を理解・解釈することは難しいです。
• こうした理解の欠如は、システムの管理、運用、文書化の仕方に影響します。
• さらに重要なのは、この理解不足がシステムの結果を用いた意思決定にも影響を及ぼすことです。

説明責任

AIシステムを設計・運用する人々は、システムの動作に対して責任を負う必要があります。特に顔認識のようなセンシティブな技術では説明責任が極めて重要です。近年、特に警察などの法執行機関から顔認識技術への需要が高まっていますが、例えば特定の個人を継続的に監視することで市民の基本的自由を脅かすといったリスクも潜んでいます。そのため、データサイエンティストや組織はAIシステムが個人や社会に及ぼす影響に責任を持つ必要があります。

🎥 上の画像をクリックして動画を視聴: 顔認識による大量監視の警告

結局のところ、私たちの世代はAIを社会に導入する最初の世代として、コンピューターが人々に対して説明責任を持ち続ける方法、そしてコンピューターを設計する人々が他のすべての人に対して説明責任を持つ方法を確保することが大きな課題となります。

影響評価

機械学習モデルを学習させる前に、AIシステムの目的、意図された利用方法、配備場所、システムと関わる人を理解するために影響評価を行うことが重要です。これにより、システムを評価するレビュアーやテスターが潜在的リスクや予想される影響を識別する際に考慮すべき要素を把握できます。

影響評価で注目すべき分野は以下の通りです:

• 個人への悪影響。制限事項や要件、非対応な利用、既知の制約を把握し、個人に悪影響を与える使われ方を防ぐことが重要です。
• データ要件。システムがどのようにどこでデータを使用するかを理解することで、レビュアーは考慮すべきデータ要件（例：GDPRやHIPAA規則）を検討できます。また、学習に十分な量や信頼できる出所のデータかも評価します。
• 影響の概要。システム使用から生じうる潜在的な害のリストアップ。MLライフサイクル全体を通して、特定された問題が軽減または対処されているかを確認します。
• 六つのコア原則に適用される目標。それぞれの原則に基づく目標が満たされているか、ギャップがないかを評価します。

責任あるAIによるデバッグ

ソフトウェアアプリケーションのデバッグと同様に、AIシステムのデバッグはシステムの問題を特定し解決する必要なプロセスです。モデルが期待通り、または責任ある動作をしない要因は多く存在します。多くの従来のモデル性能指標はモデルの性能を定量的に集計したものですが、責任あるAI原則を違反しているかを分析するには不十分です。さらに、機械学習モデルはブラックボックスであり、結果を生み出す理由や誤りの説明が難しいです。本講座の後半で、Responsible AI ダッシュボードを使ったAIシステムのデバッグ方法を学びます。このダッシュボードはデータサイエンティストやAI開発者に対して以下の包括的なツールを提供します:

• 誤差分析。システムの公平性や信頼性に影響を与えるモデルの誤差分布を特定します。
• モデル概要。データコホート間でのモデル性能の不均衡箇所を発見します。
• データ分析。データ分布を理解し、公平性、包摂性、信頼性問題につながりうる偏りを特定します。
• モデル解釈性。モデルの予測に影響を与える要素を理解します。これは透明性と説明責任のために重要です。

🚀 チャレンジ

害を最初から防ぐために、私たちは:

• システムに携わる人たちが多様なバックグラウンドと視点を持つこと
• 社会の多様性を反映するデータセットへの投資
• 無責任なAIを検出し修正するより良い手法の機械学習ライフサイクル全体への導入

モデルの信頼性が明らかに低い実例を考え、他に何を考慮すべきかを考えてみましょう。

講義後クイズ

復習と自習

本レッスンでは、機械学習における公平性と不公平性の基本的な概念を学びました。

以下のワークショップ動画でさらに深く掘り下げましょう:

• Besmira Nushi、Mehrnoosh Sameki、Amit Sharmaによる「責任あるAIを追求して: 原則を実践に」

🎥 上の画像をクリックすると動画が再生されます： Besmira Nushi、Mehrnoosh Sameki、Amit Sharmaによる「RAI Toolbox: 責任あるAI構築のためのオープンソースフレームワーク」

また、こちらもご覧ください：

• MicrosoftのRAIリソースセンター：Responsible AI Resources – Microsoft AI

• MicrosoftのFATE研究グループ：FATE: Fairness, Accountability, Transparency, and Ethics in AI - Microsoft Research

RAI Toolbox:

• Responsible AI Toolbox GitHubリポジトリ

Azure Machine Learningの公平性を確保するためのツールについて読む：

• Azure Machine Learning

課題

RAI Toolboxを探索する

---

免責事項： 本書類は AI 翻訳サービス Co-op Translator を使用して翻訳されています。正確性を期していますが、自動翻訳には誤りや不正確な部分が含まれる可能性があることをご承知おきください。原文の原語版が正式な情報源とみなされるべきです。重要な情報については、専門の人間による翻訳を推奨します。本翻訳の利用により生じたいかなる誤解や解釈違いについても、当方は責任を負いかねます。