localizeflow[bot]
381c672660
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | ||
README.md
使用負責任的 AI 建構機器學習解決方案
手繪筆記由 Tomomi Imura 製作
講前小測驗
簡介
在此課程中，您將開始了解機器學習如何且正在影響我們的日常生活。即使現在，系統和模型也參與日常決策任務，例如醫療診斷、貸款審批或詐騙偵測。因此，這些模型運作良好以提供可信賴的結果非常重要。就像任何軟件應用程式一樣，AI 系統也會未達期望或產生不理想的結果。這就是為什麼能夠理解和解釋 AI 模型的行為是必須的原因。
想像當您用來建立這些模型的資料缺少某些人口統計特徵，如種族、性別、政治觀點、宗教，或某些族群被過度或不均衡代表時會發生什麼？當模型輸出被解讀為偏袒某些族群時會怎樣？對於應用程式會有什麼後果？此外，當模型產生不良結果並對人造成傷害時會有何影響？誰應對 AI 系統的行為負責？這些都是我們在本課程中將探討的問題。
在這堂課中，您將會：
- 提升您對於機器學習中公平性重要性及公平性相關傷害的認識。
- 熟悉探討異常值及不尋常場景的實務，以確保可靠性與安全性。
- 理解設計包容性系統以賦能所有人的必要性。
- 探索保護資料與人的隱私及安全的關鍵性。
- 了解以「玻璃盒」方式解釋 AI 模型行為的重要性。
- 注意責任制對建立 AI 系統信任的必要性。
先備知識
作為先備條件，請完成「負責任 AI 原則」學習路徑並觀看以下相關視頻：
透過此 學習路徑 深入了解負責任 AI
🎥 點擊上方圖片觀看影片：Microsoft 負責任 AI 的方法
公平性
AI 系統應該公平地對待所有人，避免以不同方式影響相似群體。例如，當 AI 系統提供醫療治療建議、貸款申請或就業指導時，對於具有相似症狀、財務狀況或專業資格的人應該給出相同的建議。我們每個人都帶有影響決策與行動的既有偏見，這些偏見有時會體現在用來訓練 AI 系統的資料中。這種操縱有時是無意的，通常很難有意識地察覺自己何時將偏見引入資料中。
「不公平」 指的是對某個群體（例如按種族、性別、年齡或殘疾狀態定義的群體）造成的負面影響，或稱為「傷害」。主要的公平性相關傷害可被歸類為：
- 分配，例如偏袒某個性別或族裔。
- 服務質量。若訓練的資料只針對特定場景，但實際情況更複雜，容易導致服務表現不佳。例如，一款洗手機感應不到深色膚色的人。參考
- 貶損。不公平地批評並標籤某物或某人。例如，有技術曾錯誤將深色膚色的人圖像標記為大猩猩。
- 過度或不足代表。指某群體在職業或社會角色裡缺乏代表，任何持續推動這種狀況的服務或功能都會造成傷害。
- 刻板印象。將特定群體與既定屬性掛勾。例如，英-土語言翻譯系統可能因帶有性別刻板印象的詞彙而導致不准確翻譯。
翻譯成土耳其語
再翻譯回英文
在設計與測試 AI 系統時，我們必須確保 AI 是公平的，不會被程式化成做出有偏見或歧視的決策，正如人類所禁止的行為。保障 AI 與機器學習中的公平性仍是複雜的社會技術挑戰。
可靠性與安全性
為了建立信任，AI 系統需要在正常與意外情況下皆具備可靠性、安全性和一致性。了解 AI 系統在各種情況下，尤其是異常事件時的行為非常重要。建立 AI 解決方案時，需要大量關注如何應對 AI 可能面對的多種狀況。例如，自駕車必須將人員安全放在首位，因此這輛車的 AI 需要考慮所有可能遇到的情形，如夜晚、雷雨或暴風雪、街上奔跑的孩童、寵物、道路施工等。一個 AI 系統能否在廣泛條件下可靠且安全運作，反映了資料科學家或 AI 開發者在系統設計或測試階段的預見程度。
包容性
AI 系統應設計以包容並賦能所有人。設計與實施 AI 系統時，資料科學家與 AI 開發者需辨識並處理系統中可能無意排除某些人的障礙。例如，全球有 10 億殘障人士。隨著 AI 的進步，他們可以更輕鬆地獲取日常生活中的資訊與機會。解決障礙創造了創新機會，開發出更佳的 AI 產品和體驗，惠及所有人。
安全性與隱私
AI 系統應安全且尊重個人隱私。若系統危及人們的隱私、資料或生命，人們對它們的信任將降低。訓練機器學習模型時，須依賴資料以產出最佳結果，故需考慮資料來源與完整性。例如，資料是用戶提交還是公開可用？此外，開發 AI 系統時，必須能保護機密資訊並抵禦攻擊。隨著 AI 越來越普及，保護隱私和關鍵個人及商業資訊變得愈加重要且複雜。對 AI 而言，隱私與資料安全議題尤其需密切關注，因為 AI 系統需要資料來做出準確且有依據的預測與決策。
- 作為產業，我們在隱私與安全方面取得了重大進展，尤其受到 GDPR（一般資料保護條例）等規範的推動。
- 但在 AI 系統中，我們必須承認個人化系統需要更多個人資料與隱私間存在的張力。
- 就像網際網路連接電腦誕生時一樣，AI 相關的安全問題也激增。
- 與此同時，我們也見證 AI 被用於改善安全性。例如，目前多數現代防毒軟體依賴 AI 啟發式方法。
- 我們需要確保資料科學流程與最新的隱私及安全實務和諧結合。
透明性
AI 系統應該易於理解。透明性的關鍵部分是解釋 AI 系統及其組成部分的行為。提升對 AI 系統的了解需要利益相關者明白其如何以及為何運作，才能辨識可能的效能問題、安全與隱私疑慮、偏見、排他性做法或非預期結果。我們也認為使用 AI 系統的人，應誠實且公開何時、為何及如何選擇部署這些系統，以及所用系統的限制。例如，銀行若使用 AI 系統協助消費貸款決策，就必須審視結果並理解哪些資料影響系統建議。各國政府開始針對各行業規範 AI，資料科學家與組織必須解釋 AI 系統是否符合規範，尤其在出現不理想結果時。
- 由於 AI 系統複雜，很難理解其運作方式與解讀結果。
- 這種理解缺乏影響系統管理、運行與文件化的方式。
- 更重要的是，這種缺乏理解影響基於結果所做的決策。
問責制
設計與部署 AI 系統的人必須對其系統的運作負責。問責制在敏感技術，如臉部辨識技術的使用中尤為重要。近來，執法機關對臉部辨識技術的需求增加，因為該技術在尋找失蹤兒童等應用中具有潛力。然而，這些技術也可能被政府用來危害公民的基本自由，例如對特定個人進行持續監控。因此，資料科學家與組織須對其 AI 系統對個人或社會造成的影響負責。
🎥 點擊上方圖片觀看影片：警告臉部辨識可能導致大規模監控
對於我們這一代作為將 AI 帶入社會的第一代人來說，最重大問題之一是如何確保電腦對人負責，以及如何確保設計電腦的人對其他所有人負責。
影響評估
在訓練機器學習模型之前，進行影響評估非常重要，以了解 AI 系統的目標；用途；部署位置；以及誰將與系統互動。這些資訊有助於評審者或測試者在評估系統時知道哪些因素需考量，以辨識潛在風險和預期後果。
進行影響評估時應著重以下方面：
- 對個人的不良影響。了解任何限制或需求、不當使用或任何已知限制阻礙系統效能，是確保系統不會以可能傷害個人的方式使用的關鍵。
- 資料需求。了解系統如何及在哪裡使用資料，讓評審者可以探討需注意的資料需求（例如 GDPR 或 HIPAA 資料規範）。此外，需檢視資料來源及數量對訓練是否足夠。
- 影響總結。列舉使用系統可能產生的傷害。於整個機器學習生命週期中，檢視已辨識的問題是否獲得緩解或解決。
- 六大核心原則的適用目標。評估各原則的目標是否達成，及是否存在缺口。
負責任 AI 的除錯
類似於軟件應用的除錯，AI 系統的除錯是識別並解決系統問題的必要過程。影響模型未達預期或不負責表現的因素很多。大多數傳統模型效能指標都是模型效能的量化匯總，但不足以分析模型如何違反負責任 AI 原則。此外，機器學習模型是黑盒子，難以理解驅使其結果的因素，或在出錯時提供解釋。在本課程後續，我們將學習如何使用負責任 AI 儀表板來協助除錯 AI 系統。該儀表板為資料科學家和 AI 開發者提供了完整的工具，以進行：
- 錯誤分析。識別模型錯誤分布，該分布可能影響系統公平性或可靠性。
- 模型總覽。發現資料不同群組間模型效能存在的差距。
- 資料分析。了解資料分布，辨識可能導致公平性、包容性及可靠性問題的偏差。
- 模型可解釋性。了解影響模型預測的因素，有助解釋模型行為，這對透明度和問責制很重要。
🚀 挑戰
為了防止傷害一開始就被引入，我們應該：
- 讓從事系統工作的人擁有多元背景與觀點
- 投資代表我們社會多元性的資料集
- 在整個機器學習生命週期中，開發更好的方法偵測並修正不負責任的 AI
想想實際情境中，模型建立和使用過程中明顯的不可信之處。我們還應該考慮什麼？
講後小測驗
複習與自學
在本課中，您已學習機器學習中公平與不公平概念的一些基礎。
觀看以下工作坊影片以更深入探討：
- 追求負責任 AI：將原則落實於實踐，由 Besmira Nushi、Mehrnoosh Sameki 與 Amit Sharma 主講
🎥 點擊上方圖片觀看影片：RAI Toolbox：由 Besmira Nushi、Mehrnoosh Sameki 和 Amit Sharma 講述的建立負責任 AI 的開源框架
另請參閱：
-
微軟的 RAI 資源中心：負責任 AI 資源 – Microsoft AI
-
微軟的 FATE 研究組：FATE：AI 的公平性、問責性、透明度與倫理 - Microsoft Research
RAI 工具箱：
閱讀有關 Azure 機器學習確保公平性的工具：
作業
免責聲明： 本文件由 AI 翻譯服務 Co-op Translator 翻譯而成。雖然我們致力於確保準確性，但請注意，機器自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要資訊，建議進行專業人工翻譯。我們不對因使用本翻譯而產生的任何誤解或誤釋承擔責任。