localizeflow[bot]
381c672660
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 7 months ago | |
README.md
使用負責任的 AI 建構機器學習解決方案
速寫筆記作者：Tomomi Imura
課前測驗
簡介
在本課程中，您將開始了解機器學習如何影響並正影響我們的日常生活。即使在現在，系統和模型也已涉入日常的決策任務，如醫療診斷、貸款審核或偵測詐欺等。因此，這些模型必須有效運作以提供值得信賴的結果。正如任何軟體應用程式一樣，AI 系統也會有失誤或產生不理想的結果。因此，能夠理解和解釋 AI 模型的行為是非常重要的。
想像一下，您用來建構這些模型的資料如果缺乏某些族群的代表性，例如種族、性別、政治觀點、宗教信仰，或是不成比例地代表這些族群，會有什麼後果？如果模型的輸出被解讀為傾向某些族群，這對應用程式有何影響？此外，當模型產生不良結果，並對人們造成傷害時，誰該對 AI 系統的行為負責？這些都是我們在本課程中將探討的問題。
在本課程中，您將：
- 增強對機器學習中公平性及公平性相關傷害重要性的認知。
- 熟悉探索異常值和不同尋常情境以確保可靠性和安全性的做法。
- 了解設計包容性系統以賦能所有人的必要性。
- 探討保護資料及人員隱私和安全的重要性。
- 了解以透明盒子（glass box）方法解釋 AI 模型行為的重要性。
- 注意到問責制對於建立對 AI 系統信任的關鍵性。
先備知識
作為先備課程，請先完成「負責任的 AI 原則」學習路徑並觀看下方關於該主題的影片：
透過此 學習路徑 進一步了解負責任的 AI
🎥 點擊上方圖片觀看影片：Microsoft 的負責任 AI 方法
公平性
AI 系統應同等待遇所有人，避免對相似群體產生不同影響。例如，當 AI 系統提供醫療治療建議、貸款申請或職業建議時，應對相似症狀、財務狀況或專業資格的人給予相同建議。作為人類，我們皆帶有遺傳而來的偏見，影響我們的決策和行動。這些偏見在用於訓練 AI 系統的資料中可能呈現出來。有時這些操控是無意的。往往很難有意識地知道何時將偏見引入資料中。
「不公平」 涵蓋一群人遭遇的負面影響或「傷害」，該群體可根據種族、性別、年齡或殘障狀況等分類。主要的公平性相關傷害可分為：
- 資源分配，例如一種性別或族群被偏袒其它族群。
- 服務品質。若只訓練特定情境的資料，但現實更複雜，導致服務表現不佳。例如，一台洗手乳自動感應器無法偵測深膚色的人。參考資料
- 貶損。不公平地批評或標記某事物或某人。例如，一套圖像標記技術竟錯誤將深膚色人士誤標為「大猩猩」。
- 過度或不足代表。某些群體在特定職業中不被看見，而任何持續促成此現象的服務或功能都會造成傷害。
- 刻板印象。將特定群體與預設特質做連結。例如，英語和土耳其語翻譯中，由於詞彙帶有性別刻板印象，造成翻譯不精準。
土耳其語翻譯
回譯成英語
在設計和測試 AI 系統時，我們需要確保 AI 公平，避免程式化產生偏見或歧視性決策，而這也是人類禁止做出的決策。確保 AI 與機器學習的公平性仍是一項複雜的社會技術挑戰。
可靠性與安全性
為了建立信任，AI 系統需要在正常和異常情況下保持可靠、安全和一致性。了解 AI 系統在各種情境，特別是異常情況下的行為是重要的。建構 AI 解決方案時，必須大幅關注如何處理 AI 可能面臨的多樣環境。例如，自駕車必須將人身安全放首位，因此推動該車輛的 AI 需要考慮諸如夜晚、雷雨、暴風雪、孩子跑到街上、寵物出現、路上施工等各種可能情景。一個 AI 系統能多好地可靠且安全地處理這些複雜條件，反映了資料科學家或 AI 開發者在系統設計或測試時所做的預期考量程度。
包容性
AI 系統應設計為讓每個人都能參與並受到賦能。資料科學家和 AI 開發者在設計和實施 AI 系統時，會識別並處理可能無意排除人的障礙。例如，全球有 10 億殘障人士，隨著 AI 的進展，他們能更容易地取得日常所需的各種信息和機會。藉由消除這些障礙，有助於創新與開發帶給所有人更佳體驗的 AI 產品。
安全與隱私
AI 系統必須安全且尊重個人隱私。人們對可能危及其隱私、資訊或生命的系統信任度較低。訓練機器學習模型時，我們依賴資料以獲得最佳結果，因此必須考慮資料來源及其完整性。例如，資料是用戶提交的還是公開取得的？此外，在處理資料時，開發保護機密資訊並能抵禦攻擊的 AI 系統至關重要。隨著 AI 越來越普及，保護個人和商業重要資訊的隱私和安全變得更為關鍵且複雜。隱私與資料安全問題對 AI 尤為重要，因為 AI 系統需要存取資料才能對人們做出準確且有見識的預測和決策。
- 作為產業，我們在隱私與安全領域取得了重大進展，這在很大程度上受惠於像 GDPR（通用資料保護規範）等規範。
- 然而針對 AI 系統，我們必須承認在需要更多個人資料以讓系統更個人化及有效的需求與隱私保護間存在張力。
- 就像帶來網際網路的連網電腦誕生一樣，我們也看到與 AI 相關的安全問題正大幅增加。
- 同時，我們也看到 AI 用於提升安全性。例如，現代大部分的防毒掃描器都是由 AI 啟發式技術驅動的。
- 我們需確保資料科學過程與最新的隱私與安全實務和諧融合。
透明度
AI 系統應可被理解。透明度的關鍵部分是解釋 AI 系統及其組件的行為。提升對 AI 系統的理解需要相關利益關係人了解它們如何及為何運作，以便識別潛在的效能問題、安全及隱私顧慮、偏見、排除性作法或非預期結果。我們同時相信，使用 AI 系統的人應坦誠說明他們何時、為何及如何選擇部署這些系統，以及他們所使用系統的限制。例如，如果銀行使用 AI 系統支援其消費者貸款決策，重要的是檢視結果並了解哪些資料影響系統的建議。政府正開始針對各產業規範 AI，資料科學家和組織必須說明 AI 系統是否符合法規要求，特別是當出現不良結果時。
- 由於 AI 系統非常複雜，難以理解其運作方式及詮釋結果。
- 這種缺乏理解影響了這些系統的管理、運作及文件記錄方式。
- 更重要的是，這種缺乏理解影響了基於這些系統結果所做決策的品質。
問責性
AI 系統的設計與部署者必須對系統的運作負責。問責制在面對如臉部辨識等敏感技術使用時尤為重要。近期臉部辨識技術需求增加，特別是執法機關看到其在尋找失蹤兒童等方面的潛力。然而，這些技術也可能被政府用來威脅公民的基本自由，例如允許對特定個體進行持續監控。因此，資料科學家及組織需對其 AI 系統對個人或社會的影響負責。
🎥 點擊上方圖片觀看影片：關於臉部辨識造成的全面監控警告
最終，對我們這一代人來說，作為首個將 AI 帶入社會的一代，最大的一個問題是：如何確保電腦永遠對人負責，以及如何確保設計電腦的人對所有人負責。
影響評估
在訓練機器學習模型之前，進行影響評估非常重要，以了解 AI 系統的目的、預期用途、部署位置，以及誰會與系統互動。此評估有助於審查者或測試者在評估系統時，了解應考慮哪些風險和預期後果。
進行影響評估時的焦點領域包括：
- 對個人的不良影響。了解任何限制或要求、不受支持的使用或任何已知限制阻礙系統效能，對防止系統造成對個人的傷害至關重要。
- 資料需求。了解系統如何及在哪裡使用資料，使審查人員能探究需注意的資料要求（例如 GDPR 或 HIPAA 資料規範）。此外，檢查資料來源或數量是否足以訓練。
- 影響摘要。彙整使用系統可能產生的潛在傷害清單。在整個 ML 生命週期中，審查是否緩解或處理已識別的問題。
- 適用目標。評估六大核心原則中每個原則的目標是否達成，並檢視是否存在缺口。
使用負責任 AI 進行除錯
如同除錯軟體應用程式，除錯 AI 系統是識別和解決系統問題的必要過程。有許多因素會影響模型未達預期或不負責任地運作。大多數傳統模型效能指標是模型效能的量化彙總，不足以分析模型如何違反負責任 AI 原則。此外，機器學習模型是黑盒，難以理解驅動其結果的原因，或在出錯時提供解釋。本課程後續將學習如何使用負責任 AI 儀表板協助除錯 AI 系統。該儀表板提供資料科學家和 AI 開發者一個全方位工具，執行：
- 錯誤分析。識別可能影響系統公平性或可靠性的模型錯誤分布。
- 模型概覽。發現資料群組間模型效能的差異。
- 資料分析。了解資料分布並識別可能導致公平性、包容性和可靠性問題的潛在偏見。
- 模型解釋能力。理解影響或左右模型預測的因素，有助於解釋模型行為，這對透明度和問責制非常重要。
🚀 挑戰
為避免傷害的產生，我們應該：
- 集結擁有多元背景與觀點的人員共同研發系統
- 投資於反映社會多元性的資料集
- 在整個機器學習生命週期中，發展更佳方法來偵測並修正不負責任的 AI
請思考在真實場景中，模型在建置和使用上表現不可信的例子，還有什麼我們應該考慮的？
課後測驗
複習與自學
在本課程中，您已學習有關機器學習中公平性與不公平性的基本概念。
請觀看此工作坊以更深入了解相關主題：
- 由 Besmira Nushi、Mehrnoosh Sameki 和 Amit Sharma 主講的「追求負責任 AI：從原則到實踐」
🎥 點擊上方圖片觀看影片：RAI Toolbox：由 Besmira Nushi、Mehrnoosh Sameki 與 Amit Sharma 介紹的負責任 AI 開源框架
另請參閱：
-
微軟的 RAI 資源中心：負責任 AI 資源 – Microsoft AI
-
微軟的 FATE 研究團隊：FATE：AI 的公平、問責、透明與倫理 - Microsoft 研究
RAI 工具箱：
閱讀有關 Azure 機器學習確保公平性的工具：
任務
免責聲明： 此文件已使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們努力追求準確性，但請注意自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應視為權威來源。對於關鍵資訊，建議採用專業人工翻譯。我們不對因使用此翻譯所產生的任何誤解或誤譯承擔責任。