# 數據科學在現實世界中的應用 |  ](../../sketchnotes/20-DataScience-RealWorld.png) | | :--------------------------------------------------------------------------------------------------------------: | | 數據科學在現實世界中的應用 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | 我們即將完成這段學習旅程！ 我們從數據科學和倫理的定義開始，探索了各種數據分析和可視化的工具與技術，回顧了數據科學的生命周期，並研究了如何利用雲端計算服務擴展和自動化數據科學工作流程。所以，你可能會想：_「如何將這些學到的知識應用到現實世界的情境中？」_ 在這節課中，我們將探討數據科學在各行業中的現實應用，並深入研究在研究、數字人文和可持續性方面的具體例子。我們還會介紹學生項目機會，並提供一些有用的資源，幫助你繼續你的學習旅程！ ## 課前測驗 ## [課前測驗](https://ff-quizzes.netlify.app/en/ds/quiz/38) ## 數據科學 + 行業 隨著人工智慧的普及化，開發者現在更容易設計和整合基於人工智慧的決策以及數據驅動的洞察到用戶體驗和開發工作流程中。以下是數據科學在各行業中「應用」到現實世界的一些例子： * [Google Flu Trends](https://www.wired.com/2015/10/can-learn-epic-failure-google-flu-trends/) 使用數據科學將搜索詞與流感趨勢相關聯。雖然這種方法存在缺陷，但它提高了人們對數據驅動的醫療預測可能性（以及挑戰）的認識。 * [UPS 路線預測](https://www.technologyreview.com/2018/11/21/139000/how-ups-uses-ai-to-outsmart-bad-weather/) - 解釋了 UPS 如何利用數據科學和機器學習來預測最佳配送路線，考慮到天氣條件、交通模式、配送截止日期等因素。 * [紐約市計程車路線可視化](http://chriswhong.github.io/nyctaxi/) - 使用[信息自由法](https://chriswhong.com/open-data/foil_nyc_taxi/)收集的數據幫助可視化紐約市計程車一天的運作情況，幫助我們了解它們如何在繁忙的城市中穿梭、賺取的收入以及每24小時內行程的持續時間。 * [Uber 數據科學工作台](https://eng.uber.com/dsw/) - 利用每天從數百萬次 Uber 行程中收集的數據（如接送地點、行程時長、偏好路線等），構建數據分析工具以幫助定價、安全、欺詐檢測和導航決策。 * [運動分析](https://towardsdatascience.com/scope-of-analytics-in-sports-world-37ed09c39860) - 專注於_預測分析_（團隊和球員分析，例如[Moneyball](https://datasciencedegree.wisconsin.edu/blog/moneyball-proves-importance-big-data-big-ideas/)）和_數據可視化_（團隊和粉絲儀表板、比賽等），應用於人才挖掘、運動博彩以及庫存/場地管理。 * [銀行業中的數據科學](https://data-flair.training/blogs/data-science-in-banking/) - 強調數據科學在金融行業中的價值，應用包括風險建模和欺詐檢測、客戶分群、實時預測和推薦系統。預測分析還推動了關鍵指標，如[信用評分](https://dzone.com/articles/using-big-data-and-predictive-analytics-for-credit)。 * [醫療保健中的數據科學](https://data-flair.training/blogs/data-science-in-healthcare/) - 強調應用如醫學影像（例如 MRI、X光、CT掃描）、基因組學（DNA測序）、藥物開發（風險評估、成功預測）、預測分析（患者護理和供應物流）、疾病追蹤和預防等。  圖片來源：[Data Flair: 6 Amazing Data Science Applications ](https://data-flair.training/blogs/data-science-applications/) 該圖展示了其他領域和應用數據科學技術的例子。想探索其他應用嗎？查看下面的[回顧與自學](../../../../6-Data-Science-In-Wild/20-Real-World-Examples)部分。 ## 數據科學 + 研究 |  ](../../sketchnotes/20-DataScience-Research.png) | | :---------------------------------------------------------------------------------------------------------------: | | 數據科學與研究 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | 雖然現實世界的應用通常專注於行業中的大規模使用案例，_研究_應用和項目可以從兩個角度提供價值： * _創新機會_ - 探索快速原型設計先進概念並測試下一代應用的用戶體驗。 * _部署挑戰_ - 調查數據科學技術在現實世界中的潛在危害或意外後果。 對於學生來說，這些研究項目可以提供學習和合作的機會，幫助你加深對主題的理解，並擴展你對相關領域的認識和參與。那麼研究項目是什麼樣的，它們如何產生影響？ 讓我們看一個例子——[MIT Gender Shades Study](http://gendershades.org/overview.html)，由 Joy Buolamwini（MIT Media Labs）進行，並與 Timnit Gebru（當時在 Microsoft Research）共同撰寫了一篇[重要研究論文](http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf)，該研究專注於： * **什麼：** 該研究項目的目的是_評估基於性別和膚色的自動面部分析算法和數據集中的偏差_。 * **為什麼：** 面部分析被用於執法、機場安全、招聘系統等領域——在這些情境中，由於偏差導致的不準確分類可能對受影響的個人或群體造成潛在的經濟和社會危害。理解（並消除或減輕）偏差是使用公平性的關鍵。 * **如何：** 研究人員認識到現有基準主要使用膚色較淺的受試者，並策劃了一個新的數據集（1000多張圖片），該數據集在性別和膚色方面更加平衡。該數據集被用於評估三個性別分類產品（來自 Microsoft、IBM 和 Face++）的準確性。 結果顯示，雖然整體分類準確性良好，但不同子群體之間的錯誤率存在顯著差異——其中**性別錯誤分類**在女性或膚色較深的人群中更高，表明存在偏差。 **主要成果：** 提高了人們對數據科學需要更多_代表性數據集_（平衡子群體）和更多_包容性團隊_（多樣背景）的認識，以便在人工智慧解決方案中更早地識別並消除或減輕這些偏差。像這樣的研究努力對許多組織定義負責任人工智慧的原則和實踐也至關重要，以改善其人工智慧產品和流程的公平性。 **想了解 Microsoft 的相關研究工作嗎？** * 查看 [Microsoft Research Projects](https://www.microsoft.com/research/research-area/artificial-intelligence/?facet%5Btax%5D%5Bmsr-research-area%5D%5B%5D=13556&facet%5Btax%5D%5Bmsr-content-type%5D%5B%5D=msr-project) 中的人工智慧研究項目。 * 探索 [Microsoft Research Data Science Summer School](https://www.microsoft.com/en-us/research/academic-program/data-science-summer-school/) 的學生項目。 * 查看 [Fairlearn](https://fairlearn.org/) 項目和 [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) 的相關倡議。 ## 數據科學 + 人文 |  ](../../sketchnotes/20-DataScience-Humanities.png) | | :---------------------------------------------------------------------------------------------------------------: | | 數據科學與數字人文 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | 數字人文[被定義為](https://digitalhumanities.stanford.edu/about-dh-stanford)「結合計算方法與人文探究的一系列實踐和方法」。[斯坦福項目](https://digitalhumanities.stanford.edu/projects)如_「重啟歷史」_和_「詩意思考」_展示了[數字人文與數據科學](https://digitalhumanities.stanford.edu/digital-humanities-and-data-science)之間的聯繫——強調網絡分析、信息可視化、空間和文本分析等技術，幫助我們重新審視歷史和文學數據集，從中獲得新的洞察和視角。 *想探索並擴展這方面的項目嗎？* 查看 ["Emily Dickinson and the Meter of Mood"](https://gist.github.com/jlooper/ce4d102efd057137bc000db796bfd671)——這是一個由 [Jen Looper](https://twitter.com/jenlooper) 提供的精彩例子，探討如何利用數據科學重新審視熟悉的詩歌，並在新的情境中重新評估其意義及作者的貢獻。例如，_我們能否通過分析詩歌的語氣或情感來預測其創作的季節_——這對於理解作者在相關時期的心理狀態有何啟示？ 為了回答這個問題，我們遵循數據科學生命周期的步驟： * [`數據獲取`](https://gist.github.com/jlooper/ce4d102efd057137bc000db796bfd671#acquiring-the-dataset) - 收集相關數據集進行分析。選項包括使用 API（例如 [Poetry DB API](https://poetrydb.org/index.html)）或抓取網頁（例如 [Project Gutenberg](https://www.gutenberg.org/files/12242/12242-h/12242-h.htm)）使用工具如 [Scrapy](https://scrapy.org/)。 * [`數據清理`](https://gist.github.com/jlooper/ce4d102efd057137bc000db796bfd671#clean-the-data) - 解釋如何使用基本工具（如 Visual Studio Code 和 Microsoft Excel）格式化、清理和簡化文本。 * [`數據分析`](https://gist.github.com/jlooper/ce4d102efd057137bc000db796bfd671#working-with-the-data-in-a-notebook) - 解釋如何將數據集導入「筆記本」進行分析，使用 Python 包（如 pandas、numpy 和 matplotlib）組織和可視化數據。 * [`情感分析`](https://gist.github.com/jlooper/ce4d102efd057137bc000db796bfd671#sentiment-analysis-using-cognitive-services) - 解釋如何整合雲服務（如文本分析），使用低代碼工具（如 [Power Automate](https://flow.microsoft.com/en-us/)）進行自動化數據處理工作流程。 通過這個工作流程，我們可以探索季節對詩歌情感的影響，並幫助我們形成自己對作者的看法。自己試試看——然後擴展筆記本以提出其他問題或以新的方式可視化數據！ > 你可以使用一些工具，例如 [Digital Humanities toolkit](https://github.com/Digital-Humanities-Toolkit)，來進行這些探究。 ## 數據科學 + 可持續性 |  ](../../sketchnotes/20-DataScience-Sustainability.png) | | :---------------------------------------------------------------------------------------------------------------: | | 數據科學與可持續性 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | [2030年可持續發展議程](https://sdgs.un.org/2030agenda)——由所有聯合國成員於2015年採納——確定了17個目標，其中包括**保護地球**免受退化和氣候變化影響的目標。[Microsoft Sustainability](https://www.microsoft.com/en-us/sustainability)倡議支持這些目標，探索技術解決方案如何支持並構建更可持續的未來，並專注於[四個目標](https://dev.to/azure/a-visual-guide-to-sustainable-software-engineering-53hh)——到2030年實現碳負、正水、零廢物和生物多樣性。 以可擴展和及時的方式應對這些挑戰需要雲端規模的思維——以及大規模數據。[Planetary Computer](https://planetarycomputer.microsoft.com/)倡議提供了四個組件，幫助數據科學家和開發者應對這些挑戰： * [數據目錄](https://planetarycomputer.microsoft.com/catalog) - 提供地球系統數據的PB級數據集（免費且託管於Azure）。 * [Planetary API](https://planetarycomputer.microsoft.com/docs/reference/stac/) - 幫助用戶在空間和時間上搜索相關數據。 * [Hub](https://planetarycomputer.microsoft.com/docs/overview/environment/) - 為科學家提供處理大規模地理空間數據集的管理環境。 * [應用](https://planetarycomputer.microsoft.com/applications) - 展示可持續性洞察的使用案例和工具。 **行星電腦計畫目前處於預覽階段（截至2021年9月）** - 以下是如何開始使用資料科學為永續解決方案做出貢獻的方式。 * [申請訪問權限](https://planetarycomputer.microsoft.com/account/request)，開始探索並與同行建立聯繫。 * [瀏覽文件](https://planetarycomputer.microsoft.com/docs/overview/about)，了解支援的數據集和API。 * 探索像 [生態系統監測](https://analytics-lab.org/ecosystemmonitoring/) 這樣的應用程式，從中獲得應用靈感。 思考如何利用數據視覺化來揭示或放大與氣候變遷和森林砍伐等相關的洞察力。或者，思考如何利用這些洞察力來創造新的用戶體驗，激勵行為改變，實現更永續的生活方式。 ## 資料科學 + 學生 我們已經討論了在產業和研究中的真實應用，並探索了數位人文學科和永續性中的資料科學應用範例。那麼，作為資料科學的初學者，你如何提升技能並分享專業知識呢？ 以下是一些資料科學學生專案的範例，供你參考和啟發。 * [MSR 資料科學暑期學校](https://www.microsoft.com/en-us/research/academic-program/data-science-summer-school/#!projects) 的 GitHub [專案](https://github.com/msr-ds3)，探索以下主題： - [警察使用武力中的種族偏見](https://www.microsoft.com/en-us/research/video/data-science-summer-school-2019-replicating-an-empirical-analysis-of-racial-differences-in-police-use-of-force/) | [Github](https://github.com/msr-ds3/stop-question-frisk) - [紐約地鐵系統的可靠性](https://www.microsoft.com/en-us/research/video/data-science-summer-school-2018-exploring-the-reliability-of-the-nyc-subway-system/) | [Github](https://github.com/msr-ds3/nyctransit) * [數位化物質文化：探索 Sirkap 的社會經濟分佈](https://claremont.maps.arcgis.com/apps/Cascade/index.html?appid=bdf2aef0f45a4674ba41cd373fa23afc) - 來自 [Ornella Altunyan](https://twitter.com/ornelladotcom) 和 Claremont 團隊，使用 [ArcGIS StoryMaps](https://storymaps.arcgis.com/)。 ## 🚀 挑戰 搜尋推薦給初學者的資料科學專案文章，例如[這50個主題領域](https://www.upgrad.com/blog/data-science-project-ideas-topics-beginners/)、[這21個專案點子](https://www.intellspot.com/data-science-project-ideas)或[這16個帶有源代碼的專案](https://data-flair.training/blogs/data-science-project-ideas/)，你可以拆解並重新組合這些專案。別忘了記錄你的學習過程，並與我們分享你的洞察。 ## 課後測驗 ## [課後測驗](https://ff-quizzes.netlify.app/en/ds/quiz/39) ## 回顧與自學 想探索更多使用案例嗎？以下是一些相關文章： * [17 個資料科學應用與範例](https://builtin.com/data-science/data-science-applications-examples) - 2021年7月 * [11 個令人驚嘆的真實世界資料科學應用](https://myblindbird.com/data-science-applications-real-world/) - 2021年5月 * [真實世界中的資料科學](https://towardsdatascience.com/data-science-in-the-real-world/home) - 文章合集 * [12 個真實世界資料科學應用與範例](https://www.scaler.com/blog/data-science-applications/) - 2024年5月 * 資料科學在：[教育](https://data-flair.training/blogs/data-science-in-education/)、[農業](https://data-flair.training/blogs/data-science-in-agriculture/)、[金融](https://data-flair.training/blogs/data-science-in-finance/)、[電影](https://data-flair.training/blogs/data-science-at-movies/)、[醫療保健](https://onlinedegrees.sandiego.edu/data-science-health-care/) 等領域。 ## 作業 [探索行星電腦數據集](assignment.md) --- **免責聲明**： 本文件使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用此翻譯而產生的任何誤解或錯誤解讀概不負責。