localizeflow[bot]
381c672660
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 8 months ago | |
README.md
機器學習的歷史
手繪筆記由 Tomomi Imura 製作
課前測驗
🎥 點擊上面圖片觀看簡短教學影片。
在本課程中，我們將回顧機器學習與人工智能歷史上的主要里程碑。
人工智能（AI）作為一個領域的歷史與機器學習的發展密切相關，因為支撐機器學習的算法與計算進步推動了人工智能的發展。值得記住的是，雖然這些領域作為獨立研究方向在1950年代才開始形成，但重要的算法、統計、數學、計算與技術發現早於且重疊於此時期。事實上，人們對這些問題的思考已經持續了數百年：本文討論了「思考機器」理念的歷史性智識基礎。
重要發現
- 1763 年及 1812 年的 貝葉斯定理 及其前身。該定理及其應用是推理的基礎，用以根據先驗知識描述事件發生的概率。
- 1805 年法國數學家阿德里安-瑪麗·勒讓德提出的 最小二乘理論。該理論將在我們的迴歸單元中學習，有助於資料擬合。
- 1913 年以俄羅斯數學家安得烈·馬爾可夫命名的 馬爾可夫鏈，用於根據前一狀態描述可能事件的序列。
- 1957 年由美國心理學家弗蘭克·羅森布拉特發明的 感知器，這是一種線性分類器，為深度學習的進展奠定基礎。
- 1967 年的 最近鄰算法 最初設計用於繪製路線。在機器學習背景下用於檢測模式。
- 1970 年的 反向傳播算法 用於訓練 前饋神經網絡。
- 1982 年的 遞歸神經網路, 是從前饋神經網絡發展而來，能夠建立時間性圖形。
✅ 進行一些研究。還有哪些日期是機器學習和人工智能歷史上的重要轉折點？
1950年：思考的機器
艾倫·圖靈是一位真正了不起的人物，於2019年被公眾票選為20世紀最偉大的科學家，他被認為幫助奠定了「能思考的機器」概念的基礎。他部分通過創造圖靈測試來應對質疑者與自己對這一概念的實證需求，你會在我們的自然語言處理課程中探索該測試。
1956年：達特茅斯暑期研究計劃
「達特茅斯暑期人工智能研究計劃是人工智能領域的一次奠基性事件」，正是在此會議中誕生了「人工智能」一詞（來源）。
學習的每個方面或智能的其他任何特徵，原理上都可以如此精確描述，以至於可以製造出模擬它的機器。
領導研究的是數學教授約翰·麥卡錫，他希望「基於一個猜想：學習的每個方面或智能的其他任何特徵，原理上都可以如此精確描述，以至於可以製造出能模擬它的機器。」參與者中還有該領域的另一位先驅，馬文·明斯基。
這個工作坊催生並推動了多方面討論，包括「象徵方法的興起、聚焦於有限領域的系統（早期專家系統）以及演繹系統與歸納系統的對比。」（來源）。
1956年至1974年:「黃金年代」
從1950年代至70年代中期，對人工智能解決許多問題的希望非常高漲。1967年，馬文·明斯基自信地表示：「一個世代內……創造『人工智能』的問題將實質上被解決。」（Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall）
自然語言處理研究蓬勃發展，搜尋功能得以精化與加強，並且創造了「微世界」概念，在這裡可用簡單語言指令完成簡單任務。
研究得到政府機構良好資助，計算與算法進展，智能機器的原型也建立。其中一些機器包括：
-
Shakey 機器人，能夠自主移動並決定如何『智能』地執行任務。
Shakey於1972年
-
Eliza，早期的「聊天機器人」，能與人對話並充當原始「心理治療師」。你將在自然語言處理課程中進一步了解Eliza。
Eliza聊天機器人的一個版本
-
「積木世界」是微世界的一個例子，在此可以疊積木和排序，同時可測試教導機器決策的實驗。使用像SHRDLU這樣的函式庫推動語言處理的發展。
🎥 點擊上方圖片觀看影片：帶有SHRDLU的積木世界
1974年至1980年：人工智能「寒冬」
到70年代中期，人們開始意識到製造「智能機器」的複雜性被低估，考慮到當時的計算能力，其所承諾的成果被過度誇大。資金枯竭，對該領域的信心下降。一些影響信心的問題包括：
- 限制。計算能力過於有限。
- 組合爆炸問題。當對電腦的需求增加時，需要訓練的參數數量呈指數增長，計算能力與功能並未同步演進。
- 數據不足。缺乏數據阻礙算法的測試、開發與改進過程。
- 我們問的問題是否正確？。對所提問題本身開始質疑。研究者遭受方法上的批評：
- 圖靈測試受到「中文房間理論」等思想的質疑，該理論主張「編程可使數位電腦看似理解語言，但無法產生真正理解。」（來源）
- 人工智能如「心理治療師」ELIZA在社會中的倫理問題遭到挑戰。
與此同時，各種人工智能思想流派開始形成。界定了「粗糙派」與「精緻派」人工智能的二分法（"scruffy" vs. "neat AI"）。粗糙派 實驗室會調整程序直至達到期望結果。精緻派 實驗室著重於邏輯與形式化問題解決。ELIZA和SHRDLU是著名的_粗糙派_系統。80年代，隨著對可重現機器學習系統的需求增強，_精緻派_漸成主流，因其結果更易解釋。
1980年代 專家系統
隨著該領域成長，其對商業的價值愈加明顯，1980年代專家系統大量湧現。「專家系統是最早真正成功的人工智能（AI）軟件形式之一。」（來源）
這種類型的系統其實是_混合型_，部分由規則引擎組成，定義業務需求，另一部分是推理引擎，依據規則系統推導出新事實。
該時期也開始增加對神經網絡的關注。
1987年至1993年：AI 「冷卻期」
專家系統硬件過度專業化帶來了不利影響。個人電腦的興起也與這些龐大專門化集中系統競爭。計算民主化開始，最終為現代大數據爆炸鋪路。
1993年至2011年
這一時期，機器學習和人工智能迎來新紀元，解決了早期數據和計算能力不足帶來的一些問題。數據量快速成長並更廣泛可用，特別是2007年智能手機問世後，帶來便利也有挑戰。計算能力呈指數成長，算法同步演進。該領域開始成熟，過去自由奔放的日子逐步整理成真正的學科。
現今
如今，機器學習與人工智能幾乎觸及我們生活的各個方面。這個時代要求我們仔細理解這些算法對人類生活帶來的風險與潛在影響。正如微軟的布拉德·史密斯所說：「資訊技術引發了關乎基本人權保障，如隱私和表達自由的問題。這些問題增加了創造這些產品的科技公司的責任。在我們看來，這也呼籲政府制定審慎的監管及建立可接受使用的規範。」（來源）
未來會如何發展尚未可知，但瞭解這些計算機系統及其運行的軟件和算法非常重要。我們希望這套課程幫助你獲得更好的理解，讓你能自行判斷。
🎥 點擊上方圖片觀看影片：Yann LeCun在此講座中討論深度學習的歷史
🚀 挑戰
探究其中一段歷史時刻，了解背後的人物。這些角色都非常吸引人，沒有任何科學發現是在文化真空中誕生的。你會發現什麼？
課後測驗
複習與自學
這裡有一些值得觀看與聆聽的項目：
作業
免責聲明： 本文件由 AI 翻譯服務 Co-op Translator 翻譯而成。雖然我們致力於確保準確性，但請注意，機器自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要資訊，建議進行專業人工翻譯。我們不對因使用本翻譯而產生的任何誤解或誤釋承擔責任。