leestott
3773c80b49
|
2 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 2 weeks ago | |
| assignment.md | 3 weeks ago | |
README.md
機器學習的歷史
手繪筆記由 Tomomi Imura 提供
課前測驗
🎥 點擊上方圖片觀看本課程的簡短影片。
在本課程中，我們將回顧機器學習和人工智慧歷史上的主要里程碑。
人工智慧（AI）作為一個領域的歷史與機器學習的歷史密不可分，因為支撐機器學習的演算法和計算進展也促進了人工智慧的發展。值得注意的是，雖然這些領域作為獨立的研究方向在1950年代開始成形，但重要的演算法、統計、數學、計算和技術發現早在這個時期之前就已經出現，並且與之重疊。事實上，人類對這些問題的思考已經持續了數百年：這篇文章探討了「思考機器」這一概念的歷史智識基礎。
重要發現
- 1763年、1812年 貝葉斯定理及其前身。這一定理及其應用奠定了推理的基礎，描述了基於先驗知識事件發生的概率。
- 1805年 最小平方法，由法國數學家Adrien-Marie Legendre提出。這一理論（你將在回歸單元中學到）有助於數據擬合。
- 1913年 馬爾可夫鏈，以俄羅斯數學家Andrey Markov命名，用於描述基於前一狀態的一系列可能事件。
- 1957年 感知器，由美國心理學家Frank Rosenblatt發明的一種線性分類器，是深度學習進展的基礎。
- 1967年 最近鄰演算法，最初設計用於路徑規劃。在機器學習中，它被用於模式檢測。
- 1970年 反向傳播，用於訓練前饋神經網路。
- 1982年 循環神經網路，從前饋神經網路衍生出來的人工神經網路，用於創建時間序列圖。
✅ 做一些研究。還有哪些年份在機器學習和人工智慧的歷史中具有關鍵意義？
1950年：能思考的機器
Alan Turing，一位真正傑出的人物，被2019年公眾投票評為20世紀最偉大的科學家，他被認為幫助奠定了「能思考的機器」這一概念的基礎。他面對質疑者並試圖以實驗證據支持這一概念，部分方法是創造了Turing測試，你將在自然語言處理課程中進一步探索。
1956年：達特茅斯夏季研究計畫
「達特茅斯夏季人工智慧研究計畫是人工智慧作為一個領域的奠基性事件」，並且在這裡首次提出了「人工智慧」這一術語（來源）。
學習的每一個方面或智慧的任何其他特徵，原則上都可以被如此精確地描述，以至於可以製造出模擬它的機器。
領導研究的數學教授John McCarthy希望「基於這樣的假設進行研究：學習的每一個方面或智慧的任何其他特徵，原則上都可以被如此精確地描述，以至於可以製造出模擬它的機器。」參與者中還包括該領域的另一位傑出人物Marvin Minsky。
這次研討會被認為啟動並促進了多個討論，包括「符號方法的興起、專注於有限領域的系統（早期專家系統）、以及演繹系統與歸納系統的對比」。（來源）
1956年 - 1974年：「黃金時代」
從1950年代到1970年代中期，人們對人工智慧能解決許多問題充滿樂觀。1967年，Marvin Minsky自信地表示：「在一代人的時間內……創造『人工智慧』的問題將基本解決。」（Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall）
自然語言處理研究蓬勃發展，搜尋技術得到了改進並變得更強大，「微世界」的概念被創造出來，簡單的任務可以通過簡單的語言指令完成。
研究得到了政府機構的充分資助，計算和演算法取得了進展，智能機器的原型被建造出來。其中一些機器包括：
-
Shakey機器人，它能夠智能地移動並決定如何執行任務。
1972年的Shakey
-
Eliza，一個早期的「聊天機器人」，能與人對話並充當一個原始的「治療師」。你將在自然語言處理課程中更多了解Eliza。
Eliza的一個版本
-
「積木世界」是一個微世界的例子，積木可以被堆疊和排序，並且可以測試教導機器做出決策的實驗。使用像SHRDLU這樣的庫所建立的進展推動了語言處理的發展。
🎥 點擊上方圖片觀看影片：積木世界與SHRDLU
1974年 - 1980年：「人工智慧寒冬」
到1970年代中期，製造「智能機器」的複雜性已經顯現，並且其承諾在當時的計算能力下被過度誇大。資金枯竭，對該領域的信心減弱。一些影響信心的問題包括：
- 限制。計算能力過於有限。
- 組合爆炸。隨著對計算機要求的增加，需要訓練的參數數量呈指數增長，但計算能力和性能並未同步發展。
- 數據匱乏。數據的匱乏阻礙了測試、開發和改進演算法的過程。
- 我們是否在問正確的問題？。人們開始質疑所提出的問題本身。研究人員開始面臨對其方法的批評：
- 圖靈測試受到質疑，例如「中文房間理論」，該理論認為「編程一台數字計算機可能使其看起來理解語言，但無法產生真正的理解。」（來源）
- 將像「治療師」ELIZA這樣的人工智慧引入社會的倫理問題也受到挑戰。
同時，各種人工智慧學派開始形成。「粗糙派與整潔派」的對立逐漸明顯。粗糙派 實驗室通過不斷調整程式來達到預期結果，而_整潔派_ 實驗室則「專注於邏輯和形式化問題解決」。ELIZA和SHRDLU是著名的_粗糙派_ 系統。在1980年代，隨著對機器學習系統可重現性的需求增加，整潔派 方法逐漸占據主導地位，因為其結果更具解釋性。
1980年代 專家系統
隨著該領域的發展，其對商業的益處變得更加明顯，1980年代「專家系統」開始大量湧現。「專家系統是最早真正成功的人工智慧（AI）軟體形式之一。」（來源）
這種類型的系統實際上是_混合型_，部分由定義業務需求的規則引擎組成，部分由利用規則系統推導新事實的推理引擎組成。
這一時期還看到對神經網路的關注日益增加。
1987年 - 1993年：人工智慧「冷卻期」
專家系統硬體的專業化程度過高，導致其不夠靈活。同時，個人電腦的興起也對這些大型、專業化、集中化的系統構成了競爭。計算的民主化開始了，最終為現代大數據的爆炸鋪平了道路。
1993年 - 2011年
這一時期見證了機器學習和人工智慧能夠解決早期由於數據和計算能力不足而引發的一些問題。數據量開始迅速增加並變得更容易獲得，尤其是在2007年左右智能手機的出現之後。計算能力呈指數增長，演算法也隨之演進。該領域開始走向成熟，過去的自由探索逐漸凝聚成一門真正的學科。
現在
今天，機器學習和人工智慧幾乎觸及我們生活的每一個部分。這個時代需要我們謹慎理解這些演算法對人類生活的風險和潛在影響。正如微軟的Brad Smith所說：「資訊技術提出了一些涉及基本人權保護的問題，比如隱私和言論自由。這些問題加重了創造這些產品的科技公司的責任。在我們看來，這也需要政府進行深思熟慮的監管，並制定關於可接受用途的規範。」（來源）
未來會如何發展仍有待觀察，但理解這些計算機系統及其運行的軟體和演算法是非常重要的。我們希望這門課程能幫助你更好地理解，從而讓你自己做出判斷。
🎥 點擊上方圖片觀看影片：Yann LeCun在這次講座中討論深度學習的歷史
🚀挑戰
深入研究這些歷史時刻中的一個，了解背後的人物。他們是一些非常有趣的人物，並且沒有任何科學發現是在文化真空中誕生的。你發現了什麼？
課後測驗
回顧與自學
以下是一些可以觀看和收聽的內容：
作業
免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議使用專業人工翻譯。我們對於因使用此翻譯而引起的任何誤解或錯誤解讀概不負責。