leestott
eaff2e5814
|
2 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 2 weeks ago | |
| assignment.md | 3 weeks ago | |
README.md
機械学習の歴史
スケッチノート: Tomomi Imura
講義前のクイズ
🎥 上の画像をクリックすると、このレッスンの短い動画が再生されます。
このレッスンでは、機械学習と人工知能の歴史における主要なマイルストーンを見ていきます。
人工知能（AI）の歴史は、機械学習の歴史と密接に関連しています。機械学習を支えるアルゴリズムや計算技術の進歩がAIの発展に寄与してきました。これらの分野が独立した研究領域として結晶化し始めたのは1950年代ですが、それ以前にも重要なアルゴリズム、統計、数学、計算技術、技術的な発見がありました。実際、人々は何百年も前から「考える機械」というアイデアについて考えてきました。この記事では、「考える機械」という概念の歴史的な知的基盤について議論しています。
主な発見
- 1763年、1812年 ベイズの定理とその前身。この定理とその応用は、事前の知識に基づいてイベントが発生する確率を記述する推論の基礎となっています。
- 1805年 最小二乗法。フランスの数学者Adrien-Marie Legendreによるこの理論は、回帰ユニットで学ぶデータフィッティングに役立ちます。
- 1913年 マルコフ連鎖。ロシアの数学者Andrey Markovにちなんで名付けられたこの理論は、前の状態に基づいて可能なイベントのシーケンスを記述します。
- 1957年 パーセプトロン。アメリカの心理学者Frank Rosenblattによって発明された線形分類器の一種で、深層学習の進歩の基礎となっています。
- 1967年 最近傍法。もともとはルートをマッピングするために設計されたアルゴリズムで、機械学習ではパターン検出に使用されます。
- 1970年 バックプロパゲーション。フィードフォワードニューラルネットワークを訓練するために使用されます。
- 1982年 リカレントニューラルネットワーク。フィードフォワードニューラルネットワークから派生した人工ニューラルネットワークで、時間的なグラフを作成します。
✅ 少し調査してみましょう。機械学習とAIの歴史において重要な日付は他に何がありますか？
1950年: 考える機械
Alan Turingは、2019年に一般投票で20世紀最大の科学者として選ばれた非常に優れた人物であり、「考える機械」という概念の基礎を築いたとされています。彼はこの概念に対する批判や実証的な証拠の必要性に取り組む中で、チューリングテストを作成しました。このテストについては、NLPのレッスンで詳しく学びます。
1956年: ダートマス夏季研究プロジェクト
「ダートマス夏季研究プロジェクトは、人工知能という分野にとって画期的なイベントでした。」ここで「人工知能」という用語が初めて使われました (source)。
学習や知能の他の特徴のすべての側面は、原則として非常に正確に記述される可能性があり、それによって機械がそれを模倣できるようになる。
主導研究者である数学教授John McCarthyは、「学習や知能の他の特徴のすべての側面は、原則として非常に正確に記述される可能性があり、それによって機械がそれを模倣できるようになる」という仮説に基づいて進めることを望んでいました。参加者には、この分野のもう一人の著名人であるMarvin Minskyも含まれていました。
このワークショップは、「象徴的な方法の台頭、限定された領域に焦点を当てたシステム（初期のエキスパートシステム）、および演繹システムと帰納システムの対立」など、いくつかの議論を開始し、促進したとされています (source)。
1956年 - 1974年: 「黄金時代」
1950年代から1970年代半ばにかけて、AIが多くの問題を解決できるという希望に満ちた楽観主義が広がりました。1967年、Marvin Minskyは自信を持って次のように述べました。「一世代以内に…『人工知能』を作り出す問題は実質的に解決されるだろう。」(Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall)
自然言語処理の研究が盛んになり、検索が洗練されて強力になり、「マイクロワールド」という概念が生まれました。これは、簡単なタスクが平易な言語指示を使用して完了されるものでした。
政府機関による研究資金が豊富に提供され、計算とアルゴリズムの進歩があり、知的な機械のプロトタイプが構築されました。これらの機械には以下が含まれます：
-
Shakey the robot。タスクを「知的に」実行する方法を決定しながら移動できるロボット。
1972年のShakey
-
Eliza。初期の「チャットボット」で、人々と会話し、原始的な「セラピスト」として機能しました。ElizaについてはNLPのレッスンで詳しく学びます。
チャットボットElizaのバージョン
-
「ブロックワールド」。ブロックを積み上げたり並べ替えたりするマイクロワールドの例で、機械に意思決定を教える実験が行われました。SHRDLUのようなライブラリを使用して構築された進歩が言語処理を前進させました。
🎥 上の画像をクリックすると動画が再生されます: SHRDLUによるブロックワールド
1974年 - 1980年: 「AIの冬」
1970年代半ばまでに、「知的な機械」を作ることの複雑さが過小評価されていたことが明らかになり、利用可能な計算能力を考慮するとその約束が過大評価されていたことが分かりました。資金が枯渇し、分野への信頼が低下しました。信頼を損なった要因には以下が含まれます：
- 限界。計算能力があまりにも限られていました。
- 組み合わせ爆発。コンピュータに求められることが増えるにつれて、訓練する必要のあるパラメータの量が指数関数的に増加しましたが、計算能力と能力の進化が並行して進みませんでした。
- データ不足。アルゴリズムのテスト、開発、改良プロセスを妨げるデータ不足がありました。
- 正しい質問をしているのか？。研究者が取り組んでいる質問そのものが疑問視され始めました。以下のような批判が寄せられました：
- チューリングテストは、「中国語の部屋」理論などによって疑問視されました。この理論は、「デジタルコンピュータをプログラムすることで言語を理解しているように見せることはできるが、実際の理解を生み出すことはできない」と主張しました (source)。
- 「セラピスト」ELIZAのような人工知能を社会に導入する倫理が議論されました。
同時に、さまざまなAIの思想が形成され始めました。「スクラフィー vs. ニートAI」(source)の二分法が確立されました。_スクラフィー_な研究室では、望ましい結果が得られるまでプログラムを何時間も調整しました。一方、_ニート_な研究室では「論理と形式的な問題解決」に焦点を当てました。ELIZAやSHRDLUは有名な_スクラフィー_システムでした。1980年代には、機械学習システムを再現可能にする需要が高まり、結果がより説明可能な_ニート_なアプローチが徐々に主流となりました。
1980年代 エキスパートシステム
分野が成長するにつれて、ビジネスへの利益が明確になり、1980年代には「エキスパートシステム」の普及が進みました。「エキスパートシステムは、人工知能（AI）ソフトウェアの中で最初に成功した形態の一つでした。」(source)
このタイプのシステムは実際には_ハイブリッド_であり、ビジネス要件を定義するルールエンジンと、ルールシステムを活用して新しい事実を推論する推論エンジンで構成されています。
この時代はまた、ニューラルネットワークへの関心が高まった時期でもあります。
1987年 - 1993年: AIの「冷却期」
専門化されたエキスパートシステムハードウェアの普及は、残念ながら過度に専門化される結果を招きました。パーソナルコンピュータの台頭もこれらの大規模で専門化された集中型システムと競合しました。コンピューティングの民主化が始まり、最終的にはビッグデータの現代的な爆発への道を開きました。
1993年 - 2011年
この時代は、以前のデータ不足や計算能力不足によって引き起こされた問題を解決するために、機械学習とAIが新たな時代を迎えた時期です。データ量が急速に増加し、より広く利用可能になり、良い面も悪い面もありました。特に2007年頃のスマートフォンの登場が影響を与えました。計算能力は指数関数的に拡大し、アルゴリズムも進化しました。この分野は成熟し始め、過去の自由奔放な時代が真の学問分野へと結晶化していきました。
現在
今日、機械学習とAIは私たちの生活のほぼすべての部分に影響を与えています。この時代は、これらのアルゴリズムが人間の生活に与えるリスクと潜在的な影響を慎重に理解することが求められています。MicrosoftのBrad Smithは次のように述べています。「情報技術は、プライバシーや表現の自由といった基本的な人権保護の核心に関わる問題を提起します。これらの問題は、これらの製品を作るテクノロジー企業に対する責任を高めます。私たちの見解では、これらの問題は思慮深い政府規制と許容可能な使用に関する規範の開発を求めています。」(source)
未来がどうなるかはまだ分かりませんが、これらのコンピュータシステムとそれらが実行するソフトウェアやアルゴリズムを理解することが重要です。このカリキュラムが、より良い理解を得て、自分自身で判断できるようになる助けとなることを願っています。
🎥 上の画像をクリックすると動画が再生されます: Yann LeCunがこの講義で深層学習の歴史について語ります
🚀チャレンジ
これらの歴史的な瞬間の一つを掘り下げて、その背後にいる人物についてもっと学んでみましょう。魅力的な人物がたくさんいます。科学的な発見は文化的な真空の中で生まれることはありません。何を発見しましたか？
講義後のクイズ
復習と自己学習
以下の項目を視聴・聴取してください：
このポッドキャストではAmy BoydがAIの進化について語ります
課題
免責事項:
この文書は、AI翻訳サービス Co-op Translator を使用して翻訳されています。正確性を期すよう努めておりますが、自動翻訳には誤りや不正確な表現が含まれる可能性があります。元の言語で記載された原文を公式な情報源としてご参照ください。重要な情報については、専門の人間による翻訳を推奨します。本翻訳の利用に起因する誤解や誤認について、当社は一切の責任を負いません。