leestott
ffd4047095
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 3 weeks ago | |
README.md
Історія машинного навчання
Скетчнот від Tomomi Imura
Тест перед лекцією
🎥 Натисніть на зображення вище, щоб переглянути коротке відео, яке пояснює цей урок.
У цьому уроці ми розглянемо основні віхи в історії машинного навчання та штучного інтелекту.
Історія штучного інтелекту (ШІ) як галузі тісно переплітається з історією машинного навчання, оскільки алгоритми та обчислювальні досягнення, які лежать в основі ML, сприяли розвитку ШІ. Важливо пам’ятати, що хоча ці галузі як окремі напрямки досліджень почали формуватися у 1950-х роках, важливі алгоритмічні, статистичні, математичні, обчислювальні та технічні відкриття передували та перетиналися з цією епохою. Насправді люди розмірковували над цими питаннями сотні років: ця стаття обговорює історичні інтелектуальні основи ідеї «мислячої машини».
Важливі відкриття
- 1763, 1812 Теорема Байєса та її попередники. Ця теорема та її застосування лежать в основі інференції, описуючи ймовірність події на основі попередніх знань.
- 1805 Теорія найменших квадратів французького математика Адрієна-Марі Лежандра. Ця теорія, яку ви вивчатимете в нашому модулі про регресію, допомагає у підгонці даних.
- 1913 Ланцюги Маркова, названі на честь російського математика Андрія Маркова, використовуються для опису послідовності можливих подій на основі попереднього стану.
- 1957 Перцептрон — це тип лінійного класифікатора, винайдений американським психологом Френком Розенблаттом, який лежить в основі досягнень у глибокому навчанні.
- 1967 Найближчий сусід — це алгоритм, спочатку розроблений для прокладання маршрутів. У контексті ML він використовується для виявлення шаблонів.
- 1970 Зворотне поширення використовується для навчання нейронних мереж прямого поширення.
- 1982 Рекурентні нейронні мережі — це штучні нейронні мережі, створені на основі нейронних мереж прямого поширення, які формують часові графи.
✅ Проведіть невелике дослідження. Які ще дати виділяються як ключові в історії ML та ШІ?
1950: Машини, які думають
Алан Тюрінг, справді видатна особистість, якого громадськість у 2019 році визнала найвидатнішим ученим XX століття, вважається тим, хто допоміг закласти основу концепції «машини, яка може думати». Він боровся з критиками та власною потребою в емпіричних доказах цієї концепції, частково створивши Тест Тюрінга, який ви досліджуватимете в наших уроках з обробки природної мови.
1956: Літній дослідницький проект у Дартмуті
"Літній дослідницький проект у Дартмуті з штучного інтелекту став визначною подією для штучного інтелекту як галузі", і саме тут було введено термін "штучний інтелект" (джерело).
Кожен аспект навчання або будь-яка інша особливість інтелекту може бути настільки точно описаний, що машину можна створити для його імітації.
Головний дослідник, професор математики Джон Маккарті, сподівався "просуватися на основі припущення, що кожен аспект навчання або будь-яка інша особливість інтелекту може бути настільки точно описаний, що машину можна створити для його імітації". Учасниками були й інші видатні особистості в цій галузі, зокрема Марвін Мінський.
Ця майстерня вважається такою, що започаткувала та заохотила кілька дискусій, включаючи "підйом символічних методів, систем, орієнтованих на обмежені домени (ранні експертні системи), та дедуктивні системи проти індуктивних систем". (джерело).
1956 - 1974: "Золоті роки"
З 1950-х до середини 70-х років оптимізм щодо того, що ШІ може вирішити багато проблем, був високим. У 1967 році Марвін Мінський впевнено заявив: "Протягом одного покоління ... проблема створення 'штучного інтелекту' буде суттєво вирішена". (Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall)
Дослідження обробки природної мови процвітали, пошук був удосконалений і став потужнішим, а концепція "мікросвітів" була створена, де прості завдання виконувалися за допомогою інструкцій простою мовою.
Дослідження добре фінансувалися урядовими агентствами, досягнення були зроблені в обчисленнях та алгоритмах, і прототипи інтелектуальних машин були створені. Деякі з цих машин включають:
-
Робот Шейкі, який міг маневрувати та вирішувати, як виконувати завдання "інтелектуально".
Шейкі у 1972 році
-
Еліза, ранній "чат-бот", могла спілкуватися з людьми та діяти як примітивний "терапевт". Ви дізнаєтеся більше про Елізу в уроках з обробки природної мови.
Версія Елізи, чат-бота
-
"Світ блоків" був прикладом мікросвіту, де блоки можна було складати та сортувати, а експерименти з навчання машин приймати рішення могли бути протестовані. Досягнення, створені за допомогою бібліотек, таких як SHRDLU, допомогли просунути обробку мови вперед.
🎥 Натисніть на зображення вище для відео: Світ блоків з SHRDLU
1974 - 1980: "Зима ШІ"
До середини 1970-х років стало очевидним, що складність створення "інтелектуальних машин" була недооцінена, а її обіцянки, враховуючи доступну обчислювальну потужність, були перебільшені. Фінансування скоротилося, і впевненість у галузі знизилася. Деякі проблеми, які вплинули на впевненість, включають:
- Обмеження. Обчислювальна потужність була занадто обмеженою.
- Комбінаторний вибух. Кількість параметрів, які потрібно було навчати, зростала експоненціально, коли від комп’ютерів вимагали більше, без паралельної еволюції обчислювальної потужності та можливостей.
- Недостатність даних. Недостатність даних заважала процесу тестування, розробки та вдосконалення алгоритмів.
- Чи ми ставимо правильні запитання?. Самі запитання, які ставилися, почали ставити під сумнів. Дослідники почали стикатися з критикою своїх підходів:
- Тести Тюрінга були поставлені під сумнів, серед іншого, через теорію "китайської кімнати", яка стверджувала, що "програмування цифрового комп’ютера може створити видимість розуміння мови, але не може створити справжнє розуміння". (джерело)
- Етика введення штучного інтелекту, такого як "терапевт" Еліза, у суспільство була поставлена під сумнів.
У той же час почали формуватися різні школи думки ШІ. Було встановлено дихотомію між "неохайним" і "акуратним ШІ". Неохайні лабораторії годинами налаштовували програми, поки не отримували бажаних результатів. Акуратні лабораторії "зосереджувалися на логіці та формальному вирішенні проблем". Еліза та SHRDLU були добре відомими неохайними системами. У 1980-х роках, коли виникла потреба зробити системи ML відтворюваними, акуратний підхід поступово вийшов на передній план, оскільки його результати є більш пояснюваними.
Експертні системи 1980-х років
У міру зростання галузі її користь для бізнесу стала очевиднішою, і в 1980-х роках також відбулося поширення "експертних систем". "Експертні системи були одними з перших справді успішних форм програмного забезпечення штучного інтелекту (ШІ)" (джерело).
Цей тип системи фактично є гібридним, частково складається з механізму правил, що визначає бізнес-вимоги, і механізму висновків, який використовує систему правил для виведення нових фактів.
Ця епоха також привернула більше уваги до нейронних мереж.
1987 - 1993: "Охолодження ШІ"
Поширення спеціалізованого апаратного забезпечення для експертних систем мало невдалий ефект надмірної спеціалізації. Поява персональних комп’ютерів також конкурувала з цими великими, спеціалізованими, централізованими системами. Демократизація обчислень розпочалася, і вона зрештою проклала шлях до сучасного вибуху великих даних.
1993 - 2011
Ця епоха ознаменувала нову еру для ML і ШІ, які змогли вирішити деякі проблеми, спричинені раніше через брак даних і обчислювальної потужності. Кількість даних почала швидко зростати та ставати більш доступною, як на краще, так і на гірше, особливо з появою смартфона близько 2007 року. Обчислювальна потужність розширювалася експоненціально, а алгоритми еволюціонували разом із нею. Галузь почала набувати зрілості, оскільки вільні дні минулого почали кристалізуватися в справжню дисципліну.
Сьогодні
Сьогодні машинне навчання та ШІ торкаються майже кожної частини нашого життя. Ця епоха вимагає ретельного розуміння ризиків і потенційних наслідків цих алгоритмів для людського життя. Як заявив Бред Сміт із Microsoft: "Інформаційні технології порушують питання, які стосуються основних захистів прав людини, таких як конфіденційність і свобода вираження думок. Ці питання підвищують відповідальність технологічних компаній, які створюють ці продукти. На нашу думку, вони також вимагають продуманої державної регуляції та розробки норм щодо прийнятного використання" (джерело).
Що чекає на нас у майбутньому, поки невідомо, але важливо розуміти ці комп’ютерні системи, програмне забезпечення та алгоритми, які вони виконують. Ми сподіваємося, що цей навчальний план допоможе вам краще зрозуміти, щоб ви могли вирішити самостійно.
🎥 Натисніть на зображення вище для відео: Янн ЛеКун обговорює історію глибокого навчання в цій лекції
🚀Завдання
Зануртеся в один із цих історичних моментів і дізнайтеся більше про людей, які стоять за ними. Це захоплюючі особистості, і жодне наукове відкриття ніколи не було створене в культурному вакуумі. Що ви відкриєте?
Тест після лекції
Огляд і самостійне навчання
Ось матеріали для перегляду та прослуховування:
Цей подкаст, де Емі Бойд обговорює еволюцію ШІ
Завдання
Відмова від відповідальності:
Цей документ було перекладено за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, зверніть увагу, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ мовою оригіналу слід вважати авторитетним джерелом. Для критично важливої інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.