13 KiB
Mašininio mokymosi istorija
Sketchnote sukūrė Tomomi Imura
Prieš paskaitos testą
🎥 Spustelėkite aukščiau esančią nuotrauką, kad peržiūrėtumėte trumpą vaizdo įrašą apie šią pamoką.
Šioje pamokoje apžvelgsime svarbiausius mašininio mokymosi ir dirbtinio intelekto istorijos etapus.
Dirbtinio intelekto (DI) istorija kaip sritis yra glaudžiai susijusi su mašininio mokymosi istorija, nes algoritmai ir skaičiavimo pažanga, kuri yra mašininio mokymosi pagrindas, prisidėjo prie DI vystymosi. Svarbu prisiminti, kad nors šios sritys kaip atskiros tyrimų kryptys pradėjo formuotis 1950-aisiais, svarbūs algoritminiai, statistiniai, matematiniai, skaičiavimo ir techniniai atradimai vyko dar prieš tai ir persidengė su šiuo laikotarpiu. Iš tiesų, žmonės apie šiuos klausimus galvojo jau šimtus metų: šiame straipsnyje aptariami istoriniai intelektualiniai pagrindai idėjai apie „mąstančią mašiną“.
Svarbūs atradimai
- 1763, 1812 Bayeso teorema ir jos pirmtakai. Ši teorema ir jos taikymas yra pagrindas išvadoms, apibūdinant tikimybę, kad įvykis įvyks remiantis ankstesnėmis žiniomis.
- 1805 Mažiausių kvadratų teorija, sukurta prancūzų matematiko Adrien-Marie Legendre. Ši teorija, apie kurią sužinosite regresijos skyriuje, padeda pritaikyti duomenis.
- 1913 Markovo grandinės, pavadintos rusų matematiko Andrejaus Markovo vardu, naudojamos apibūdinti galimų įvykių seką remiantis ankstesne būsena.
- 1957 Perceptronas – tai linijinis klasifikatorius, kurį sukūrė amerikiečių psichologas Frankas Rosenblattas ir kuris yra giliųjų mokymosi pažangos pagrindas.
- 1967 Artimiausio kaimyno algoritmas iš pradžių buvo sukurtas maršrutams sudaryti. Mašininio mokymosi kontekste jis naudojamas atpažinti modelius.
- 1970 Atgalinio sklidimo algoritmas naudojamas mokyti priekinių neuroninių tinklų.
- 1982 Pasikartojantys neuroniniai tinklai – tai dirbtiniai neuroniniai tinklai, sukurti iš priekinių neuroninių tinklų, kurie sudaro laiko grafikus.
✅ Atlikite nedidelį tyrimą. Kokios kitos datos išsiskiria kaip svarbios mašininio mokymosi ir DI istorijoje?
1950: Mąstančios mašinos
Alanas Turingas, išskirtinė asmenybė, kurią 2019 m. visuomenė išrinko didžiausiu XX a. mokslininku, laikomas padėjusiu pagrindą „mąstančios mašinos“ koncepcijai. Jis susidūrė su skeptikais ir savo paties poreikiu empiriškai įrodyti šią idėją, iš dalies sukūręs Turingo testą, kurį nagrinėsite NLP pamokose.
1956: Dartmuto vasaros tyrimų projektas
„Dartmuto vasaros tyrimų projektas apie dirbtinį intelektą buvo svarbus įvykis dirbtinio intelekto kaip srities istorijoje“, ir būtent čia buvo sugalvotas terminas „dirbtinis intelektas“ (šaltinis).
Kiekvienas mokymosi ar bet kuris kitas intelekto bruožas iš esmės gali būti taip tiksliai aprašytas, kad mašina galėtų jį imituoti.
Pagrindinis tyrėjas, matematikos profesorius Johnas McCarthy, tikėjosi „dirbti remiantis prielaida, kad kiekvienas mokymosi ar bet kuris kitas intelekto bruožas iš esmės gali būti taip tiksliai aprašytas, kad mašina galėtų jį imituoti“. Dalyviai buvo ir kitas šios srities šviesulys – Marvinas Minsky.
Seminaras laikomas paskatinusiu ir inicijavusiu kelias diskusijas, įskaitant „simbolinių metodų iškilimą, sistemų, orientuotų į ribotas sritis (ankstyvieji ekspertų sistemos), ir dedukcinių sistemų prieš indukcines sistemas“ (šaltinis).
1956 - 1974: „Auksiniai metai“
Nuo 1950-ųjų iki 1970-ųjų vidurio vyravo optimizmas, kad DI galėtų išspręsti daugelį problemų. 1967 m. Marvinas Minsky užtikrintai teigė: „Per vieną kartą... dirbtinio intelekto sukūrimo problema iš esmės bus išspręsta.“ (Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall)
Natūralios kalbos apdorojimo tyrimai klestėjo, paieška buvo patobulinta ir tapo galingesnė, o „mikropasaulių“ koncepcija buvo sukurta, kur paprastos užduotys buvo atliekamos naudojant paprastas kalbos instrukcijas.
Tyrimai buvo gerai finansuojami vyriausybės agentūrų, buvo pasiekta pažanga skaičiavimuose ir algoritmuose, o prototipai intelektualių mašinų buvo sukurti. Kai kurios iš šių mašinų apima:
-
Shakey robotas, kuris galėjo manevruoti ir nuspręsti, kaip „protingai“ atlikti užduotis.
Shakey 1972 m.
-
Eliza, ankstyvas „chatterbot“, galėjo bendrauti su žmonėmis ir veikti kaip primityvus „terapeutas“. Apie Elizą sužinosite daugiau NLP pamokose.
Elizos, chatbot versija
-
„Blokų pasaulis“ buvo mikropasaulio pavyzdys, kur blokai galėjo būti sukrauti ir surūšiuoti, o eksperimentai mokant mašinas priimti sprendimus galėjo būti išbandyti. Pažanga, pasiekta naudojant bibliotekas, tokias kaip SHRDLU, padėjo kalbos apdorojimui judėti į priekį.
🎥 Spustelėkite aukščiau esančią nuotrauką, kad peržiūrėtumėte vaizdo įrašą: Blokų pasaulis su SHRDLU
1974 - 1980: „DI žiema“
Iki 1970-ųjų vidurio tapo akivaizdu, kad „intelektualių mašinų“ kūrimo sudėtingumas buvo nepakankamai įvertintas, o jų pažadas, atsižvelgiant į turimą skaičiavimo galią, buvo pervertintas. Finansavimas sumažėjo, o pasitikėjimas šia sritimi sulėtėjo. Kai kurios problemos, kurios paveikė pasitikėjimą, apima:
- Ribotumai. Skaičiavimo galia buvo per maža.
- Kombinatorinis sprogimas. Parametrų, kuriuos reikėjo mokyti, kiekis eksponentiškai augo, kai kompiuteriams buvo keliami didesni reikalavimai, be lygiagrečios skaičiavimo galios ir pajėgumų evoliucijos.
- Duomenų trūkumas. Duomenų trūkumas trukdė testavimo, kūrimo ir algoritmų tobulinimo procesui.
- Ar užduodame tinkamus klausimus?. Pradėta abejoti pačiais užduodamais klausimais. Tyrėjai susidūrė su kritika dėl savo požiūrių:
- Turingo testai buvo kvestionuojami, be kita ko, „kinų kambario teorija“, kuri teigė, kad „programuojant skaitmeninį kompiuterį gali atrodyti, kad jis supranta kalbą, tačiau negali sukurti tikro supratimo.“ (šaltinis)
- Etika, susijusi su dirbtinio intelekto, tokio kaip „terapeutas“ ELIZA, įvedimu į visuomenę, buvo ginčijama.
Tuo pačiu metu pradėjo formuotis įvairios DI mokyklos. Buvo nustatyta dichotomija tarp "netvarkingo" ir "tvarkingo DI" praktikų. Netvarkingos laboratorijos valandų valandas koregavo programas, kol pasiekė norimus rezultatus. Tvarkingos laboratorijos „fokusavosi į logiką ir formalių problemų sprendimą“. ELIZA ir SHRDLU buvo gerai žinomos netvarkingos sistemos. 1980-aisiais, kai atsirado poreikis padaryti ML sistemas atkuriamas, tvarkingas požiūris palaipsniui tapo prioritetu, nes jo rezultatai yra labiau paaiškinami.
1980-ieji Ekspertų sistemos
Augant sričiai, jos nauda verslui tapo aiškesnė, o 1980-aisiais taip pat išaugo „ekspertų sistemų“ skaičius. „Ekspertų sistemos buvo vienos iš pirmųjų tikrai sėkmingų dirbtinio intelekto (DI) programinės įrangos formų.“ (šaltinis).
Šio tipo sistema iš tikrųjų yra hibridinė, iš dalies sudaryta iš taisyklių variklio, apibrėžiančio verslo reikalavimus, ir išvadų variklio, kuris pasinaudojo taisyklių sistema, kad padarytų naujas išvadas.
Šiuo laikotarpiu taip pat buvo skiriamas didesnis dėmesys neuroniniams tinklams.
1987 - 1993: DI „atvėsimas“
Specializuotos ekspertų sistemų aparatinės įrangos plitimas turėjo neigiamą poveikį, nes tapo per daug specializuotas. Asmeninių kompiuterių iškilimas taip pat konkuravo su šiomis didelėmis, specializuotomis, centralizuotomis sistemomis. Kompiuterių demokratizacija prasidėjo, ir ji galiausiai atvėrė kelią šiuolaikiniam didžiųjų duomenų sprogimui.
1993 - 2011
Šis laikotarpis atnešė naują erą ML ir DI, kad būtų galima išspręsti kai kurias problemas, kurios anksčiau kilo dėl duomenų ir skaičiavimo galios trūkumo. Duomenų kiekis pradėjo sparčiai augti ir tapo plačiau prieinamas, tiek gerai, tiek blogai, ypač su išmaniųjų telefonų atsiradimu apie 2007 m. Skaičiavimo galia eksponentiškai išaugo, o algoritmai evoliucionavo kartu. Sritis pradėjo bręsti, nes laisvamaniškos praeities dienos pradėjo kristalizuotis į tikrą discipliną.
Dabar
Šiandien mašininis mokymasis ir DI paliečia beveik kiekvieną mūsų gyvenimo dalį. Šis laikotarpis reikalauja kruopštaus supratimo apie šių algoritmų riziką ir galimą poveikį žmonių gyvenimams. Kaip teigia „Microsoft“ Brad Smith: „Informacinės technologijos kelia klausimus, kurie liečia pagrindines žmogaus teisių apsaugos sritis, tokias kaip privatumas ir saviraiškos laisvė. Šie klausimai didina atsakomybę technologijų įmonėms, kurios kuria šiuos produktus. Mūsų nuomone, jie taip pat reikalauja apgalvoto vyriausybės reguliavimo ir normų kūrimo, susijusių su priimtinu naudojimu“ (šaltinis).
Dar neaišku, ką atneš ateitis, tačiau svarbu suprasti šias kompiuterines sistemas, programinę įrangą ir algoritmus, kuriuos jos vykdo. Tikimės, kad ši mokymo programa padės jums geriau suprasti, kad galėtumėte nuspręsti patys.
🎥 Spustelėkite aukščiau esančią nuotrauką, kad peržiūrėtumėte vaizdo įrašą: Yann LeCun aptaria giliojo mokymosi istoriją šioje paskaitoje
🚀Iššūkis
Pasigilinkite į vieną iš šių istorinių momentų ir sužinokite daugiau apie žmones, kurie už jų slypi. Tai įdomios asmenybės, ir nė vienas mokslinis atradimas nebuvo sukurtas kultūrinėje vakuumoje. Ką atrandate?
Po paskaitos testą
Apžvalga ir savarankiškas mokymasis
Štai ką galite peržiūrėti ir išklausyti:
Šis podcastas, kuriame Amy Boyd aptaria DI evoliuciją
Užduotis
Atsakomybės apribojimas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar klaidingus interpretavimus, atsiradusius naudojant šį vertimą.