22 KiB
Ιστορία της μηχανικής μάθησης
Sketchnote από Tomomi Imura
Προ-διάλεξη κουίζ
🎥 Κάντε κλικ στην παραπάνω εικόνα για ένα σύντομο βίντεο που εξηγεί αυτό το μάθημα.
Σε αυτό το μάθημα, θα περπατήσουμε μέσα από τα κύρια ορόσημα στην ιστορία της μηχανικής μάθησης και της τεχνητής νοημοσύνης.
Η ιστορία της τεχνητής νοημοσύνης (AI) ως πεδίο είναι άρρηκτα συνδεδεμένη με την ιστορία της μηχανικής μάθησης, καθώς οι αλγόριθμοι και οι υπολογιστικές εξελίξεις που στηρίζουν την ML συνέβαλαν στην ανάπτυξη της AI. Είναι χρήσιμο να θυμόμαστε ότι, ενώ αυτά τα πεδία ως διακριτοί τομείς έρευνας άρχισαν να διαμορφώνονται τη δεκαετία του 1950, σημαντικές αλγοριθμικές, στατιστικές, μαθηματικές, υπολογιστικές και τεχνικές ανακαλύψεις προηγήθηκαν και επηρέασαν αυτή την περίοδο. Στην πραγματικότητα, οι άνθρωποι σκέφτονταν αυτές τις ερωτήσεις για εκατοντάδες χρόνια: αυτό το άρθρο συζητά τα ιστορικά πνευματικά θεμέλια της ιδέας της 'σκέψης μηχανής.'
Σημαντικές ανακαλύψεις
- 1763, 1812 Θεώρημα του Bayes και οι προγενέστεροι αυτού. Αυτό το θεώρημα και οι εφαρμογές του υποστηρίζουν την επαγωγή, περιγράφοντας την πιθανότητα ενός γεγονότος με βάση την προηγούμενη γνώση.
- 1805 Θεωρία των Ελαχίστων Τετραγώνων από τον Γάλλο μαθηματικό Adrien-Marie Legendre. Αυτή η θεωρία, που θα μάθετε στην ενότητα Παλινδρόμησης, βοηθά στην προσαρμογή δεδομένων.
- 1913 Μαρκοβικές Αλυσίδες, που ονομάστηκαν από τον Ρώσο μαθηματικό Andrey Markov, χρησιμοποιούνται για να περιγράψουν μια ακολουθία πιθανών γεγονότων βάσει μιας προηγούμενης κατάστασης.
- 1957 Περσέπτρον είναι ένας τύπος γραμμικού ταξινομητή που εφευρέθηκε από τον Αμερικανό ψυχολόγο Frank Rosenblatt και στηρίζεται στις προόδους στη βαθιά μάθηση.
- 1967 Πλησιέστερος Γείτονας είναι ένας αλγόριθμος που αρχικά σχεδιάστηκε για τον προσδιορισμό διαδρομών. Σε ένα πλαίσιο ML χρησιμοποιείται για την ανίχνευση προτύπων.
- 1970 Πίσω Διάδοση χρησιμοποιείται για την εκπαίδευση νευρωνικών δικτύων τροφοδοσίας προς τα εμπρός.
- 1982 Επαναφορικά Νευρωνικά Δίκτυα είναι τεχνητά νευρωνικά δίκτυα που προέρχονται από τα νευρωνικά δίκτυα τροφοδοσίας προς τα εμπρός και δημιουργούν χρονικά γραφήματα.
✅ Κάντε λίγη έρευνα. Ποιες άλλες ημερομηνίες ξεχωρίζουν ως καθοριστικές στην ιστορία της ML και της AI;
1950: Μηχανές που σκέφτονται
Ο Alan Turing, ένα πραγματικά αξιοθαύμαστο άτομο που ψηφίστηκε από το κοινό το 2019 ως ο μεγαλύτερος επιστήμονας του 20ού αιώνα, θεωρείται υπεύθυνος που βοήθησε στη θεμελίωση της έννοιας της 'μηχανής που μπορεί να σκέφτεται.' Αντιμετώπισε τους αμφισβητίες και την ανάγκη του για εμπειρικά αποδεικτικά στοιχεία αυτής της ιδέας εν μέρει δημιουργώντας το Τεστ Turing, που θα εξερευνήσετε στα μαθήματα NLP μας.
1956: Θερινό Ερευνητικό Πρόγραμμα Dartmouth
"Το Θερινό Ερευνητικό Πρόγραμμα Dartmouth για την τεχνητή νοημοσύνη ήταν ένα θεμελιώδες γεγονός για την τεχνητή νοημοσύνη ως πεδίο," και ήταν εδώ που επινοήθηκε ο όρος 'τεχνητή νοημοσύνη' (πηγή).
Κάθε πτυχή της μάθησης ή οποιοδήποτε άλλο χαρακτηριστικό της νοημοσύνης μπορεί αρχικά να περιγραφεί με τέτοια ακρίβεια ώστε να μπορεί να κατασκευαστεί μηχανή που να την προσομοιώνει.
Ο επικεφαλής ερευνητής, καθηγητής μαθηματικών John McCarthy, ελπίζει "να προχωρήσουμε βάσει της υπόθεσης ότι κάθε πτυχή της μάθησης ή οποιοδήποτε άλλο χαρακτηριστικό της νοημοσύνης μπορεί αρχικά να περιγραφεί τόσο ακριβώς ώστε να μπορεί να κατασκευαστεί μηχανή που να το προσομοιώνει." Οι συμμετέχοντες περιελάμβαναν και έναν άλλο φωτεινό εκπρόσωπο του τομέα, τον Marvin Minsky.
Το εργαστήριο αποδίδεται ότι ξεκίνησε και ενθάρρυνε πολλές συζητήσεις, συμπεριλαμβανομένων της "ανόδου των συμβολικών μεθόδων, συστημάτων εστιασμένων σε περιορισμένους τομείς (πρώιμα ειδικά συστήματα) και του ανταγωνισμού μεταξύ αποδεικτικών συστημάτων και επαγωγικών συστημάτων." (πηγή).
1956 - 1974: "Οι χρυσές εποχές"
Από τη δεκαετία του 1950 έως τα μέσα του '70, ο ενθουσιασμός ήταν μεγάλος με την ελπίδα ότι η AI θα μπορούσε να λύσει πολλά προβλήματα. Το 1967, ο Marvin Minsky δήλωσε με σιγουριά ότι "Μέσα σε μια γενιά ... το πρόβλημα της δημιουργίας 'τεχνητής νοημοσύνης' θα έχει ουσιαστικά λυθεί." (Minsky, Marvin (1967), Computation: Finite and Infinite Machines, Englewood Cliffs, N.J.: Prentice-Hall)
Η έρευνα στην επεξεργασία φυσικής γλώσσας άνθισε, η αναζήτηση βελτιώθηκε και έγινε πιο ισχυρή, και δημιουργήθηκε η έννοια των 'μικρόκοσμων', όπου απλές εργασίες εκτελούνταν με απλές γλωσσικές οδηγίες.
Η έρευνα χρηματοδοτήθηκε επαρκώς από κυβερνητικούς φορείς, έγιναν πρόοδοι στον υπολογισμό και στους αλγόριθμους, και κατασκευάστηκαν πρωτότυπα έξυπνων μηχανών. Κάποιες από αυτές τις μηχανές περιλαμβάνουν:
-
Shakey, το ρομπότ, που μπορούσε να κινείται και να αποφασίζει πώς να εκτελέσει εργασίες 'έξυπνα'.
Shakey το 1972
-
Η Eliza, ένα πρώιμο 'κουβεντορομπότ', μπορούσε να συνομιλεί με ανθρώπους και να λειτουργεί ως απλός 'θεραπευτής'. Θα μάθετε περισσότερα για την Eliza στα μαθήματα NLP.
Μια έκδοση της Eliza, chatbot
-
Το "μπλοκς κόσμος" ήταν ένα παράδειγμα μικρόκοσμου όπου τα μπλοκ μπορούσαν να στοιβάζονται και να ταξινομούνται, και πειράματα στη διδασκαλία μηχανών να παίρνουν αποφάσεις μπορούσαν να δοκιμαστούν. Οι εξελίξεις που έγιναν με βιβλιοθήκες όπως η SHRDLU βοήθησαν στην προώθηση της επεξεργασίας γλώσσας.
🎥 Κάντε κλικ στην παραπάνω εικόνα για βίντεο: Μπλοκς κόσμος με SHRDLU
1974 - 1980: "Χειμώνας της AI"
Μέσα στη δεκαετία του 1970, είχε γίνει σαφές ότι η πολυπλοκότητα του να κατασκευάζεις 'έξυπνες μηχανές' είχε υποτιμηθεί και ότι η υπόσχεσή της, με δεδομένη την διαθέσιμη υπολογιστική ισχύ, είχε υπερεκτιμηθεί. Η χρηματοδότηση εξαντλήθηκε και η εμπιστοσύνη στο πεδίο μειώθηκε. Μερικά από τα ζητήματα που επηρέασαν την εμπιστοσύνη συμπεριλάμβαναν:
- Περιορισμοί. Η υπολογιστική ισχύς ήταν πολύ περιορισμένη.
- Συνδυαστική Έκρηξη. Ο αριθμός των παραμέτρων που έπρεπε να εκπαιδευτούν αυξανόταν εκθετικά καθώς ζητούνταν περισσότερα από τους υπολογιστές, χωρίς παράλληλη εξέλιξη στην υπολογιστική ισχύ και δυνατότητες.
- Έλλειψη δεδομένων. Υπήρχε έλλειψη δεδομένων που εμπόδιζε τη διαδικασία δοκιμής, ανάπτυξης και βελτίωσης αλγορίθμων.
- Ζητάμε τις σωστές ερωτήσεις;. Οι ίδιες οι ερωτήσεις που τίθενται άρχισαν να αμφισβητούνται. Οι ερευνητές δέχτηκαν κριτική σχετικά με τις προσεγγίσεις τους:
- Τα τεστ Turing αμφισβητήθηκαν με βάση, μεταξύ άλλων ιδεών, τη 'θεωρία του κινεζικού δωματίου', η οποία πρότεινε ότι, "ο προγραμματισμός ενός ψηφιακού υπολογιστή μπορεί να κάνει να φαίνεται ότι καταλαβαίνει τη γλώσσα αλλά δεν μπορεί να παράγει πραγματική κατανόηση." (πηγή)
- Η ηθική της εισαγωγής τεχνητής νοημοσύνης όπως ο "θεραπευτής" ELIZA στην κοινωνία αμφισβητήθηκε.
Ταυτόχρονα, διάφορες σχολές σκέψης της AI άρχισαν να σχηματίζονται. Εγινε ένας διχοτομημένος διαχωρισμός μεταξύ πρακτικών "ατημέλητης" και "τακτικής AI". Τα ατημέλητα εργαστήρια διόρθωναν τα προγράμματα ώρες ατέλειωτες μέχρι να έχουν τα επιθυμητά αποτελέσματα. Τα τακτικά εργαστήρια "επικεντρώνονταν στη λογική και στην επίλυση προβλημάτων με επίσημο τρόπο". Τα ELIZA και SHRDLU ήταν γνωστά ατημέλητα συστήματα. Τη δεκαετία του 1980, καθώς προέκυψε η ανάγκη να γίνουν τα συστήματα ML αναπαραγώγιμα, η τακτική προσέγγιση πήρε σταδιακά το προβάδισμα καθώς τα αποτελέσματά της είναι πιο ερμηνεύσιμα.
1980s Ειδικά συστήματα
Καθώς το πεδίο μεγάλωνε, έγινε πιο σαφές το όφελός του για τις επιχειρήσεις, και τη δεκαετία του 1980 το ίδιο συνέβη με την εξάπλωση των 'ειδικών συστημάτων'. "Τα ειδικά συστήματα ήταν από τις πρώτες πραγματικά επιτυχημένες μορφές λογισμικού τεχνητής νοημοσύνης (AI)." (πηγή).
Αυτός ο τύπος συστήματος είναι στην πραγματικότητα υβριδικός, αποτελούμενος εν μέρει από έναν μηχανισμό κανόνων που ορίζει τις επιχειρησιακές απαιτήσεις, και έναν μηχανισμό επαγωγής που αξιοποιεί το σύστημα κανόνων για να συμπεράνει νέα στοιχεία.
Αυτή η εποχή είδε επίσης αυξανόμενο ενδιαφέρον στα νευρωνικά δίκτυα.
1987 - 1993: "Πάγωμα" της AI
Η εξάπλωση του εξειδικευμένου υλικού για τα ειδικά συστήματα είχε το δυσάρεστο αποτέλεσμα να γίνει πολύ εξειδικευμένη. Η άνοδος των προσωπικών υπολογιστών ανταγωνίστηκε επίσης αυτά τα μεγάλα, εξειδικευμένα, κεντρικά συστήματα. Η δημοκρατικοποίηση της πληροφορικής είχε ξεκινήσει και άνοιξε το δρόμο για τη σύγχρονη έκρηξη των μεγάλων δεδομένων.
1993 - 2011
Αυτή η εποχή είδε μια νέα εποχή για την ML και την AI, που μπόρεσαν να λύσουν κάποια από τα προβλήματα που είχαν προκύψει πριν από την έλλειψη δεδομένων και υπολογιστικής ισχύος. Η ποσότητα των δεδομένων άρχισε να αυξάνεται ραγδαία και να γίνεται πιο ευρέως διαθέσιμη, για καλό και για κακό, ειδικά με την άφιξη του smartphone γύρω στο 2007. Η υπολογιστική ισχύς αυξήθηκε εκθετικά και οι αλγόριθμοι εξελίχθηκαν παράλληλα. Το πεδίο άρχισε να ωριμάζει καθώς οι ελεύθερες μέρες του παρελθόντος άρχισαν να μετουσιώνονται σε μια πραγματική επιστήμη.
Σήμερα
Σήμερα η μηχανική μάθηση και η AI αγγίζουν σχεδόν κάθε μέρος της ζωής μας. Αυτή η εποχή απαιτεί προσεκτική κατανόηση των κινδύνων και των πιθανών επιπτώσεων αυτών των αλγορίθμων στη ζωή των ανθρώπων. Όπως δήλωσε ο Brad Smith της Microsoft, "Η τεχνολογία της πληροφορίας εγείρει ζητήματα που πηγαίνουν στην καρδιά των θεμελιωδών προστασιών των ανθρωπίνων δικαιωμάτων όπως το απόρρητο και η ελευθερία της έκφρασης. Αυτά τα ζητήματα αυξάνουν την ευθύνη των τεχνολογικών εταιρειών που δημιουργούν αυτά τα προϊόντα. Κατά την άποψή μας, απαιτούν επίσης στοχαστική κυβερνητική ρύθμιση και την ανάπτυξη κανόνων γύρω από τις αποδεκτές χρήσεις" (πηγή).
Ακόμη απομένει να δούμε τι επιφυλάσσει το μέλλον, αλλά είναι σημαντικό να κατανοήσουμε αυτά τα υπολογιστικά συστήματα και το λογισμικό και τους αλγορίθμους με τους οποίους λειτουργούν. Ελπίζουμε ότι αυτό το εκπαιδευτικό πρόγραμμα θα σας βοηθήσει να αποκτήσετε καλύτερη κατανόηση ώστε να μπορείτε να αποφασίσετε μόνοι σας.
🎥 Κάντε κλικ στην παραπάνω εικόνα για βίντεο: Ο Yann LeCun συζητά την ιστορία της βαθιάς μάθησης σε αυτή τη διάλεξη
🚀Πρόκληση
Εμβαθύνετε σε μια από αυτές τις ιστορικές στιγμές και μάθετε περισσότερα για τους ανθρώπους πίσω από αυτές. Υπάρχουν συναρπαστικοί χαρακτήρες, και καμία επιστημονική ανακάλυψη δεν δημιουργήθηκε ποτέ σε έναν πολιτισμικό κενό. Τι ανακαλύπτετε;
Μετά-διάλεξη κουίζ
Ανασκόπηση & Αυτο-μελέτη
Εδώ είναι υλικό για παρακολούθηση και ακρόαση:
Αυτό το podcast όπου η Amy Boyd συζητά την εξέλιξη της AI
Εργασία
Δημιουργήστε μια χρονολογική σειρά
Αποποίηση ευθυνών: Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία μετάφρασης με τεχνητή νοημοσύνη Co-op Translator. Ενώ επιδιώκουμε την ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή λανθασμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.