Μάθηση σε ανθρώπους έναντι εκπαίδευσης σε νευρωνικά δίκτυα
Αυτή η λεπτομερής σύγκριση εξετάζει τις βαθιές διακρίσεις μεταξύ της βιολογικής ανθρώπινης μάθησης —η οποία χαρακτηρίζεται από προσαρμοστική συναπτική πλαστικότητα, συναισθηματικό πλαίσιο και ταχεία γενίκευση— και της μαθηματικής εκπαίδευσης τεχνητών νευρωνικών δικτύων μέσω οπισθοδιάδοσης και επαναληπτικής βελτιστοποίησης βάρους.
Κορυφαία σημεία
Οι άνθρωποι μαθαίνουν αναδιαμορφώνοντας φυσικά τις βιολογικές συνάψεις, ενώ οι μηχανές ενημερώνουν τους αριθμητικούς πίνακες.
Ένα άτομο μπορεί να αφαιρέσει κανόνες από ένα μόνο συμβάν, ενώ ένα νευρωνικό δίκτυο απαιτεί έκθεση σε σύνολα δεδομένων μεγάλης κλίμακας.
Η τεχνητή εκπαίδευση ενέχει τον κίνδυνο καταστροφικής λήθης, ένα πρόβλημα που μετριάζεται στους ανθρώπους με την ενοποίηση της μνήμης κατά τη διάρκεια του ύπνου.
Ο ανθρώπινος εγκέφαλος λειτουργεί με κλασματική ενέργεια σε σύγκριση με τα τεράστια ηλεκτρικά δίκτυα που απαιτούνται από την εκπαίδευση στις μηχανές.
Τι είναι το Μάθηση στους Ανθρώπους;
Η σύνθετη, πολύπλευρη βιολογική διαδικασία όπου ο εγκέφαλος αποκτά γνώσεις, συμπεριφορές και δεξιότητες μέσω εμπειριών, περιβαλλοντικών αλληλεπιδράσεων και συναπτικών τροποποιήσεων.
Η βιολογική μάθηση βασίζεται στην συναπτική πλαστικότητα, η οποία καθοδηγείται κυρίως από τη μακροπρόθεσμη ενδυνάμωση και τη μακροπρόθεσμη καταστολή σε δισεκατομμύρια νευρώνες.
Οι άνθρωποι χρησιμοποιούν τη μάθηση με λίγες βολές, επιτρέποντάς τους να κατανοούν εντελώς νέες έννοιες ή να αναγνωρίζουν αντικείμενα από μία ή δύο μόνο εκθέσεις.
Ο νευροδιαβιβαστής ντοπαμίνη παίζει κρίσιμο ρόλο στα συστήματα ανταμοιβής που προβλέπουν την ανταμοιβή, ενισχύοντας επιτυχημένες δράσεις και συμπεριφορές.
Ο ύπνος είναι ζωτικής σημασίας για την ανθρώπινη γνωστική μάθηση, λειτουργώντας ως το κύριο παράθυρο για την ενοποίηση της μνήμης και το κλάδεμα των νευρωνικών οδών.
Συναισθήματα όπως η περιέργεια, το άγχος και ο ενθουσιασμός επηρεάζουν σε βάθος τον ρυθμό και τη μονιμότητα της διατήρησης πληροφοριών στον εγκέφαλο.
Τι είναι το Εκπαίδευση σε Νευρωνικά Δίκτυα;
Η διαδικασία υπολογιστικής βελτιστοποίησης όπου ένα τεχνητό μοντέλο προσαρμόζει τα εσωτερικά μαθηματικά του βάρη και τις μεροληψίες ελαχιστοποιώντας μια σαφή συνάρτηση απώλειας σφάλματος.
Η εκπαίδευση λειτουργεί σε μεγάλο βαθμό με τον αλγόριθμο backpropagation, υπολογίζοντας τις καθόδους κλίσης για να προσαρμόσει τις αριθμητικές συνδέσεις προς τα πίσω μέσω των στρώσεων.
Τα τεχνητά μοντέλα απαιτούν γενικά χιλιάδες ή εκατομμύρια διαφορετικά σημεία δεδομένων εκπαίδευσης για να επιτύχουν αξιόπιστη αναγνώριση προτύπων.
Η βελτιστοποίηση βασίζεται σε αυστηρούς μαθηματικούς στόχους, χωρίς καθόλου οργανικές συναισθηματικές καταστάσεις ή εγγενείς κινητήριες δυνάμεις.
Τα νευρωνικά δίκτυα αντιμετωπίζουν καταστροφική λήθη, όπου η εκμάθηση νέων πληροφοριών μπορεί να αντικαταστήσει και να καταστρέψει εντελώς εργασίες που είχαν κατακτηθεί προηγουμένως.
Η φάση εκπαίδευσης καταναλώνει τεράστια υπολογιστική ενέργεια, απαιτώντας μονάδες επεξεργασίας γραφικών υψηλής τεχνολογίας που εκτελούν εξειδικευμένα μαθηματικά πινάκων.
Πίνακας Σύγκρισης
Λειτουργία
Μάθηση στους Ανθρώπους
Εκπαίδευση σε Νευρωνικά Δίκτυα
Βασικός Μηχανισμός Προσαρμογής
Βιολογική αναδιαμόρφωση των δυνάμεων των συναπτικών συνδέσεων
Μαθηματικές προσαρμογές πινάκων βάρους και μεροληψίας
Αλγόριθμος Βελτιστοποίησης
Ανατροφοδότηση βασισμένη στην ανταμοιβή και εντοπισμένη νευρωνική πυροδότηση
Αντίστροφη διάδοση και στοχαστική κλίση καθόδου
Αποδοτικότητα όγκου δεδομένων
Εξαιρετικά υψηλό επίπεδο· κατακτά έννοιες από λίγα παραδείγματα.
Υψηλής απόδοσης· λειτουργεί με περίπου 20 watt βιολογικής ενέργειας
Τεράστιο· απαιτεί κιλοβάτ ή μεγαβάτ ηλεκτρικής ενέργειας
Δυνατότητα διαδοχικής μάθησης
Άψογη μετάβαση· βασίζεται συνεχώς σε προηγούμενες δεξιότητες
Φτωχός· επιρρεπής στο να σβήνει παλιές δεξιότητες όταν εισάγει νέες
Πηγή σήματος σφάλματος
Δυναμική περιβαλλοντική ανατροφοδότηση και χημικές αλλαγές
Άκαμπτος μαθηματικός υπολογισμός μιας συνάρτησης κόστους ή ζημίας
Γείωση με βάση τα συμφραζόμενα
Βαθιά συνδεδεμένο με τη φυσική ενσάρκωση, τις αισθήσεις και τον πολιτισμό
Καθαρά στατιστικό, κοιτάζοντας αριθμούς χωρίς φυσική επίγνωση
Λεπτομερής Σύγκριση
Ο Μηχανισμός της Εσωτερικής Προσαρμογής
Όταν ένας άνθρωπος μαθαίνει, οι φυσικές αλλαγές διαπερνούν τον εγκέφαλο, ενισχύοντας ή αποδυναμώνοντας τις πραγματικές συνδέσεις μεταξύ των ζωντανών κυττάρων με βάση τις φυσικές εμπειρίες. Τα τεχνητά νευρωνικά δίκτυα προσομοιώνουν αυτή τη διαδικασία αποκλειστικά με αριθμούς. Ενημερώνουν αφηρημένους πίνακες βαρών σε όλους τους υπολογισμούς σε επίπεδα, χρησιμοποιώντας μια καθολική ρουτίνα διόρθωσης σφαλμάτων που ονομάζεται backpropagation, η οποία δεν διαθέτει την αποκεντρωμένη, εντοπισμένη αυτονομία των ανθρώπινων νευρώνων.
Αποδοτικότητα και Γενίκευση Δεδομένων
Δώστε σε ένα παιδί ένα μόνο εικονογραφημένο βιβλίο με ένα τρακτέρ και θα μπορεί να αναγνωρίσει αμέσως πραγματικά τρακτέρ σε ένα αγρόκτημα, ανεξάρτητα από το χρώμα, το μέγεθος ή τη γωνία. Τα τεχνητά δίκτυα δεν μπορούν να γενικεύσουν τόσο ρευστά. Ένα μοντέλο αναγνώρισης αντικειμένων απαιτεί έκθεση σε χιλιάδες ποικίλες εικόνες τρακτέρ υπό ποικίλες καιρικές συνθήκες και προφίλ φωτισμού, μόνο και μόνο για να μην μπερδευτεί ένα όχημα με ένα σπίτι.
Η Πρόκληση της Συνεχούς Ανάπτυξης
Οι άνθρωποι μαθαίνουν διαδοχικά καθ' όλη τη διάρκεια της ζωής τους, συνδυάζοντας άψογα νέα χόμπι, γλώσσες και επαγγελματικές δεξιότητες στον υπάρχοντα ιστό μνήμης τους χωρίς να ξεχνούν πώς να περπατούν ή να μιλάνε. Τα νευρωνικά δίκτυα υποφέρουν από μια άκαμπτη ευπάθεια γνωστή ως καταστροφική λήθη. Αν πάρετε ένα μοντέλο εκπαιδευμένο να παίζει σκάκι και προσπαθήσετε να το εκπαιδεύσετε να παίζει πόκερ, συχνά θα αντικαταστήσει πλήρως τις παραμέτρους του σκακιού, εκτός αν το επανεκπαιδεύετε συνεχώς και στα δύο παιχνίδια ταυτόχρονα.
Ενεργειακά Προφίλ και Περιβαλλοντικό Κόστος
Ο βιολογικός εγκέφαλος είναι ένα θαύμα εξελικτικής αποτελεσματικότητας, καθώς επεξεργάζεται σύνθετη γλώσσα, αφηρημένη συλλογιστική και φυσική πλοήγηση ταυτόχρονα, ενώ καταναλώνει μόνο περίπου τόση ενέργεια όσο μια αμυδρή λάμπα. Η εκπαίδευση ενός υπερσύγχρονου μοντέλου βαθιάς μάθησης απαιτεί τεράστια υπολογιστικά clusters και server farms, καταναλώνοντας τεράστιες ποσότητες ηλεκτρικής ενέργειας και απαιτώντας έντονα συστήματα ψύξης για τη διαχείριση του μαθηματικού φόρτου εργασίας.
Πλεονεκτήματα & Μειονεκτήματα
Μάθηση στους Ανθρώπους
Πλεονεκτήματα
+Απίστευτη απόδοση συλλογής δεδομένων
+Συνεχής ενσωμάτωση δεξιοτήτων σε όλη τη ζωή
+Εξαιρετικά χαμηλές απαιτήσεις μεταβολικής ισχύος
+Κατανοεί διαισθητικά τις αιτιώδεις φυσικές σχέσεις
Συνέχεια
−Η ταχύτητα πρόσκτησης περιορίζεται από τον βιολογικό χρόνο
−Ευάλωτο σε συναισθηματικές και γνωστικές προκαταλήψεις
−Επιρρεπής σε φυσική φθορά και εξασθένηση της μνήμης
−Δεν είναι δυνατή η άμεση κοινοποίηση των βάρων που έχουν μαθευτεί με άλλους
+Αντιγράφει άμεσα τις παραμέτρους που έχουν μαθευτεί σε όλο το υλικό
+Ανοσία στην υποκειμενική σωματική ή συναισθηματική κόπωση
Συνέχεια
−Απαιτεί τεράστια υπολογιστική υποδομή
−Απαιτεί τεράστια σχολιασμένα σύνολα δεδομένων
−Επιρρεπής στη διαγραφή παλαιών γνώσεων κατά την ενημέρωση
−Λειτουργεί ως ένα μη ερμηνεύσιμο μαθηματικό μαύρο κουτί
Συνηθισμένες Παρανοήσεις
Μύθος
Τα τεχνητά νευρωνικά δίκτυα μαθαίνουν με τον ίδιο ακριβώς τρόπο που μαθαίνει ο ανθρώπινος εγκέφαλος.
Πραγματικότητα
Ενώ είναι ελαφρώς εμπνευσμένοι από τη βιολογία, οι υποκείμενοι μηχανισμοί είναι εντελώς διαφορετικοί. Η τεχνητή εκπαίδευση βασίζεται σε ακριβείς, παγκοσμίως υπολογισμένες μαθηματικές διαβαθμίσεις, ενώ ο βιολογικός εγκέφαλος χρησιμοποιεί εξαιρετικά πολύπλοκες χημικές μετατοπίσεις και εντοπισμένες προσαρμογές που η επιστήμη δεν έχει ακόμη κατανοήσει πλήρως.
Μύθος
Ένα μοντέλο μηχανής συνεχίζει να μαθαίνει και να προσαρμόζεται από κάθε αλληλεπίδραση του χρήστη μετά την ανάπτυξή του.
Πραγματικότητα
Τα περισσότερα εμπορικά μοντέλα τεχνητής νοημοσύνης «παγώνουν» μετά την εκπαίδευση. Όταν συνομιλείτε μαζί τους, επεξεργάζονται το κείμενό σας μέσω μιας σταθερής μαθηματικής αρχιτεκτονικής χωρίς να αλλάζουν στην πραγματικότητα τα υποκείμενα βάρη τους, πράγμα που σημαίνει ότι δεν μαθαίνουν μόνιμα τίποτα νέο από την αλληλεπίδραση.
Μύθος
Η εποπτευόμενη μηχανική μάθηση μιμείται τον τρόπο με τον οποίο τα ανθρώπινα βρέφη αποκτούν την πρώτη τους γλώσσα.
Πραγματικότητα
Τα βρέφη μαθαίνουν μέσω της αυτοεπιβλεπόμενης ανακάλυψης, της κοινωνικής εμπλοκής και της σωματικής εξερεύνησης. Δεν κάθονται μπροστά σε εκατομμύρια κάρτες flash που αναβοσβήνουν και έχουν επισημανθεί από ανθρώπους για να μάθουν τη διαφορά μεταξύ ενός μήλου και μιας μπάλας.
Μύθος
Τα συστήματα τεχνητής νοημοσύνης αποτυγχάνουν να μάθουν αφηρημένες έννοιες επειδή δεν έχουν ανθρώπινα συναισθήματα.
Πραγματικότητα
Το πρόβλημα είναι η έλλειψη θεμελίωσης, όχι η έλλειψη συναισθήματος. Οι άνθρωποι μαθαίνουν έννοιες αλληλεπιδρώντας με τον φυσικό κόσμο μέσω της αφής, της όρασης και των συνεπειών, ενώ ένα νευρωνικό δίκτυο που βασίζεται σε κείμενο μαθαίνει μόνο τις στατιστικές σχέσεις μεταξύ των συμβόλων, παραβλέποντας την υποκείμενη φυσική πραγματικότητα.
Συχνές Ερωτήσεις
Τι είναι η αντίστροφη διάδοση και γιατί δεν τη χρησιμοποιούν οι ανθρώπινοι εγκέφαλοι;
Η οπισθοδιάδοση είναι μια μαθηματική τεχνική όπου μια τεχνητή νοημοσύνη υπολογίζει την ακριβή συνεισφορά σφάλματος κάθε σύνδεσης σε ολόκληρο το δίκτυό της και την ενημερώνει με αντίστροφη σειρά. Οι ανθρώπινοι εγκέφαλοι πιθανότατα δεν το χρησιμοποιούν αυτό επειδή οι βιολογικές οδοί είναι μονοκατευθυντικές, πράγμα που σημαίνει ότι τα σήματα δεν μπορούν να ταξιδέψουν προς τα πίσω μέσω των νευρώνων με αυτόν τον συστηματικό τρόπο για να διανείμουν ακριβείς μαθηματικές διορθώσεις.
Πώς βοηθά ο ύπνος την ανθρώπινη μάθηση σε σύγκριση με τη βελτιστοποίηση μηχανών;
Κατά τη διάρκεια του ύπνου, ο ανθρώπινος εγκέφαλος αναπαράγει τις εμπειρίες της ημέρας, μεταφέροντας εύθραυστες βραχυπρόθεσμες μνήμες από τον ιππόκαμπο στον μακροπρόθεσμο νεοφλοιό, ενώ παράλληλα κλαδεύει τις αδύναμες συνδέσεις. Τα νευρωνικά δίκτυα δεν έχουν κύκλο ύπνου. Αντίθετα, αποτρέπουν την υποβάθμιση των δεδομένων ανακατεύοντας ομάδες εκπαίδευσης ή χρησιμοποιώντας εξισώσεις κανονικοποίησης για τη σταθεροποίηση των μαθηματικών τους παραμέτρων.
Γιατί τα τεχνητά νευρωνικά δίκτυα απαιτούν τόσο περισσότερα δεδομένα από έναν άνθρωπο;
Οι άνθρωποι διαθέτουν εξελικτική προ-καλωδίωση, αισθητηριακά συστήματα και μια εγγενή κατανόηση της φυσικής, του χώρου και του χρόνου προτού καν αρχίσουν να μαθαίνουν συγκεκριμένες εργασίες. Ένα τεχνητό νευρωνικό δίκτυο συνήθως ξεκινά το ταξίδι της εκπαίδευσής του ως μια εντελώς κενή πλάκα τυχαίων αριθμών, που σημαίνει ότι πρέπει να μάθει κάθε θεμελιώδη κανόνα δομής από την αρχή.
Μπορεί μια μηχανή να βιώσει κάτι παρόμοιο με την ανθρώπινη διαίσθηση κατά τη διάρκεια της εκπαίδευσής της;
Αυτό που μοιάζει με διαίσθηση σε μια μηχανή είναι στην πραγματικότητα αντιστοίχιση προτύπων υψηλής διάστασης. Όταν ένα μοντέλο όπως το AlphaGo κάνει μια λαμπρή, απροσδόκητη κίνηση, δεν ακολουθεί ένα ένστικτο. εκτελεί έναν υπολογισμό που καθόρισε ότι μια συγκεκριμένη πορεία είχε την υψηλότερη στατιστική πιθανότητα επιτυχίας με βάση το τεράστιο ιστορικό εκπαίδευσής της.
Τι είναι η καταστροφική λήθη και πώς προσπαθούν οι προγραμματιστές να τη διορθώσουν;
Η καταστροφική λήθη συμβαίνει όταν ένα νευρωνικό δίκτυο εκπαιδεύεται σε μια νέα εργασία και αντικαθιστά πλήρως τα αριθμητικά βάρη που χρησιμοποίησε για μια προηγούμενη εργασία. Για να καταπολεμήσουν αυτό το φαινόμενο, οι προγραμματιστές χρησιμοποιούν τεχνικές όπως η επανάληψη εμπειρίας, η οποία αναμειγνύει παλιά δεδομένα πίσω στους νέους κύκλους εκπαίδευσης, ή κανονικοποιημένες αρχιτεκτονικές που κλειδώνουν κρίσιμες παραμέτρους.
Πώς συγκρίνεται η μάθηση που βασίζεται στην ανταμοιβή στους ανθρώπους με την ενισχυτική μάθηση στην Τεχνητή Νοημοσύνη;
Και οι δύο διαδικασίες μοιράζονται εννοιολογικές ρίζες. Ο ανθρώπινος εγκέφαλος χρησιμοποιεί τις εκρήξεις ντοπαμίνης για να ανταμείψει συμπεριφορές που οδηγούν σε ασφάλεια, φαγητό ή κοινωνική επιτυχία. Η ενισχυτική μάθηση στην Τεχνητή Νοημοσύνη μιμείται αυτό, αναθέτοντας αριθμητικούς πόντους σε έναν παράγοντα όταν επιτυγχάνει έναν καθορισμένο στόχο, αναγκάζοντας τον αλγόριθμο να μεγιστοποιήσει αυτό το σκορ με την πάροδο του χρόνου μέσω δοκιμής και λάθους.
Γιατί είναι τόσο δύσκολο για τα εκπαιδευμένα μοντέλα να εφαρμόσουν τις γνώσεις τους σε διαφορετικό πεδίο;
Αυτός ο περιορισμός είναι γνωστός ως εμπόδιο μεταφοράς μάθησης. Επειδή ένα τεχνητό μοντέλο μαθαίνει μόνο τις στενές μαθηματικές συσχετίσεις που υπάρχουν στο συγκεκριμένο σύνολο δεδομένων εκπαίδευσής του, δεν έχει εννοιολογική κατανόηση του ευρύτερου κόσμου, με αποτέλεσμα να αποτυγχάνει όταν αυτά τα ακριβή δομικά μοτίβα αλλάζουν έστω και λίγο.
Μπορείτε να εκπαιδεύσετε ένα νευρωνικό δίκτυο χωρίς να επισημάνετε ρητά όλα τα δεδομένα;
Ναι, αυτή η προσέγγιση ονομάζεται αυτοεποπτευόμενη ή μη εποπτευόμενη μάθηση. Αντί να χρησιμοποιεί ανθρώπινες ετικέτες, το σύστημα μαθαίνει κρύβοντας τμήματα των δεδομένων από τον εαυτό του — όπως σβήνοντας λέξεις σε μια πρόταση ή θολώνοντας τμήματα μιας εικόνας — και εκπαιδεύοντας τα βάρη του προσπαθώντας να προβλέψει με ακρίβεια αυτά τα κομμάτια που λείπουν.
Απόφαση
Η ανθρώπινη μάθηση παραμένει απαράμιλλη για την προσαρμογή σε ρευστά, τη δημιουργική επίλυση προβλημάτων και την οικοδόμηση μιας ευρείας κοσμοθεωρίας από ελάχιστες συναντήσεις στον πραγματικό κόσμο. Η εκπαίδευση τεχνητών νευρωνικών δικτύων είναι η ιδανική προσέγγιση όταν χρειάζεται να αποκαλύψουμε κρυμμένα μοτίβα μέσα σε εκατομμύρια σύνθετα σημεία δεδομένων, να επιτύχουμε ομοιόμορφη στατιστική συνέπεια ή να αυτοματοποιήσουμε εξαιρετικά επαναλαμβανόμενους υπολογισμούς σε τεράστιες κλίμακες.
