Βασικά Takeaways
- Νέα έρευνα υποδηλώνει ότι μπορεί να μην υπάρχει τρόπος να ελεγχθεί η υπερέξυπνη τεχνητή νοημοσύνη.
- Ένα δημοσίευμα σε περιοδικό υποστηρίζει ότι ο έλεγχος της τεχνητής νοημοσύνης θα απαιτούσε πολύ πιο προηγμένη τεχνολογία από αυτή που διαθέτουμε σήμερα.
- Μερικοί ειδικοί λένε ότι η πραγματικά έξυπνη τεχνητή νοημοσύνη μπορεί να είναι εδώ νωρίτερα από όσο νομίζουμε.
Εάν οι άνθρωποι αναπτύξουν ποτέ υπερ-έξυπνη τεχνητή νοημοσύνη, μπορεί να μην υπάρχει τρόπος να την ελέγξουν, λένε οι επιστήμονες.
Το Το AI διαφημίζεται εδώ και πολύ καιρό είτε ως θεραπεία για όλα τα προβλήματα της ανθρωπότητας είτε ως αποκάλυψη τύπου Terminator. Μέχρι στιγμής, ωστόσο, η τεχνητή νοημοσύνη δεν έχει πλησιάσει ούτε καν τη νοημοσύνη σε ανθρώπινο επίπεδο. Ωστόσο, το να κρατάς ένα λουρί στην προηγμένη τεχνητή νοημοσύνη θα μπορούσε να είναι πολύ περίπλοκο πρόβλημα για τους ανθρώπους, εάν αναπτυχθεί ποτέ, σύμφωνα με μια πρόσφατη εργασία που δημοσιεύτηκε στο Journal of Artificial Intelligence Research.
"Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο μοιάζει με επιστημονική φαντασία", είπε ο Manuel Cebrian, ένας από τους συν-συγγραφείς της εφημερίδας, σε ένα δελτίο τύπου.
"Αλλά υπάρχουν ήδη μηχανές που εκτελούν ορισμένες σημαντικές εργασίες ανεξάρτητα, χωρίς οι προγραμματιστές να κατανοούν πλήρως πώς το έμαθαν. Επομένως, τίθεται το ερώτημα εάν αυτό θα μπορούσε κάποια στιγμή να γίνει ανεξέλεγκτη και επικίνδυνο για την ανθρωπότητα."
Σύντομα σε έναν υπερυπολογιστή κοντά σας
Το περιοδικό υποστηρίζει ότι ο έλεγχος της τεχνητής νοημοσύνης θα απαιτούσε πολύ πιο προηγμένη τεχνολογία από αυτή που διαθέτουμε σήμερα.
Στη μελέτη τους, η ομάδα συνέλαβε έναν θεωρητικό αλγόριθμο περιορισμού που διασφαλίζει ότι μια υπερέξυπνη τεχνητή νοημοσύνη δεν μπορεί να βλάψει τους ανθρώπους σε καμία περίπτωση, προσομοιώνοντας πρώτα τη συμπεριφορά της τεχνητής νοημοσύνης και διακόπτοντάς την εάν θεωρείται επιβλαβής. Αλλά οι συγγραφείς διαπίστωσαν ότι ένας τέτοιος αλγόριθμος δεν μπορεί να κατασκευαστεί.
"Εάν αναλύσετε το πρόβλημα σε βασικούς κανόνες από τη θεωρητική επιστήμη των υπολογιστών, αποδεικνύεται ότι ένας αλγόριθμος που θα έδινε εντολή σε μια τεχνητή νοημοσύνη να μην καταστρέψει τον κόσμο θα μπορούσε να σταματήσει ακούσια τις δικές της λειτουργίες." Ο Iyad Rahwan, διευθυντής του Κέντρου για Ανθρώπους και Μηχανές στο Ινστιτούτο Μαξ Πλανκ για την Ανθρώπινη Ανάπτυξη στη Γερμανία, δήλωσε στο δελτίο τύπου.
"Εάν συνέβαινε αυτό, δεν θα ξέρατε εάν ο αλγόριθμος περιορισμού εξακολουθεί να αναλύει την απειλή ή αν έχει σταματήσει να περιέχει το επιβλαβές AI. Στην πραγματικότητα, αυτό καθιστά τον αλγόριθμο περιορισμού άχρηστο."
Η πραγματικά ευφυής τεχνητή νοημοσύνη μπορεί να είναι εδώ νωρίτερα από όσο νομίζουμε, υποστηρίζει ο Μιχάλης Βαζιργιάννης, καθηγητής πληροφορικής στην École Polytechnique στη Γαλλία. "Το AI είναι ένα ανθρώπινο τεχνούργημα, αλλά γίνεται γρήγορα μια αυτόνομη οντότητα", είπε σε ένα email στο Lifewire.
"Το κρίσιμο σημείο θα είναι εάν/όταν συμβεί η μοναδικότητα (δηλαδή, όταν οι πράκτορες AI θα έχουν συνείδηση ως οντότητα) και επομένως θα διεκδικήσουν ανεξαρτησία, αυτοέλεγχο και τελική κυριαρχία."
The Singularity is Coming
Ο Βαζιργιάννης δεν είναι μόνος που προβλέπει την επικείμενη άφιξη του super AI. Οι αληθινοί πιστοί στην απειλή της τεχνητής νοημοσύνης αρέσκονται να μιλούν για τη «μοναδικότητα», που εξηγεί ο Βαζιργιάννης ότι είναι το σημείο που η τεχνητή νοημοσύνη θα αντικαταστήσει την ανθρώπινη νοημοσύνη και «ότι οι αλγόριθμοι τεχνητής νοημοσύνης θα συνειδητοποιήσουν ενδεχομένως την ύπαρξή τους και θα αρχίσουν να συμπεριφέρονται εγωιστικά και συνεργατικά».
Σύμφωνα με τον Ray Kurzweil, διευθυντή μηχανικής της Google, η μοναδικότητα θα φτάσει πριν από τα μέσα του 21ου αιώνα. "Το 2029 είναι η σταθερή ημερομηνία που έχω προβλέψει για το πότε μια τεχνητή νοημοσύνη θα περάσει ένα έγκυρο τεστ Turing και ως εκ τούτου θα επιτύχει ανθρώπινα επίπεδα νοημοσύνης", είπε ο Kurzweil στο Futurism.
Αν δεν μπορούμε να καθαρίσουμε το σπίτι μας, ποιον κώδικα υποτίθεται ότι πρέπει να ζητήσουμε από την τεχνητή νοημοσύνη να ακολουθήσει;
"Έχω ορίσει την ημερομηνία το 2045 για τη "Μοναδικότητα", η οποία είναι όταν θα πολλαπλασιάσουμε την αποτελεσματική νοημοσύνη μας κατά ένα δισεκατομμύριο φορές συγχωνεύοντας με τη νοημοσύνη που δημιουργήσαμε."
Όμως δεν πιστεύουν όλοι οι ειδικοί της τεχνητής νοημοσύνης ότι οι έξυπνες μηχανές αποτελούν απειλή. Το AI που βρίσκεται υπό ανάπτυξη είναι πιο πιθανό να είναι χρήσιμο για την ανάπτυξη φαρμάκων και δεν δείχνει πραγματική νοημοσύνη, δήλωσε ο σύμβουλος τεχνητής νοημοσύνης Emmanuel Maggiori σε μια συνέντευξη μέσω email. «Υπάρχει μια μεγάλη δημοσιότητα γύρω από την τεχνητή νοημοσύνη, που την κάνει να ακούγεται σαν να είναι πραγματικά επαναστατική», πρόσθεσε. "Τα τρέχοντα συστήματα AI δεν είναι τόσο ακριβή όσο δημοσιοποιούνται και κάνουν λάθη που δεν θα έκανε ποτέ ένας άνθρωπος."
Πάρε τον έλεγχο της τεχνητής νοημοσύνης, τώρα
Η ρύθμιση της τεχνητής νοημοσύνης ώστε να μην ξεφεύγει από τον έλεγχό μας μπορεί να είναι δύσκολη, λέει ο Βαζιργιάννης. Οι εταιρείες και όχι οι κυβερνήσεις ελέγχουν τους πόρους που τροφοδοτούν την τεχνητή νοημοσύνη. «Ακόμη και οι ίδιοι οι αλγόριθμοι συνήθως παράγονται και αναπτύσσονται στα ερευνητικά εργαστήρια αυτών των μεγάλων και ισχυρών, συνήθως πολυεθνικών, οντοτήτων», είπε.
"Είναι προφανές, επομένως, ότι οι κυβερνήσεις των κρατών έχουν όλο και λιγότερο έλεγχο στους πόρους που απαιτούνται για τον έλεγχο της τεχνητής νοημοσύνης."
Μερικοί ειδικοί λένε ότι για τον έλεγχο της υπερευφυούς τεχνητής νοημοσύνης, οι άνθρωποι θα πρέπει να διαχειρίζονται υπολογιστικούς πόρους και ηλεκτρική ενέργεια. "Ταινίες επιστημονικής φαντασίας όπως το The Matrix κάνουν προφητείες για ένα δυστοπικό μέλλον όπου οι άνθρωποι χρησιμοποιούνται από την τεχνητή νοημοσύνη ως πηγές βιοενέργειας", είπε ο Βαζιργιάννης.
"Ακόμη και αν είναι απομακρυσμένες, η ανθρωπότητα θα πρέπει να βεβαιωθεί ότι υπάρχει επαρκής έλεγχος στους υπολογιστικούς πόρους (δηλαδή, συμπλέγματα υπολογιστών, GPU, υπερυπολογιστές, δίκτυα/επικοινωνίες) και φυσικά τους σταθμούς παραγωγής ηλεκτρικής ενέργειας που παρέχουν ηλεκτρική ενέργεια που είναι απολύτως επιζήμια για τη λειτουργία του AI."
Το πρόβλημα με τον έλεγχο της τεχνητής νοημοσύνης είναι ότι οι ερευνητές δεν καταλαβαίνουν πάντα πώς παίρνουν τις αποφάσεις τους τέτοια συστήματα, δήλωσε ο Michael Berthold, ο συνιδρυτής και διευθύνων σύμβουλος της εταιρείας λογισμικού επιστήμης δεδομένων KNIME, σε μια συνέντευξη μέσω email. "Αν δεν το κάνουμε αυτό, πώς μπορούμε να το "ελέγξουμε";"
Πρόσθεσε, "Δεν καταλαβαίνουμε πότε λαμβάνεται μια εντελώς διαφορετική απόφαση με βάση, για εμάς, άσχετες εισροές."
Ο μόνος τρόπος για να ελέγξετε τον κίνδυνο χρήσης AI είναι να διασφαλίσετε ότι χρησιμοποιείται μόνο όταν αυτός ο κίνδυνος είναι διαχειρίσιμος, είπε ο Berthold. "Με διαφορετικά, δύο ακραία παραδείγματα: Μην βάζετε την τεχνητή νοημοσύνη επικεφαλής του πυρηνικού σας εργοστασίου όπου ένα μικρό λάθος μπορεί να έχει καταστροφικές παρενέργειες", πρόσθεσε.
"Από την άλλη πλευρά, η τεχνητή νοημοσύνη προβλέπει ότι αν η θερμοκρασία του δωματίου σας πρέπει να ρυθμιστεί λίγο προς τα πάνω ή προς τα κάτω, μπορεί κάλλιστα να αξίζει τον μικροσκοπικό κίνδυνο προς όφελος της άνεσης ζωής."
Αν δεν μπορούμε να ελέγξουμε την τεχνητή νοημοσύνη, καλύτερα να της διδάξουμε τρόπους, είπε ο πρώην μηχανικός υπολογιστών της NASA, Πίτερ Σκοτ, σε μια συνέντευξη μέσω email. "Δεν μπορούμε, τελικά, να διασφαλίσουμε τον έλεγχο της τεχνητής νοημοσύνης περισσότερο από όσο μπορούμε να εξασφαλίσουμε αυτή των παιδιών μας", είπε.
"Τους μεγαλώνουμε σωστά και ελπίζουμε για το καλύτερο· μέχρι στιγμής, δεν έχουν καταστρέψει τον κόσμο. Για να τους μεγαλώσουμε καλά, χρειαζόμαστε καλύτερη κατανόηση της ηθικής. Αν δεν μπορούμε να καθαρίσουμε το σπίτι μας, τι κώδικα υποτίθεται ότι πρέπει να ζητήσουμε από την τεχνητή νοημοσύνη να ακολουθήσει;"
Αλλά δεν χάνεται κάθε ελπίδα για την ανθρώπινη φυλή, λέει ο ερευνητής AI Yonatan Wexler, εκτελεστικός αντιπρόεδρος Ε&Α στην OrCam. «Ενώ οι πρόοδοι είναι πράγματι εντυπωσιακές, η προσωπική μου πεποίθηση είναι ότι η ανθρώπινη νοημοσύνη δεν πρέπει να υποτιμάται», είπε σε μια συνέντευξη μέσω email. "Εμείς ως είδος έχουμε δημιουργήσει αρκετά εκπληκτικά πράγματα, συμπεριλαμβανομένου του ίδιου του AI."
Η αναζήτηση για όλο και πιο έξυπνη τεχνητή νοημοσύνη συνεχίζεται. Αλλά ίσως είναι καλύτερο να σκεφτούμε πώς ελέγχουμε τις δημιουργίες μας πριν να είναι πολύ αργά.
