Βασικά Takeaways
- Οι αλγόριθμοι AI και μηχανικής μάθησης παρακολουθούν την ανθρώπινη συμπεριφορά και μπορούν να μάθουν να τη χειρίζονται, λένε οι ειδικοί.
- Ερευνητές δημιούργησαν πρόσφατα έναν τρόπο για να βρίσκουν και να εκμεταλλεύονται ευπάθειες στους τρόπους με τους οποίους οι άνθρωποι κάνουν επιλογές χρησιμοποιώντας AI.
- Ο πιο εξελιγμένος αλγόριθμος κοινωνικής δικτύωσης αυτή τη στιγμή είναι ο TikTok, λέει ένας παρατηρητής.
Η τεχνητή νοημοσύνη (AI) και οι αλγόριθμοι μηχανικής μάθησης μαθαίνουν όλο και περισσότερο πώς να επηρεάζουν τη συμπεριφορά των χρηστών, λένε οι ειδικοί.
Ερευνητές της εθνικής επιστημονικής υπηρεσίας της Αυστραλίας δημιούργησαν πρόσφατα έναν τρόπο για να βρίσκουν και να εκμεταλλεύονται τρωτά σημεία στους τρόπους με τους οποίους οι άνθρωποι κάνουν επιλογές χρησιμοποιώντας την τεχνητή νοημοσύνη. Η πιο πρόσφατη έρευνα είναι μόνο μία από ένα κύμα συστημάτων που βασίζονται σε τεχνητή νοημοσύνη και έχουν σχεδιαστεί για να χειραγωγούν την ανθρώπινη λήψη αποφάσεων.
"Δεν υπάρχει τέλος στους πολλούς τρόπους με τους οποίους η τεχνητή νοημοσύνη επηρεάζει ήδη τη συμπεριφορά", ο Kentaro Toyama, καθηγητής στο University of Michigan School of Information και συγγραφέας του Geek Heresy: Rescuing Social Change from the Cult of Technology, είπε σε μια συνέντευξη μέσω email.
"Στην πραγματικότητα, αν έχετε κάνει ποτέ μια αναζήτηση στο Google και παρακολουθήσατε έναν σύνδεσμο, επηρεαστήκατε από ένα σύστημα τεχνητής νοημοσύνης που μάντευε τα ενδιαφέροντά σας και επέστρεψε αποτελέσματα που θεωρούσε ότι ήταν πιο σχετικά με εσάς."
AI vs. Humans
Στην αυστραλιανή έρευνα που δημοσιεύτηκε σε πρόσφατη εργασία, οι άνθρωποι που συμμετείχαν έπαιξαν παιχνίδια ενάντια σε έναν υπολογιστή σε διάφορα πειράματα. Στο πρώτο πείραμα οι συμμετέχοντες έκαναν κλικ σε κουτάκια με κόκκινο ή μπλε χρώμα για να κερδίσουν χρήματα.
Η τεχνητή νοημοσύνη ήταν επιτυχής περίπου το 70% των περιπτώσεων, μαθαίνοντας τα πρότυπα επιλογής των συμμετεχόντων και καθοδηγώντας τους προς μια συγκεκριμένη επιλογή.
Σε ένα άλλο πείραμα, οι συμμετέχοντες παρακολούθησαν μια οθόνη και πάτησαν ένα κουμπί όταν τους έδειχνε ένα συγκεκριμένο σύμβολο ή δεν το πάτησαν όταν τους προσφέρθηκε άλλο. Το AI έμαθε να αναδιατάσσει τα σύμβολα, έτσι οι συμμετέχοντες έκαναν περισσότερα λάθη.
Το αποτέλεσμα των πειραμάτων, κατέληξαν οι ερευνητές, ήταν ότι η τεχνητή νοημοσύνη έμαθε από τις απαντήσεις των συμμετεχόντων. Στη συνέχεια, το μηχάνημα εντόπισε και στόχευσε τα τρωτά σημεία στη λήψη αποφάσεων των ανθρώπων. Στην πραγματικότητα, η τεχνητή νοημοσύνη θα μπορούσε να χειραγωγήσει τους συμμετέχοντες ώστε να κάνουν συγκεκριμένες ενέργειες.
Το γεγονός ότι η τεχνητή νοημοσύνη ή η μηχανική μάθηση μπορούν να χειραγωγήσουν τους ανθρώπους δεν πρέπει να προκαλεί έκπληξη, λένε οι παρατηρητές.
"Η τεχνητή νοημοσύνη επηρεάζει τη συμπεριφορά μας καθημερινά", είπε η Tamara Schwartz, επίκουρη καθηγήτρια κυβερνοασφάλειας και διοίκησης επιχειρήσεων στο York College of Pennsylvania, σε μια συνέντευξη μέσω email.
"Ακούμε συνεχώς για τους αλγόριθμους σε εφαρμογές κοινωνικών μέσων όπως το Facebook ή το Twitter. Αυτοί οι αλγόριθμοι κατευθύνουν την προσοχή μας σε σχετικό περιεχόμενο και δημιουργούν το εφέ "θάλαμος ηχούς", το οποίο με τη σειρά του επηρεάζει τη συμπεριφορά μας."
TikTok παρακολουθεί
Ο πιο εξελιγμένος αλγόριθμος κοινωνικής δικτύωσης αυτή τη στιγμή είναι ο TikTok, είπε ο Schwartz. Η εφαρμογή αναλύει τι σας ενδιαφέρει, πόσο καιρό παρακολουθείτε κάτι και πόσο γρήγορα παραλείπετε κάτι και, στη συνέχεια, βελτιώνει τις προσφορές της για να συνεχίσετε να παρακολουθείτε.
"Το TikTok είναι πολύ πιο εθιστικό από άλλες πλατφόρμες λόγω αυτού του αλγόριθμου τεχνητής νοημοσύνης, ο οποίος κατανοεί τι σας αρέσει, πώς μαθαίνετε και πώς επιλέγετε πληροφορίες", πρόσθεσε. "Το γνωρίζουμε γιατί ο μέσος χρόνος που αφιερώνουν οι χρήστες στο TikTok είναι 52 λεπτά."
Η χειραγώγηση της ανθρώπινης συμπεριφοράς από την τεχνητή νοημοσύνη θα μπορούσε να έχει θετικές χρήσεις, υποστήριξε ο Chris Nicholson, Διευθύνων Σύμβουλος της εταιρείας AI Pathmind, σε μια συνέντευξη μέσω email. Οι υπηρεσίες δημόσιας υγείας, για παράδειγμα, θα μπορούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να ενθαρρύνουν τους ανθρώπους να λαμβάνουν καλύτερες αποφάσεις.
"Ωστόσο, τα μέσα κοινωνικής δικτύωσης, οι κατασκευαστές βιντεοπαιχνιδιών, οι διαφημιστές και τα αυταρχικά καθεστώτα αναζητούν τρόπους να παρακινήσουν τους ανθρώπους να λάβουν αποφάσεις που δεν είναι προς το συμφέρον τους και αυτό θα τους δώσει νέα εργαλεία για να το κάνουν αυτό, " πρόσθεσε.
Τα ηθικά ζητήματα με τη συμπεριφορά που επηρεάζει την τεχνητή νοημοσύνη είναι συχνά σοβαρά, είπε η Toyama. Η τεχνητή νοημοσύνη επιτρέπει την εστιασμένη διαφήμιση στην οποία μπορούν να αξιοποιηθούν μεμονωμένες προτιμήσεις και αδυναμίες.
"Είναι δυνατό, για παράδειγμα, ένα σύστημα τεχνητής νοημοσύνης να εντοπίσει άτομα που προσπαθούν να κόψουν το κάπνισμα και να τους χαρίσει δελεαστικές διαφημίσεις τσιγάρων", πρόσθεσε.
Δεν συμφωνούν όλοι ότι η χειραγώγηση της ανθρώπινης συμπεριφοράς με τεχνητή νοημοσύνη είναι προβληματική. Η κλασική ψυχολογία και η τεχνητή νοημοσύνη και οι δύο παρατηρούν δεδομένα, επεσήμανε ο Τζέισον Τζ. Κόρσο, διευθυντής του Ινστιτούτου Τεχνητής Νοημοσύνης Στίβενς, σε μια συνέντευξη μέσω email.
"Οι επιστήμονες του ανθρώπου είναι πιθανώς καλύτεροι στη γενίκευση των παρατηρήσεων και στην απόσταξη των θεωριών της ανθρώπινης συμπεριφοράς που μπορεί να είναι ευρύτερα εφαρμόσιμες, ενώ τα μοντέλα τεχνητής νοημοσύνης θα ήταν πιο επιδεκτικά στον εντοπισμό αποχρώσεων που σχετίζονται με το πρόβλημα", είπε ο Corso.
"Από ηθική άποψη, δεν βλέπω διαφορά μεταξύ αυτών."
