Βασικά Takeaways
- Μια εταιρεία λογισμικού φέρεται να συλλέγει πληροφορίες μέσων κοινωνικής δικτύωσης για να δημιουργήσει προφίλ που μπορούν να χρησιμοποιηθούν για τον εντοπισμό ατόμων που θέτουν κινδύνους για την ασφάλεια.
- Η Voyager Labs έκλεισε μια σημαντική συμφωνία με μια ιαπωνική κρατική υπηρεσία.
- Αλλά οι ειδικοί προειδοποιούν ότι το λογισμικό πρόβλεψης AI μπορεί να εξαπατηθεί.
Οι πληροφορίες σας στο διαδίκτυο θα μπορούσαν να χρησιμοποιηθούν για να προβλέψετε εάν ενδέχεται να διαπράξετε κάποιο έγκλημα.
Το Η Voyager Labs φέρεται να συλλέγει πληροφορίες μέσων κοινωνικής δικτύωσης για να δημιουργήσει προφίλ που μπορούν να χρησιμοποιηθούν για τον εντοπισμό ατόμων που ενέχουν κινδύνους για την ασφάλεια. Είναι μέρος μιας αυξανόμενης προσπάθειας χρήσης τεχνητής νοημοσύνης (AI) για τη διερεύνηση πιθανών εγκληματιών. Αλλά ορισμένοι ειδικοί λένε ότι το κίνημα είναι γεμάτο από πιθανά προβλήματα.
"Είναι πολύ δύσκολο να προβλέψεις την ανθρώπινη συμπεριφορά", είπε στο Lifewire σε μια συνέντευξη μέσω email ο Matthew Carr, ερευνητής ασφάλειας στην Atumcell Group. "Δεν είμαστε καν σε θέση να προβλέψουμε τη δική μας συμπεριφορά, πόσο μάλλον τη συμπεριφορά κάποιου άλλου. Νομίζω ότι είναι πιθανό η τεχνητή νοημοσύνη να χρησιμοποιηθεί στο μέλλον για αυτόν τον σκοπό, αλλά απέχουμε πολύ από το να το κάνουμε προς το παρόν."
Δημιουργία Προφίλ
Όπως ανέφερε πρόσφατα ο Guardian, το αστυνομικό τμήμα του Λος Άντζελες εξέτασε τη χρήση του λογισμικού πρόβλεψης εγκλήματος της Voyager Lab. Η εταιρεία ανακοίνωσε επίσης ότι είχε υπογράψει μια σημαντική συμφωνία με μια ιαπωνική κρατική υπηρεσία.
Η ιαπωνική συμφωνία παρέχει στην κυβερνητική υπηρεσία μια πλατφόρμα διερεύνησης βασισμένη σε τεχνητή νοημοσύνη που αναλύει τεράστιο όγκο πληροφοριών από οποιαδήποτε πηγή, συμπεριλαμβανομένων των ανοιχτών και σε βάθος δεδομένων.
"Χαίρομαι που συνεργαζόμαστε για την καταπολέμηση της τρομοκρατίας και του εγκλήματος", δήλωσε η Divya Khangarot, Διευθύνων Σύμβουλος APAC στα Voyager Labs, στο δελτίο τύπου. "Χρησιμοποιώντας τις προηγμένες λύσεις νοημοσύνης του Voyager Lab, οι πελάτες μας αποκτούν μοναδικές δυνατότητες για να εντοπίζουν προληπτικά και να διαταράσσουν πιθανές απειλές. Προσφέρουμε πρόσθετα επίπεδα βαθιάς διερεύνησης πληροφοριών χρησιμοποιώντας έναν συνδυασμό AI, Machine Learning και OSINT για να αποκαλύψουμε κρυφά ίχνη, πληροφορίες παραβίασης, και κακοί ηθοποιοί."
Όχι τόσο έξυπνο;
Αλλά σε μια συνέντευξη μέσω email, ο Matt Heisie, ο συνιδρυτής του Ferret.ai, το οποίο χρησιμοποιεί επίσης την τεχνητή νοημοσύνη για να προβλέψει τους παραβάτες, αμφισβήτησε ορισμένους από τους ισχυρισμούς της Voyager Labs.
"Υπάρχει τόσο σαφής σχέση μεταξύ, για παράδειγμα, ενός αρχείου σύλληψης και μελλοντικής εγκληματικής συμπεριφοράς, όσο υπάρχει ένα μαύρο σημείο σε μια εξέταση και η ανάπτυξη ενός όγκου;" αυτός είπε. «Σκεφτείτε όλες τις πιθανές σύγχυση που προέκυψαν σε αυτή τη σύλληψη - σε ποια γειτονιά ζούσε το άτομο, την ποσότητα και την ποιότητα, ακόμη και τις προκαταλήψεις, της αστυνομίας σε αυτήν την περιοχή. Η ηλικία του ατόμου, το φύλο του, η φυσική του εμφάνιση, όλα αυτά έχουν αλληλεπιδράσεις στην πιθανότητα αυτό το άτομο να έχει ιστορικό σύλληψης, τελείως διαχωρισμένο από την πραγματική του τάση να διαπράξει το έγκλημα που προσπαθούμε να προβλέψουμε."
Οι κατηγορούμενοι με καλύτερους δικηγόρους είναι πιο πιθανό να είναι σε θέση να αποκρύψουν τα αρχεία από το να γίνουν δημόσια διαθέσιμα, είπε ο Heisie. Ορισμένες δικαιοδοσίες περιορίζουν τη δημοσιοποίηση πυροβολισμών ή τα αρχεία συλλήψεων για την προστασία του κατηγορουμένου.
"Ο υπολογιστής θα μάθει με βάση τα δεδομένα που του δίνετε και θα ενσωματώσει όλες τις προκαταλήψεις που χρησιμοποιήθηκαν σε αυτήν τη συλλογή δεδομένων…"
"Όλα αυτά προσθέτουν περαιτέρω προκατάληψη στους αλγόριθμους", πρόσθεσε. "Ο υπολογιστής θα μάθει με βάση τα δεδομένα που του δίνετε και θα ενσωματώσει όλες τις προκαταλήψεις που χρησιμοποιήθηκαν στη συλλογή δεδομένων στη μάθηση και στην ερμηνεία."
Έχουν γίνει αρκετές προσπάθειες δημιουργίας τεχνητής νοημοσύνης που προβλέπει το έγκλημα και με συχνά σκανδαλώδη αποτελέσματα, είπε ο Heisie.
Το COMPAS, ένας αλγόριθμος που χρησιμοποιεί οι αρχές επιβολής του νόμου για την πρόβλεψη της επανάληψης του αδικήματος, χρησιμοποιείται συχνά για τον καθορισμό της ποινής και της εγγύησης. Αντιμετώπισε σκάνδαλο από το 2016 για φυλετικές προκαταλήψεις, προβλέποντας ότι οι μαύροι κατηγορούμενοι ενέχουν υψηλότερο κίνδυνο υποτροπής από ό,τι στην πραγματικότητα, και το αντίστροφο για τους λευκούς κατηγορούμενους.
Περισσότεροι από 1.000 τεχνολόγοι και μελετητές, συμπεριλαμβανομένων ακαδημαϊκών και ειδικών τεχνητής νοημοσύνης από το Χάρβαρντ, το MIT, την Google και τη Microsoft, μίλησαν το 2020 ενάντια σε ένα έγγραφο που ισχυριζόταν ότι οι ερευνητές είχαν αναπτύξει έναν αλγόριθμο που θα μπορούσε να προβλέψει την εγκληματικότητα βασισμένος αποκλειστικά σε το πρόσωπο του ατόμου, λέγοντας ότι η δημοσίευση τέτοιων μελετών ενισχύει την προϋπάρχουσα φυλετική προκατάληψη στο σύστημα ποινικής δικαιοσύνης, σημείωσε ο Heisie.
Η Κίνα είναι η μεγαλύτερη και ταχύτερα αναπτυσσόμενη αγορά για αυτόν τον τύπο τεχνολογίας, κυρίως λόγω της ευρείας πρόσβασης σε ιδιωτικά δεδομένα, με περισσότερες από 200 εκατομμύρια κάμερες παρακολούθησης και προηγμένη έρευνα τεχνητής νοημοσύνης που επικεντρώνεται σε αυτό το θέμα για πολλά χρόνια, είπε ο Heisie. Συστήματα όπως το Police Cloud του CloudWalk χρησιμοποιούνται πλέον για την πρόβλεψη και την παρακολούθηση εγκληματιών και τον εντοπισμό της επιβολής του νόμου.
"Ωστόσο, αναφέρονται επίσης σημαντικές προκαταλήψεις", είπε ο Heisie.
Ο Heisie πρόσθεσε ότι η εταιρεία του επιμελείται προσεκτικά τα δεδομένα που εισάγονται και δεν χρησιμοποιεί φωτογραφίες ή αρχεία συλλήψεων, "αντ' αυτού επικεντρώνεται σε πιο αντικειμενικά κριτήρια."
"Η τεχνητή νοημοσύνη μας έμαθε από τα επιμελημένα δεδομένα, αλλά το πιο σημαντικό, μαθαίνει επίσης από ανθρώπους, οι οποίοι οι ίδιοι αναλύουν, επιμελούνται και αξιολογούν αρχεία και μας λένε για τις αλληλεπιδράσεις τους με άλλους", πρόσθεσε. "Διατηρούμε επίσης πλήρη διαφάνεια και δωρεάν και δημόσια πρόσβαση στην αίτησή μας (όσο πιο γρήγορα μπορούμε να την αφήσουμε να μπει σε έκδοση beta) και καλωσορίζουμε τις πληροφορίες σχετικά με τις διαδικασίες και τις διαδικασίες μας."
