Όταν ένας πράκτορας Τεχνητής Νοημοσύνης συνδέεται σε έναν τραπεζικό λογαριασμό, η τράπεζα αντιμετωπίζει ένα ερώτημα στο οποίο δεν είχε ποτέ σχεδιαστεί να απαντήσει: Είναι αυτός ο πελάτης, ένας βοηθός που έχει εξουσιοδοτήσει ο πελάτης ή ένα αυτοματοποιημένο σύστημα που ενεργεί πέρα από τις οδηγίες του;
Αυτό το ερώτημα δεν είναι πλέον θεωρητικό. Οι μεγάλες αμερικανικές τράπεζες εμποδίζουν ορισμένους εξωτερικούς πράκτορες τεχνητής νοημοσύνης να έχουν πρόσβαση σε λογαριασμούς πελατών. Ο Διευθύνων Σύμβουλος της JPMorgan Chase, Jamie Dimon, δήλωσε ότι η τράπεζα αναπτύσσει εργαλεία για τη διαχείριση των κινδύνων, προειδοποιώντας ότι η απεριόριστη πρόσβαση από εξωτερικούς πράκτορες θα ήταν πολύ επικίνδυνη για τους πελάτες και την τράπεζα. Ο Διευθύνων Σύμβουλος της Charles Schwab, Richard Wurster, δήλωσε ότι η εταιρεία εμποδίζει μη εξουσιοδοτημένους πράκτορες για να διατηρήσει τον έλεγχο της επαλήθευσης ταυτότητας και της εμπειρίας του πελάτη,αναφέρει το prophecynewswatch.com
Η ανησυχία δεν είναι απλώς το αν ένα σύστημα τεχνητής νοημοσύνης μπορεί να συνδεθεί. Είναι το αν η τράπεζα μπορεί να επαληθεύσει ποιος το κατευθύνει, τι επιτρέπεται να κάνει και ποιος είναι υπεύθυνος εάν κάνει ένα δαπανηρό λάθος.
Η απάντηση μπορεί να είναι ένα νέο σύστημα ταυτότητας.
Ο πράκτορας τεχνητής νοημοσύνης χρειάζεται μια ταυτότητα.
Σήμερα, μια τράπεζα μπορεί να αναγνωρίσει έναν πελάτη μέσω κωδικών πρόσβασης, τηλεφώνου, κωδικού ασφαλείας, συσκευής ή άλλων ελέγχων. Αλλά όταν ένας πελάτης δίνει σε έναν εκπρόσωπο τεχνητής νοημοσύνης πρόσβαση σε έναν λογαριασμό κοινοποιώντας τα διαπιστευτήρια σύνδεσης, η τράπεζα μπορεί να δει την ταυτότητα του πελάτη, παρόλο που ένα μηχάνημα ενεργοποιεί τον λογαριασμό.
Αυτό δημιουργεί ένα επικίνδυνο κενό. Ένας νόμιμος πράκτορας θα μπορούσε να παρερμηνεύσει ένα αίτημα, να ακολουθήσει κακόβουλες οδηγίες κρυμμένες σε έναν ιστότοπο ή να προβεί σε μια ενέργεια που ο πελάτης δεν είχε ποτέ σκοπό. Ένας εγκληματίας θα μπορούσε επίσης να συγκαλύψει έναν πράκτορα ή να καταλάβει έναν που έχει ήδη πρόσβαση.
Η Τράπεζα Διεθνών Διακανονισμών έχει εντοπίσει την αυθεντικοποίηση, την ευθύνη και την απάτη ως σημαντικές προκλήσεις για τις πληρωμές που πραγματοποιούνται μέσω πρακτόρων. Το κεντρικό ερώτημα μετατοπίζεται από το «Επιτρέπεται σε αυτό το άτομο να πληρώσει;» στο «Έχει αυτός ο πράκτορας άδεια να πραγματοποιήσει αυτήν τη συγκεκριμένη πληρωμή;» Οι τράπεζες θα θέλουν έναν αξιόπιστο τρόπο για να αναγνωρίσουν τον πράκτορα, να τον συνδέσουν με τον κάτοχό του και να θέσουν σαφή όρια σε ό,τι μπορεί να κάνει.
Αυτό θα μπορούσε να σημαίνει ξεχωριστά διαπιστευτήρια για τους πράκτορες Τεχνητής Νοημοσύνης, περιορισμένα δικαιώματα, όρια συναλλαγών, συνεχή παρακολούθηση και πρόσθετη επαλήθευση πελατών. Κάποια μορφή ψηφιακής ταυτότητας μπορεί να αποτελέσει κεντρικό μέρος της απάντησης.
Αλλά ένα σύστημα που έχει κατασκευαστεί για την επαλήθευση της ταυτότητας μπορεί επίσης να γίνει ένα σύστημα που αποφασίζει εάν η ταυτότητα είναι αποδεκτή.
Η ασφάλεια μπορεί να γίνει φύλακας πύλης.
Η ψηφιακή ταυτότητα παρουσιάζεται συχνά ως μια ευκολία: ένα αξιόπιστο διαπιστευτήριο που διευκολύνει την πρόσβαση σε τραπεζικές συναλλαγές, ταξίδια, υγειονομική περίθαλψη και ηλεκτρονικές υπηρεσίες. Βιομετρικά στοιχεία όπως η σάρωση προσώπου ή το δακτυλικό αποτύπωμα μπορούν να βοηθήσουν στην επιβεβαίωση της παρουσίας ενός πραγματικού προσώπου. Μια ψηφιακή ταυτότητα θα μπορούσε να συνδέσει αυτό το άτομο με έναν λογαριασμό ή να εξουσιοδοτήσει έναν εκπρόσωπο της Τεχνητής Νοημοσύνης να ενεργήσει εκ μέρους του.
Ωστόσο, η επαλήθευση ταυτότητας και η εξουσιοδότηση δεν είναι το ίδιο πράγμα. Μια σάρωση προσώπου μπορεί να βοηθήσει στον προσδιορισμό του ποιος είναι κάποιος. Δεν απαντά στο ερώτημα πόση εξουσία έχει παραχωρήσει αυτό το άτομο σε έναν πράκτορα Τεχνητής Νοημοσύνης. Οι αυστηρότεροι έλεγχοι ταυτότητας μπορούν να βοηθήσουν στην πρόληψη της απάτης, αλλά δημιουργούν επίσης περισσότερα σημεία όπου η πρόσβαση μπορεί να απαγορευτεί, να περιοριστεί ή να παρακολουθηθεί.
Τι συμβαίνει εάν ένα σύστημα απορρίψει την ταυτότητα κάποιου; Τι γίνεται εάν ένα άτομο χάσει την πρόσβαση σε ένα τηλέφωνο, λογαριασμό ή βιομετρικά διαπιστευτήρια; Τι γίνεται εάν μια τράπεζα, μια εταιρεία τεχνολογίας ή μια κυβέρνηση αλλάξει τους κανόνες για τη διατήρηση της πρόσβασης; Καθώς όλο και περισσότερες καθημερινές δραστηριότητες μεταφέρονται σε ψηφιακά συστήματα, η ικανότητα λειτουργίας στην κοινωνία θα μπορούσε να εξαρτάται όλο και περισσότερο από διαπιστευτήρια που οι άνθρωποι δεν ελέγχουν οι ίδιοι.
Η ανησυχία δεν είναι ότι κάθε ψηφιακή ταυτότητα θα χρησιμοποιηθεί για καταπίεση. Είναι ότι η ευκολία και η ασφάλεια μπορούν να κάνουν τα κεντρικά συστήματα να φαίνονται απαραίτητα. Από τη στιγμή που η οικονομική πρόσβαση, οι αγορές και οι βασικές υπηρεσίες βασίζονται σε διασυνδεδεμένα ψηφιακά διαπιστευτήρια, μια απόφαση που λαμβάνεται από το σύστημα θα μπορούσε να επηρεάσει πολύ περισσότερα από μια μεμονωμένη τραπεζική συναλλαγή.
Από την Ταυτότητα στην Πίστη.
Η Αποκάλυψη περιγράφει κάτι πολύ πιο εκτεταμένο από έναν έλεγχο ταυτότητας. Στην Αποκάλυψη 13, το σύστημα του θηρίου απαιτεί από τους ανθρώπους να λάβουν ένα χάραγμα, και όσοι δεν το έχουν δεν μπορούν να αγοράσουν ή να πουλήσουν. Το απόσπασμα συνδέει το εμπόριο με την αφοσίωση: το χάραγμα συνδέεται με τη λατρεία και την αφοσίωση στο θηρίο.
Οι πράκτορες τεχνητής νοημοσύνης, τα βιομετρικά στοιχεία και οι ψηφιακές ταυτότητες δεν αποτελούν από μόνες τους το χάραγμα του θηρίου. Αλλά η τεχνολογία που αναπτύσσεται τώρα εγείρει ένα σοβαρό ερώτημα: Τι συμβαίνει όταν τα συστήματα που επαληθεύουν την ταυτότητα γίνονται και τα συστήματα που διέπουν τη συμμετοχή στο εμπόριο;
Η ιστορία δείχνει ότι οι ηγεμόνες απαιτούσαν περισσότερα από απλή υπακοή κατ' ιδίαν. Ο Ναβουχοδονόσορας διέταξε τους ανθρώπους να προσκυνούν μια εικόνα, με τιμωρία για όσους αρνούνταν. Οι ρωμαϊκές αρχές ανέμεναν δημόσιες εκδηλώσεις πίστης στον αυτοκράτορα. Οι δικτάτορες στη νεότερη ιστορία απαιτούσαν όρκους, δημόσια συμμόρφωση και πίστη στο κράτος.
Αυτά τα συστήματα βασίζονταν στα εργαλεία της εποχής τους: αξιωματούχους, αρχεία, πληροφοριοδότες, αστυνομία και δημόσιες τελετές. Δεν διέθεταν δίκτυα άμεσων ψηφιακών πληρωμών ή αυτοματοποιημένα συστήματα ταυτοποίησης. Το θέμα δεν είναι να ισχυριστούμε ότι η σημερινή τεχνολογία ήδη επιβάλλει πολιτική ή θρησκευτική αφοσίωση. Είναι να αναγνωρίσουμε ότι οι ηγέτες έχουν επανειλημμένα αναζητήσει τρόπους για να εντοπίσουν τη διαφωνία και να επιβάλουν την δημόσια αφοσίωση.
Ένα μελλοντικό σύστημα που θα συνδυάζει την επαλήθευση ταυτότητας, την οικονομική πρόσβαση και την κεντρική εξουσία θα μπορούσε να διευκολύνει την άσκηση αυτής της πίεσης. Εάν η πρόσβαση στην αγορά και πώληση εξαρτιόταν από τη συμμόρφωση με έναν κυβερνητικό ή θεσμικό κανόνα, οι συνέπειες της άρνησης θα μπορούσαν να επεκταθούν στην καθημερινή ζωή. Ένα σύστημα που σχεδιάστηκε αρχικά για να σταματήσει την απάτη θα μπορούσε, υπό διαφορετική ηγεσία ή συνθήκες, να επεκταθεί για να επιβάλει ευρύτερες απαιτήσεις.
Το ερώτημα που πρέπει να θέσουμε τώρα.
Οι πράκτορες της τεχνητής νοημοσύνης ενδέχεται σύντομα να χειρίζονται αγορές ρουτίνας, να συγκρίνουν τιμές και να διαχειρίζονται μέρη των οικονομικών μας. Οι τράπεζες έχουν κατανοητούς λόγους να απαιτούν ισχυρότερες δικλείδες ασφαλείας. Αλλά καθώς αυτές οι δικλείδες ασφαλείας δημιουργούνται, το κοινό θα πρέπει να αναρωτηθεί ποιος ελέγχει το σύστημα ταυτοποίησης, ποιες πληροφορίες συλλέγει, πώς μπορούν να αμφισβητηθούν οι αποφάσεις και αν οι άνθρωποι μπορούν ακόμα να συμμετέχουν στην κοινωνία χωρίς να παραχωρήσουν τον έλεγχο της οικονομικής τους ζωής.
Η προειδοποίηση της Αποκάλυψης δεν αφορά απλώς ένα νέο κομμάτι τεχνολογίας. Πρόκειται για ένα σύστημα στο οποίο η οικονομική συμμετοχή συνδέεται με την αφοσίωση. Η άνοδος της τραπεζικής μέσω Τεχνητής Νοημοσύνης δείχνει πόσο γρήγορα τα ζητήματα ταυτότητας, εξουσιοδότησης και πρόσβασης σε χρήματα μετακινούνται από το μέλλον στο παρόν.
Η τεχνολογία μπορεί να ξεκινήσει ρωτώντας αν ένας πράκτορας Τεχνητής Νοημοσύνης είναι νόμιμος. Το μεγαλύτερο ερώτημα είναι ποιος θα αποφασίσει τελικά αν το άτομο που κρύβεται πίσω από αυτήν επιτρέπεται να συμμετάσχει.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου