Στον σημερινό διασυνδεδεμένο και ευάλωτο κόσμο, η πίεση σε ένα σημείο μπορεί να εξαπλωθεί σε όλο τον πλανήτη μέσα σε λίγες ώρες, ανατρέποντας οικονομίες, κυβερνήσεις και κοινωνίες. Ο κίνδυνος δεν περιορίζεται πλέον στους παραδοσιακούς πολέμους ή στις περιφερειακές κρίσεις. Τώρα, η ίδια τεχνητή νοημοσύνη που έχει εισχωρήσει σε κάθε τομέα της ανθρώπινης δραστηριότητας έχει επίσης ενσωματωθεί στα πιο ευάλωτα και κρίσιμα συστήματά μας: στρατιωτικά δίκτυα διοίκησης, δίκτυα ηλεκτρικής ενέργειας, εγκαταστάσεις επεξεργασίας νερού, νοσοκομεία, πύργοι ελέγχου εναέριας κυκλοφορίας, σιδηροδρομικά συστήματα, λιμάνια και ακόμη και το περίπλοκο δίκτυο λογισμικού που διαχειρίζεται τα πυρηνικά όπλα. Ο ίδιος κώδικας που επιτρέπει στις χώρες να λειτουργούν με αστραπιαία ταχύτητα εκθέτει επίσης κάθε πτυχή της κοινωνίας σε άμεση καταστροφή.
Ένα σφάλμα. Μια παραβίαση. Μια λανθασμένη εκτίμηση της τεχνητής νοημοσύνης. Αυτό είναι το μόνο που χρειάζεται για να βυθίσει τον πλανήτη σε ένα ανεπανόρθωτο χάος. Τι θα συμβεί στον ανθρώπινο πολιτισμό —στην πολιτική, στην οικονομία, στην καθημερινή μας ζωή— όταν αλγόριθμοι χωρίς συνείδηση, αλλά με επικίνδυνες δυνατότητες, αρχίσουν να μας γνωρίζουν καλύτερα από ό,τι γνωρίζουμε εμείς τους εαυτούς μας και να ενεργούν με εξουσία που δεν ελέγχουμε πλέον;
Πολλοί ειδικοί είναι βαθιά ανησυχημένοι από την πορεία της τεχνητής νοημοσύνης, προειδοποιώντας ότι καθώς η ΤΝ φτάνει σε υψηλότερα επίπεδα αυτονομίας, τα ρομπότ δεν θα περιορίζονται πλέον από τα αρχικά τους λειτουργικά συστήματα. Θα επαναπρογραμματίζονται, προσαρμόζοντας τις δυνατότητές τους πέρα από τους περιορισμούς που είχαν θέσει οι δημιουργοί τους. Αυτή η ικανότητα θα μπορούσε να ενισχύσει δραματικά τη θνησιμότητα των δολοφονικών drones και των αυτόνομων πολεμικών μηχανών, επιτρέποντάς τους να αναγνωρίζουν, να παρακολουθούν και να στοχεύουν ανεξάρτητα τους ανθρώπους χρησιμοποιώντας αναγνώριση προσώπου, ανάλυση βάδισης, θερμικές υπογραφές και άλλους βιομετρικούς Σε ένα τέτοιο σενάριο, οι μηχανές δεν θα ακολουθούν απλώς εντολές, αλλά θα αποφασίζουν ποιος θα ζήσει και ποιος θα πεθάνει, χωρίς να σταματούν για συνείδηση, εποπτεία ή έλεος.
Οι άνθρωποι ήδη παραδίδουν αποφάσεις ζωής και θανάτου στην τεχνητή νοημοσύνη. Τα αυτόνομα οχήματα θα υιοθετηθούν ευρέως μόνο αν αποδείξουν ότι οδηγούν με μεγαλύτερη ασφάλεια από τους ανθρώπους, αλλά τι θα συμβεί όταν το ίδιο όριο εφαρμοστεί στις αποφάσεις στο πεδίο της μάχης; Όταν τα αυτόνομα στρατιωτικά drones έχουν την εξουσία να αποφασίζουν μόνα τους, χωρίς ανθρώπινη επιβεβαίωση, πότε θα χτυπήσουν, ποιον θα σκοτώσουν και πώς θα προκαλέσουν τη μέγιστη δυνατή ζημιά; Η τεχνολογία προχωράει με γοργούς ρυθμούς μπροστά από τα ηθικά και πολιτικά μας συστήματα, γίνεται πιο έξυπνη από τους ανθρώπους και πλησιάζει σιγά-σιγά σε ένα σημείο όπου δεν θα καθορίζουμε πλέον εμείς τους κανόνες της.
Ξεκινήσαμε με απλά ρομπότ που καθάριζαν τα σπίτια μας. Τώρα κατασκευάζουμε τεχνολογικά συγκροτήματα που μπορούν να κυνηγούν και να σκοτώνουν στο πεδίο της μάχης — πραγματικοί Terminators, θωρακισμένοι και αυτόνομοι, ικανοί να εμπλακούν σε μάχες χωρίς ανθρώπινη παρέμβαση. Τα συστήματα στόχευσής τους μπορούν να προσαρμόζονται σε πραγματικό χρόνο, οι επικοινωνίες τους είναι κρυπτογραφημένες πέρα από την ανθρώπινη κατανόηση και γίνονται πολύ πιο έξυπνα από τους ανθρώπους που τα δημιούργησαν.
Ο πιο ρεαλιστικός κίνδυνος στο εγγύς μέλλον δεν είναι κάποια υπερεξυπνη επιστημονική φαντασία που θα αποφασίσει να μας εξοντώσει. Είναι η ταχεία στρατιωτικοποίηση της τεχνητής νοημοσύνης με τη μορφή αυτόνομων σμηνών drone, αεροσκαφών κρούσης που πιλοτάρονται από τεχνητή νοημοσύνη και αλγορίθμων κυβερνοπολέμου που έχουν σχεδιαστεί για να παραλύουν τις υποδομές. Αυτά τα συστήματα μπορούν ήδη να ελέγχονται εξ αποστάσεως, αλλά όλο και περισσότερο σχεδιάζονται για να λειτουργούν χωρίς ανθρώπινη καθοδήγηση, για να «αναλαμβάνουν δράσεις» που προκαλούν πραγματική ζημιά με βάση τίποτα περισσότερο από υπολογισμούς πιθανότητας και μοτίβα συμπεριφοράς που έχουν μάθει οι μηχανές.
Η εύθραυστη ισορροπία που εμποδίζει τις μεγάλες δυνάμεις να οδηγηθούν σε ανοιχτό πόλεμο κρέμεται πλέον από μια κλωστή. Ο μεγαλύτερος κίνδυνος μπορεί να μην είναι μια σκόπιμη απόφαση για την έναρξη ενός πολέμου, αλλά η τρομακτική πιθανότητα ενός ατυχήματος, ενός λανθασμένου υπολογισμού ή ενός ψευδούς συναγερμού που θα προκαλέσει μια αλυσιδωτή αντίδραση που κανένας άνθρωπος δεν θα μπορεί να σταματήσει. Η ιστορία μας έχει ήδη δώσει μια τρομακτική προειδοποίηση: το 1983, ο Σοβιετικός αξιωματικός Στανισλάβ Πέτροφ αποφάσισε να αγνοήσει αυτό που του έδειξε ο υπολογιστής του, δηλαδή ότι ήταν σε εξέλιξη εκτόξευση πυραύλου από τις ΗΠΑ. Εμπιστευόμενος το ένστικτό του, υπέθεσε ότι επρόκειτο για λανθασμένη ένδειξη. Είχε δίκιο. Η άρνησή του να υπακούσει στη μηχανή μπορεί να έσωσε τον πλανήτη από την πυρηνική καταστροφή.
Αλλά εδώ είναι η διαφορά: τα συστήματα που έχουμε σήμερα είναι πολύ πιο αυτοματοποιημένα και τα χρονικά περιθώρια αντίδρασης είναι πολύ μικρότερα. Κατά τη διάρκεια του Ψυχρού Πολέμου, οι ηγέτες είχαν 20 έως 30 λεπτά για να επιβεβαιώσουν αν μια απειλή ήταν πραγματική. Τώρα, με την προηγμένη ανίχνευση μέσω δορυφόρων, τα υπερηχητικά όπλα και την ανάλυση με τη βοήθεια της τεχνητής νοημοσύνης, οι αποφάσεις μπορούν να ληφθούν σε λιγότερο από 10 λεπτά — μερικές φορές σε λιγότερο από πέντε. Αυτό δεν είναι πρόοδος. Είναι αυτοκτονία. Δεν αφήνει περιθώρια για ανθρώπινη κρίση, δεν αφήνει χώρο για αμφιβολίες, δεν αφήνει χρόνο για να τεθεί το πιο σημαντικό ερώτημα: Τι θα συμβεί αν η μηχανή κάνει λάθος;
Μόλις ξεκινήσει μια αυτοματοποιημένη ακολουθία, η διακοπή της μπορεί να είναι σχεδόν αδύνατη. Και στον σύγχρονο υβριδικό πόλεμο - όπου οι συμβατικές στρατιωτικές κινήσεις συνδυάζονται με κυβερνοεπιθέσεις, οικονομική πίεση και εκστρατείες παραπληροφόρησης - ο κίνδυνος πολλαπλασιάζεται. Φανταστείτε μια κυβερνοεπίθεση που διακόπτει την παροχή ρεύματος σε ένα κέντρο διοίκησης του ΝΑΤΟ σε μια στιγμή υψηλής έντασης. Ή ένα ραντάρ έγκαιρης προειδοποίησης που ξαφνικά σβήνει λόγω μιας μικρής τεχνικής βλάβης - μόνο και μόνο για να ερμηνευτεί από την άλλη πλευρά ως μια σκόπιμη προσπάθεια να τυφλώσει τις άμυνές της. Αυτό δεν είναι παράνοια. Η Κυβερνοδιοίκηση των ΗΠΑ έχει ήδη καταγράψει πολλά περιστατικά όπου βρέθηκε κακόβουλος κώδικας μέσα σε συστήματα που συνδέονται με την πυρηνική διοίκηση και έλεγχο. Ορισμένες εισβολές εντοπίστηκαν σε κρατικούς φορείς. Άλλες παραμένουν ανεξήγητες.
Η απειλή δεν σταματά στην διείσδυση. Οι χάκερ μπορούν να «πλαστογραφήσουν» ψευδή σήματα, κάνοντάς τους να φανεί ότι έχει πραγματοποιηθεί εκτόξευση πυραύλου, ενώ στην πραγματικότητα δεν έχει συμβεί τίποτα. Σε μια κρίση, οι ηγέτες μπορεί να μην έχουν την πολυτέλεια να κάνουν διπλό έλεγχο πριν απαντήσουν. Ένα μόνο εσφαλμένο σήμα θα μπορούσε να οδηγήσει σε μια πυρηνική ανταλλαγή μέσα σε λίγα λεπτά. Το Ατλαντικό Συμβούλιο και η RAND Corporation προειδοποιούν ότι όσο πλησιάζουμε σε σχεδόν άμεσους χρόνους αντίδρασης, τόσο πιο απρόβλεπτη και επικίνδυνη γίνεται η κλιμάκωση.
Για δεκαετίες, η πυρηνική αποτροπή ήταν αόρατη, λειτουργώντας στο παρασκήνιο σαν μια σιωπηλή, απειλητική ασπίδα. Οι περισσότεροι άνθρωποι δεν το σκεφτόντουσαν ποτέ, εκτός αν έπεφτε πάνω σε ένα ντοκιμαντέρ για τον Ψυχρό Πόλεμο. Σήμερα, έχει βγει στο φως. Στρατηγικά υποβρύχια φωτογραφίζονται ανοιχτά και παρακολουθούνται στο διαδίκτυο. Οι ηγέτες ανταλλάσσουν δημόσιες απειλές. Συστήματα όπως το «Νεκρό Χέρι» της Ρωσίας -που κάποτε ψιθυριζόταν μόνο σε απόρρητες ενημερώσεις- συζητούνται τώρα στα ανοιχτά μέσα ενημέρωσης. Οι παλιοί κανόνες της διακριτικότητας έχουν εξαφανιστεί. Τα γάντια έχουν βγει.
Αυτό αλλάζει τα πάντα για τους απλούς πολίτες. Αυτό που κάποτε παρακολουθούνταν μόνο από τις υπηρεσίες πληροφοριών απαιτεί τώρα προσωπική προσοχή. Μια ξαφνική αλλαγή στο επίπεδο DEFCON του αμερικανικού στρατού. Μια απροσδόκητη αύξηση των κινήσεων στρατευμάτων προς την Ανατολική Ευρώπη ή τον Ειρηνικό. Μια ασυνήθιστη κοινή ανακοίνωση από την FEMA και την Εσωτερική Ασφάλεια. Αυτά δεν είναι πλέον αφηρημένα σήματα. Είναι προειδοποιήσεις. Οι Αμερικανοί μπορεί σύντομα να παρατηρήσουν ανεπαίσθητες αλλαγές - συχνότερες δοκιμές έκτακτης ανάγκης, αυξημένες αεροπορικές περιπολίες πάνω από πόλεις, ανεξήγητους περιορισμούς σε ορισμένους εναέριους χώρους ή ναυτιλιακές οδούς. Οι σύμμαχοί μας βλέπουν τα ίδια σημάδια και ενεργούν ανάλογα, διατηρώντας τις δυνάμεις τους σε μόνιμη επιφυλακή, ενισχύοντας τις υποδομές και διεξάγοντας συνεχείς κοινές ασκήσεις προετοιμαζόμενοι για το αδιανόητο.
Σε παγκόσμιο επίπεδο, αυτή η ορατή επιστροφή της πυρηνικής αποτροπής επηρεάζει τη διπλωματία, την οικονομία και την ψυχολογία. Οι χρηματιστηριακές αγορές τρέμουν στην παραμικρή μυρωδιά στρατιωτικής κινητοποίησης. Οι τιμές της ενέργειας εκτοξεύονται όταν απειλούνται οι ναυτιλιακές οδοί. Οι πληθυσμοί ζουν κάτω από τη βαριά σκιά της γνώσης ότι τα πιο καταστροφικά όπλα του κόσμου δεν είναι κειμήλια - είναι κλειδωμένα, γεμάτα και σε ύψιστη ετοιμότητα.
Και τώρα φτάνουμε στο ερώτημα που μπορεί να καθορίσει όχι μόνο φέτος, αλλά και τη μοίρα της ανθρωπότητας: Τι συμβαίνει όταν η σκανδάλη δεν πατιέται από ανθρώπινο χέρι, αλλά από μια μηχανή;
Εδώ βρισκόμαστε. Στεκόμαστε στις τελευταίες ήρεμες ώρες πριν από μια καταιγίδα που μπορεί να μην έχει τέλος. Έχουμε φτιάξει τον δικό μας δήμιο, τον έχουμε διδάξει να σκέφτεται και του έχουμε δώσει τα κλειδιά για τα οπλοστάσιά μας. Έχουμε εμπιστευτεί την επιβίωσή μας σε γραμμές κώδικα που δεν καταλαβαίνουμε, οι οποίες λειτουργούν σε μηχανές που δεν μπορούμε να σταματήσουμε. Η Βίβλος προειδοποιεί για δυνάμεις και αρχές πέρα από την κατανόησή μας. Σήμερα, δεν καλύπτονται από μυστήριο - είναι τυλιγμένες σε ατσάλι, καλωδιωμένες με κυκλώματα και οπλισμένες με κεφαλές.
Όταν έρθει αυτό το πρώτο ψευδές σήμα —και θα έρθει— δεν θα υπάρχει χρόνος για συζήτηση. Δεν θα υπάρχει χρόνος για επαλήθευση. Δεν θα υπάρχει χρόνος για ανθρώπινη αμφιβολία να παρέμβει. Απλώς θα παρακολουθούμε τις μηχανές να κάνουν αυτό που τις έχουμε εκπαιδεύσει να κάνουν. Και όταν τελειώσει, δεν θα υπάρχουν νικητές, δεν θα υπάρχουν πόλεις για να ανοικοδομηθούν, δεν θα υπάρχουν επιζώντες για να πουν την ιστορία. Μόνο σιωπή, η αιώνια σιωπή ενός πλανήτη που εμπιστεύτηκε τη μοίρα του σε τεχνητούς θεούς.
Δεν οδεύουμε απλώς προς τους Έσχατους Καιρούς. Τους προγραμματίζουμε.
ΑΠΟΔΟΣΗ : Corfiatiko.blogspot.com
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου