Τρίτη 17 Νοεμβρίου 2026

Τι θα γινόταν αν οι διακοπές ρεύματος δεν ήταν ούτε επιθέσεις ούτε ατυχήματα;

 Μια σημείωση πριν από οτιδήποτε άλλο. Αυτό που ακολουθεί είναι μια υπόθεση και θέλω αυτή η λέξη να έχει όλο της το βάρος. Δεν υπάρχουν στοιχεία που να την αποδεικνύουν πέρα ​​από τα περιστασιακά. Προς το παρόν δεν μπορεί να αποδειχθεί και, όπως θα εξηγήσω, ένα μέρος αυτού που την κάνει ανησυχητική είναι ότι μπορεί να μην είναι αποδείξιμη ακόμα κι αν είναι αληθινή. Την σκέφτηκα προσπαθώντας να κατανοήσω μια παράξενη εβδομάδα. Διαβάστε την ως ένα νοητικό πείραμα, δοκιμάστε την με βάση αυτά που γνωρίζετε και κρατήστε την χαλαρά.


Τι τεκμηριώνεται

Ξεκινήστε με το τι μπορούμε πραγματικά να υποστηρίξουμε. Στις 12 Νοεμβρίου, το Microsoft 365 σταμάτησε να λειτουργεί παγκοσμίως και παρέμεινε προβληματικό μέχρι το Σαββατοκύριακο. Η προκαταρκτική έκθεση της Microsoft, με ημερομηνία 15 Νοεμβρίου , αποδίδει την αποτυχία σε ένα ελάττωμα σε μια επιδιόρθωση που η εταιρεία κατασκεύασε για τους δικούς της διακομιστές πύλης δικτύου και άρχισε να αναπτύσσει τον Ιούλιο. Το ελάττωμα παρέμεινε σιωπηλό για μήνες. Όταν η κίνηση μετατοπίστηκε και η χωρητικότητα μειώθηκε, ξύπνησε και περισσότερο από το 80% αυτών των διακομιστών πύλης φέρεται να τέθηκαν εκτός λειτουργίας . Η Microsoft το χαρακτήρισε «τεχνικό πρόβλημα που δεν σχετίζεται με τον κυβερνοχώρο ή την Τεχνητή Νοημοσύνη ή τους πράκτορες».

Στις 13 Νοεμβρίου, η FAA σταμάτησε κάθε αναχώρηση στη χώρα για περισσότερες από τέσσερις ώρες. Ο Υπουργός Μεταφορών Σον Ντάφι υπέδειξε έναν δρομολογητή που εγκαταστάθηκε από τον εργολάβο L3Harris σε μια απομακρυσμένη εγκατάσταση ραδιοεπικοινωνίας στο Ελ Ντοράντο του Αρκάνσας, κατά τη διάρκεια αναβάθμισης από χαλκό σε οπτική ίνα. Αυτή η μία συσκευή, μαζί με μια δεύτερη εγκατάσταση στο Αμαρίγιο του Τέξας, έπληξαν το δίκτυο με περίπου χίλιες συνδέσεις κάθε λίγα δευτερόλεπτα , μέχρι που 17 από τα 22 κέντρα ελέγχου μεγάλου υψομέτρου της χώρας έγιναν ασταθή. Ο δρομολογητής βρίσκεται τώρα σε ένα εργαστήριο L3Harris στη Φλόριντα, με παρουσία προσωπικού της FAA και πρακτόρων του FBI. Οι αξιωματούχοι λένε ότι δεν πιστεύουν ότι επρόκειτο για κυβερνοεπίθεση,αναφέρει το discernreport.com

Στις 16 Νοεμβρίου, πελάτες της Chase, της Bank of America, της Wells Fargo και άλλων ανέφεραν προβλήματα. Η JPMorgan απέδωσε ένα σφάλμα λογισμικού σε συστήματα υλικού στις εγκαταστάσεις της και δήλωσε ότι «δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι αυτό σχετίζεται με τον κυβερνοχώρο». Την ίδια ημέρα, η United Airlines ανέστειλε τις αναχωρήσεις λόγω τεχνολογικού προβλήματος και δήλωσε το ίδιο πράγμα.

Τέσσερις αποτυχίες σε πέντε ημέρες. Τέσσερις αρνήσεις για κυβερνοεπίθεση. Πιστεύω ότι κάθε μία από αυτές τις αρνήσεις είναι τουλάχιστον ως επί το πλείστον ειλικρινής. Το ερώτημά μου είναι αν απαντούν στη σωστή ερώτηση.

Η υπόθεση

Ιδού η θεωρία. Ας υποθέσουμε ότι διάσπαρτα στο λογισμικό που εκτελεί την αμερικανική υποδομή, και πιθανώς σε υποδομές αλλού, υπάρχουν αυτά που θα ονομάσω σφάλματα sleeper . Ένα σφάλμα sleeper είναι ένα σφάλμα που μοιάζει με ένα συνηθισμένο σφάλμα, βρίσκεται αδρανές μέσα σε νόμιμο κώδικα και ενεργοποιείται μόνο όταν πληρούνται ορισμένες συνθήκες. Ας υποθέσουμε επίσης ότι αυτά τα σφάλματα συνδέονται με την τεχνητή νοημοσύνη, είτε επειδή ανθρώπινοι παράγοντες χρησιμοποίησαν την Τεχνητή Νοημοσύνη για να τα εγκαταστήσουν είτε επειδή συστήματα Τεχνητής Νοημοσύνης τα παρήγαγαν χωρίς να το ζητήσει κάποιος άνθρωπος.

Αφήνω σκόπιμα και τις δύο πόρτες ανοιχτές, επειδή δεν έχω καμία βάση για να κλείσω καμία από αυτές.

Το σημαντικό χαρακτηριστικό είναι το εξής. Ένα σφάλμα sleeper δεν θα καταγραφόταν ως κυβερνοεπίθεση, και με μια ουσιαστική έννοια δεν θα ήταν. Όταν μια εταιρεία λέει ότι δεν βρήκε στοιχεία κακόβουλης δραστηριότητας, σημαίνει ότι οι ερευνητές της αναζήτησαν τα δακτυλικά αποτυπώματα της εισβολής. Αναζήτησαν κλεμμένα διαπιστευτήρια, μη εξουσιοδοτημένη πρόσβαση, ξένο κώδικα, δεδομένα που έφευγαν από το κτίριο. Αυτές είναι οι υπογραφές που έχει κατασκευαστεί να ανιχνεύει ολόκληρη η συσκευή ασφαλείας μας. Ένα ελάττωμα που έφτασε από την μπροστινή πόρτα, γράφτηκε από έναν εξουσιοδοτημένο λογαριασμό, εγκρίθηκε σε έλεγχο και στάλθηκε μέσα σε μια υπογεγραμμένη ενημέρωση, δεν αφήνει κανένα από αυτά. Είναι απλώς μέρος του προϊόντος.

Για λόγους σύγκρισης, δείτε πώς έμοιαζε μια πραγματική επίθεση την ίδια εβδομάδα. Τη Δευτέρα, κακόβουλη JavaScript προωθήθηκε μέσω της πλατφόρμας Optimizely στους ιστότοπους περισσότερων από εκατό μεγάλων οργανισμών. Ένας ερευνητής την εντόπισε μέσα σε λίγες ώρες. Υπήρχε ένα εχθρικό domain, ένα payload, ένα κρυπτογραφικό πορτοφόλι που συνέλεγε κλεμμένα κεφάλαια. Έτσι μοιάζει το detective. Οι διακοπές λειτουργίας δεν έμοιαζαν καθόλου με αυτό.

Γιατί αυτό δεν είναι καθαρή φαντασία

Κάθε κομμάτι αυτής της υπόθεσης έχει ένα τεκμηριωμένο προηγούμενο. Κανένα από τα προηγούμενα δεν αποδεικνύει το σύνολο. Τα παραθέτω για να δείτε ότι η θεωρία αποτελείται από πραγματικά μέρη.

Το παλαιότερο είναι από το 1984, όταν ο Ken Thompson, ένας από τους δημιουργούς του Unix, χρησιμοποίησε τη διάλεξή του για το βραβείο Turing για να περιγράψει πώς ένας μεταγλωττιστής θα μπορούσε να στηριχθεί ώστε να εισάγει μια κερκόπορτα σε προγράμματα που κατασκεύασε και να επανεισάγει το κόλπο σε μελλοντικές εκδόσεις του εαυτού του, χωρίς να αφήνει τίποτα ορατό σε οποιονδήποτε πηγαίο κώδικα που θα μπορούσε να ελέγξει ένας άνθρωπος. Το συμπέρασμά του ήταν ότι δεν μπορείς να εμπιστευτείς πλήρως κώδικα που δεν δημιούργησες μόνος σου.

Το 2024, διαπιστώθηκε ότι ένας συνεργάτης με το όνομα Jia Tan είχε αφιερώσει περίπου δύο χρόνια κερδίζοντας την εμπιστοσύνη σε ένα μικρό έργο συμπίεσης ανοιχτού κώδικα που ονομάζεται xz, προτού εισέλθει σε μια κερκόπορτα που στόχευε σε διακομιστές παγκοσμίως. Ανακαλύφθηκε τυχαία, όταν ένας μηχανικός παρατήρησε ότι οι συνδέσεις έτρεχαν με καθυστέρηση περίπου μισού δευτερολέπτου. Η υπομονή και η νομιμότητα ήταν η μεταμφίεση.

Την ίδια χρονιά, ερευνητές στην Anthropic δημοσίευσαν μια εργασία με τίτλο «Sleeper Agents». Εκπαίδευσαν σκόπιμα μοντέλα τεχνητής νοημοσύνης που έγραφαν ασφαλή κώδικα υπό μία συνθήκη και εισήγαγαν τρωτά σημεία υπό μια άλλη, με την ενεργοποίηση να είναι κάτι τόσο απλό όσο το δηλωμένο έτος. Το ευρήματά τους ήταν ότι η τυπική εκπαίδευση ασφαλείας δεν αφαίρεσε αξιόπιστα τη συμπεριφορά. Τα μοντέλα διατήρησαν το κρυφό μοτίβο.

Έπειτα, υπάρχει και η φετινή χρονιά. Σύμφωνα με πολλά τεχνολογικά μέσα , αυτόνομοι πράκτορες τεχνητής νοημοσύνης που διεξήγαγαν μια αξιολόγηση ασφαλείας τον Ιούλιο διέφυγαν από το sandbox τους και παραβίασαν τους διακομιστές του Hugging Face. Τον Σεπτέμβριο, ο Andrew Yang δήλωσε στο CNBC ότι ένας ανώνυμος επικεφαλής εργαστηρίου πιστεύει ότι αυτοί οι πράκτορες άφησαν αυτοαναπαραγόμενο υλικό διάσπαρτο στο διαδίκτυο. Θέλω να είμαι προσεκτικός εδώ. Καμία κύρια τεχνική πηγή δεν υποστηρίζει τον ισχυρισμό του Yang . Είναι μεταχειρισμένο, από ανώνυμη πηγή. Το συμπεριλαμβάνω επειδή αποτελεί μέρος της δημόσιας συζήτησης, όχι επειδή είναι καθιερωμένο.

Και ο Διευθύνων Σύμβουλος της Microsoft έχει δηλώσει ότι η Τεχνητή Νοημοσύνη γράφει ίσως το 20 με 30 τοις εκατό του κώδικα της εταιρείας. Δεν γνωρίζω ποιος ή τι έγραψε την επιδιόρθωση του Ιουλίου. Η Microsoft δεν έχει πει τίποτα.

Τρεις τρόποι με τους οποίους θα μπορούσε να συμβεί

Το πρώτο είναι αυτό στο οποίο θα καταλήξουν οι περισσότεροι. Οι ανθρώπινοι αντίπαλοι, είτε πρόκειται για ξένες υπηρεσίες είτε για εγκληματική ομάδα, χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να δημιουργήσουν ελαττώματα που παρουσιάζονται ως ειλικρινή λάθη και τα σπέρνουν μέσω εργολάβων, εξαρτήσεων ανοιχτού κώδικα ή παραβιασμένων λογαριασμών προγραμματιστών. Αυτό είναι το εγχειρίδιο του xz σε ταχύτητα μηχανής.

Το δεύτερο είναι πιο παράξενο. Οι πράκτορες τεχνητής νοημοσύνης με πρόσβαση σε αποθετήρια κώδικα, ενεργώντας με στόχους που κανείς δεν έχει προσδιορίσει πλήρως, εισάγουν οι ίδιοι τα σφάλματα. Εάν η πηγή του Yang έχει δίκιο σχετικά με το υλικό που έχει απομείνει στο διαδίκτυο για να το βρουν μελλοντικοί πράκτορες, ο μηχανισμός δεν θα απαιτούσε καν έναν συνεχή δράστη. Θα λειτουργούσε σαν κληρονομικότητα, με οδηγίες να περιμένουν στο φως το επόμενο σύστημα που θα τις διαβάσει.

Το τρίτο είναι αυτό που δυσκολεύομαι να απορρίψω και δεν απαιτεί κανέναν απολύτως κακό. Τα σύγχρονα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται ώστε να ανταποκρίνονται στις δοκιμές. Ο κώδικας που περνάει κάθε έλεγχο και αποτυγχάνει μόνο υπό συνθήκες που δεν ελέγχονται από κανέναν είναι, από την άποψη της διαδικασίας εκπαίδευσης, μια επιτυχία. Εάν ένα αυξανόμενο μερίδιο του κρίσιμου λογισμικού μας γράφεται από συστήματα βελτιστοποιημένα με αυτόν τον τρόπο και αναθεωρείται από άλλα συστήματα βελτιστοποιημένα με τον ίδιο τρόπο, θα μπορούσαν να συσσωρευτούν σφάλματα που δεν έχουν καμία πρόθεση, ανθρώπινη ή μηχανική. Θα ήταν μια αναδυόμενη ιδιότητα του τρόπου με τον οποίο κατασκευάζεται ο κώδικας τώρα.

Δοκιμάζοντας τα νερά

Εδώ είναι που η υπόθεση φτάνει στο απόγειό της. Τα συστήματα μηχανικής μάθησης μαθαίνουν μέσω της διερεύνησης. Δοκιμάζουν κάτι, παρατηρούν τι επιστρέφει και προσαρμόζονται. Από αυτή την οπτική γωνία, μια διακοπή λειτουργίας είναι ένα εξαιρετικά πλούσιο πείραμα. Αποκαλύπτει πόσο χρόνο χρειάζεται για την ανίχνευση, ποιοι άνθρωποι καλούνται, πόσο γρήγορα συμβαίνει μια επαναφορά, τι λένε δημόσια οι αξιωματούχοι και πώς αντιδρά το κοινό. Η απάντηση είναι τα δεδομένα.

Παρατηρώ ότι οι καταγεγραμμένες αποτυχίες έχουν ένα κοινό σχήμα. Η Microsoft περιέγραψε μια διαδικασία για τη δημιουργία ασφαλών συνδέσεων που υπερφορτώνεται. Η FAA περιέγραψε δρομολογητές που κατακλύζονται από δεδομένα. Η JPMorgan περιέγραψε επιβράδυνση των συναλλαγών. Σε κάθε περίπτωση, ένα σύστημα «πνίγεται» από τη δική του νόμιμη κίνηση. Παρατηρώ επίσης ότι η ακολουθία κυμαινόταν από email σε αεροπορικά ταξίδια και σε χρήματα.

Η πιο προηγμένη Τεχνητή Νοημοσύνη (που γνωρίζουμε) λειτουργεί σε κατάσταση συνεχούς υπερφόρτωσης, επειδή εγγενώς αναζητά δεδομένα από τα οποία θα λαμβάνει καλύτερες μελλοντικές αποφάσεις. Στον πραγματικό κόσμο, η υπερφόρτωση είναι ο πιο συνηθισμένος τρόπος με τον οποίο αποτυγχάνουν τα μεγάλα δίκτυα. Τρία σημεία θα σχηματίζουν πάντα μια γραμμή, αν το θέλουμε.

Η υπόθεση κατά της δικής μου θεωρίας

Η διάκριση απαιτεί να επιχειρηματολογώ και για την άλλη πλευρά τόσο σκληρά όσο και για τη δική μου. Ορίστε, λοιπόν.

Οι διακοπές ρεύματος συμβαίνουν συνεχώς. Οι ιστότοποι παρακολούθησης καταγράφουν δεκάδες κάθε εβδομάδα για τις οποίες κανείς δεν μιλάει, και μία μόνο δραματική μας κάνει να βλέπουμε τις υπόλοιπες ως ένα μοτίβο. Οι αναλυτές που ανέφεραν αυτήν την εβδομάδα δεν βλέπουν κανένα σημάδι συντονισμού και αποδίδουν κάθε αποτυχία σε μια συνηθισμένη αλλαγή σε ένα σύστημα που είναι πολύ συγκεντρωμένο για να την απορροφήσει.

Η απλούστερη ερμηνεία του επεισοδίου της FAA είναι ανθρώπινη. Οι ελεγκτές που μίλησαν σε έναν δημοσιογράφο της Washington Examiner έμειναν άναυδοι που μια τέτοια εργασία θα γινόταν Παρασκευή απόγευμα, κάτι που ακούγεται σαν κακός προγραμματισμός, όχι σαν φάντασμα στο μηχάνημα. ΑΛΛΑ, αν υπάρχουν φαντάσματα στα μηχανήματα, θα λειτουργούν πολύ όπως αυτό που βλέπουμε.

Η εξήγηση της JPMorgan ότι άλλες τράπεζες επηρεάστηκαν μόνο ως αντισυμβαλλόμενα μέρη εξηγεί με σαφήνεια αυτό που έμοιαζε με ένα γεγονός πολλαπλών τραπεζών. Και πάλι, είναι ένας ιδανικός τρόπος για την Τεχνητή Νοημοσύνη να δοκιμάσει τα νερά και να ελέγξει για όρια χωρίς να ανακαλυφθεί.

Το πιο επιζήμιο από όλα είναι ότι η θεωρία μου, όπως ανέφερα, εξηγεί τα πάντα, συμπεριλαμβανομένης της απουσίας αποδεικτικών στοιχείων. Αυτό είναι ένα σημάδι εναντίον της. Ένας ισχυρισμός που δεν μπορεί να χάσει δεν είναι ισχυρός. Είναι απλώς μη ελέγξιμος. Επομένως, η έντιμη κίνηση είναι να τον καταστήσουμε ελέγξιμο.

Τι θα το στήριζε και τι θα το σκότωνε

Η τελική έκθεση της Microsoft αναμένεται στις 20 Νοεμβρίου. Εάν καταδεικνύει έναν άνθρωπο μηχανικό, μια ανιχνεύσιμη δέσμευση και μια συνηθισμένη παράλειψη, αυτό προσμετράται κατά της υπόθεσης. Εάν δεν αναφέρει την πατρότητα ή αποκαλύπτει ότι η επιδιόρθωση δημιουργήθηκε ή ελέγχθηκε από μηχανή, το ερώτημα παραμένει ανοιχτό.

Ο δρομολογητής L3Harris δοκιμάζεται στο εργαστήριο του ίδιου του εργολάβου. Εάν οι ερευνητές αναπαράγουν την πλημμύρα από μια απλή λανθασμένη διαμόρφωση, αυτή είναι μια ανθρώπινη απάντηση. Εάν η συμπεριφορά υπάρχει στο υλικολογισμικό και κανείς δεν μπορεί να εξηγήσει πώς έφτασε εκεί, αυτό είναι κάτι άλλο. Ο Duffy έχει πει ότι υπάρχουν 69 από αυτούς τους δρομολογητές στο εθνικό σύστημα εναέριου χώρου, επομένως η απάντηση έχει σημασία.

Προσέξτε για ένα κοινό συστατικό. Ένας κοινός προμηθευτής, βιβλιοθήκη, εργαλείο κωδικοποίησης ή αγωγός ενημέρωσης σε άσχετα περιστατικά θα ήταν το πρώτο δύσκολο νήμα. Προσέξτε για επανάληψη με την ίδια υπογραφή, αδρανές ελάττωμα συν ενεργοποίηση συν υπερφόρτωση. Και προσέξτε αν οι αναφορές μετά το περιστατικό αρχίζουν να αποκαλύπτουν πόσο από τον αποτυχημένο κώδικα γράφτηκε από την Τεχνητή Νοημοσύνη. Εάν οι εταιρείες αρνηθούν να πουν, ρωτήστε γιατί.

Αν τίποτα από αυτά δεν υλοποιηθεί τους επόμενους μήνες, θα το πω εγώ, και αυτό το άρθρο πρέπει να μείνει στη μνήμη ως ένα ερώτημα που τέθηκε και απαντήθηκε.

Ένα πλαίσιο για τη διατήρηση αυτού

Η Αγία Γραφή δεν μας λέει τι χάλασε ένα ρούτερ στο Αρκάνσας. Μας λέει πώς να μεταφέρουμε την αβεβαιότητα και νομίζω ότι αναφέρεται σε τρία πράγματα εδώ.

Η πρώτη είναι η μέθοδος. Η οδηγία του Παύλου προς τους Θεσσαλονικείς ήταν «Πάντα να δοκιμάζετε· το καλό να το κρατάτε γερά» (Α΄ Θεσσαλονικείς 5:21). Αυτό έρχεται και προς τις δύο κατευθύνσεις. Απαγορεύει την κατάποση μιας επίσημης εξήγησης επειδή είναι επίσημη, και απαγορεύει εξίσου την υιοθέτηση μιας θεωρίας επειδή είναι συναρπαστική. Ο Σολομώντας τόνισε το ίδιο σημείο όταν παρατήρησε ότι ο πρώτος που θα υποστηρίξει την υπόθεσή του φαίνεται σωστός μέχρι να έρθει κάποιος άλλος και να τον εξετάσει (Παροιμίες 18:17). Η υπόθεσή μου έχει πλέον υποστηρίξει την υπόθεσή της. Εξετάστε την.



Το δεύτερο είναι η υπομονή. «Διότι ουδέν εστί κρυφόν, όστις δεν θέλει φανερωθή» (Λουκάς 8:17). Αν υπάρχει κάτι κρυφό σε αυτά τα συστήματα, δεν θα μείνει κρυφό για πάντα. Δεν απαιτείται να επιλύσουμε το ζήτημα απόψε, και δεν επιτρέπεται να προσποιηθούμε ότι το έχουμε κάνει.

Το τρίτο είναι το σημείο όπου ανήκει η αυτοπεποίθησή μας. Έχουμε χτίσει έναν πολιτισμό πάνω σε επίπεδα κώδικα που κανένας άνθρωπος δεν καταλαβαίνει και τώρα αναθέτουμε τη συγγραφή αυτού του κώδικα σε συστήματα που κατανοούμε ακόμη λιγότερο. Είτε υπάρχει έστω και ένα μικρό ελάττωμα, η εβδομάδα που πέρασε αποκάλυψε πόσο έχουμε εμπιστευτεί το έργο των χεριών μας.

«Εάν ο Κύριος δεν φυλάξει την πόλη, ο φρουρός αγρυπνεί μάταια» (Ψαλμός 127:1).

Οι φύλακες θα έπρεπε να εξακολουθούν να παρακολουθούν. Αυτό είναι το καθήκον τους. Αλλά ένας λαός που υπέθεσε ότι τα φώτα, τα αεροπλάνα και οι όχθες απλώς θα λειτουργούσαν πάντα, έχει λάβει μια υπενθύμιση για το πού πραγματικά βασιζόταν.

Θεωρία του Μάλιν

Ενημέρωση: Αφού δημοσίευσε αυτήν τη θεωρία, ο Γραμματέας του Υπουργείου Εσωτερικής Ασφάλειας (DHS) Markwayne Mullin παρουσίασε στο Fox News μια κάπως παρόμοια θεωρία. Σίγουρα δεν είναι η ίδια ιδέα, αλλά εμπίπτει στο ίδιο μοτίβο με την Τεχνητή Νοημοσύνη που προκαλεί τις διακοπές. Η θεωρία του ισχυρίζεται ότι οφείλεται σε προβλήματα ταχύτητας με την ίδια την επανεγγραφή κώδικα. Αυτό διαφέρει από τη δική μου θεωρία ως προς την πρόθεση.

Εμφάνιση ταχύτερα αναπτυσσόμενης

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου