Από τον ακαδημαϊκό που προειδοποιεί για μια εξέγερση ρομπότ μέχρι τους εργάτες που ανησυχούν για το μέλλον τους – είναι καιρός να αρχίσουμε να δίνουμε προσοχή στους σκεπτικιστές της τεχνολογίας;
ΜΙΟ liezer Yudkowsky, ένας 44χρονος ακαδημαϊκός φορώντας ένα γκρι μπλουζάκι πόλο, κουνιέται αργά στην καρέκλα του γραφείου του και εξηγεί με πραγματική υπομονή – λαμβάνοντας τα πράγματα αργά για έναν αρχάριο σαν εμένα – ότι κάθε άτομο που γνωρίζουμε και αγαπάμε θα πεθάνει σύντομα. Θα δολοφονηθούν από επαναστατικές μηχανές που έχουν επίγνωση του εαυτού τους. «Η δυσκολία είναι ότι οι άνθρωποι δεν αντιλαμβάνονται», λέει ήπια ο Yudkowsky, ίσως ακούγεται λίγο απογοητευμένος, σαν να τον ερεθίζει ο φυσητήρας φύλλων ενός γείτονα ή να απογοητεύεται από τις τελευταίες σελίδες ενός μυθιστορήματος. «Έχουμε ελάχιστες πιθανότητες να επιβιώσει η ανθρωπότητα».
Είναι Ιανουάριος. Ξεκίνησα να συναντήσω και να μιλήσω με μια μικρή αλλά αυξανόμενη μπάντα λάτρεις, μοιρολάτρες, διαταράκτες και άλλους σκεπτικιστές της εποχής της τεχνητής νοημοσύνης που βλέπουν μόνο το κακό στον τρόπο με τον οποίο ο κατακλυσμένος από spyware, απεριόριστα περιπλανώμενος κόσμος μας φροντίζει. Θέλω να μάθω γιατί αυτοί οι τεχνο-απαισιόδοξοι σκέφτονται όπως σκέφτονται. Θέλω να μάθω πώς θα απέδιδαν την αλλαγή. Από όλους αυτούς με τους οποίους μιλάω, ο Yudkowsky είναι ο πιο απαισιόδοξος, ο λιγότερο πεπεισμένος ότι ο πολιτισμός έχει μια ελπίδα. Είναι ο επικεφαλής ερευνητής σε έναν μη κερδοσκοπικό οργανισμό που ονομάζεται Machine Intelligence Research Institute στο Μπέρκλεϋ της Καλιφόρνια, και θα μπορούσατε να συνοψίσετε τα αποτελέσματα των ετών της θεωρίας του Yudkowsky σε δύο ήχους φωνηέντων: "Oh fuuuuu-!"
«Αν με βάλετε σε έναν τοίχο», συνεχίζει, «και με αναγκάσατε να βάλω πιθανότητες σε πράγματα, έχω την αίσθηση ότι το τρέχον χρονοδιάγραμμά μας μοιάζει περισσότερο με πέντε χρόνια παρά με 50 χρόνια. Μπορεί να είναι δύο χρόνια, μπορεί να είναι 10». Με τον όρο «υπόλοιπο χρονοδιάγραμμα», ο Yudkowsky εννοεί: μέχρι να αντιμετωπίσουμε το μηχανικό τέλος όλων των πραγμάτων. Σκεφτείτε την αποκάλυψη που μοιάζει με τον Εξολοθρευτή. Σκεφτείτε το Matrix hellscape. Ο Yudkowsky ήταν κάποτε μια ιδρυτική φιγούρα στην ανάπτυξη ανθρωπογενών τεχνητών νοημοσύνης - AI. Έχει καταλήξει να πιστεύει ότι αυτά τα ίδια AI θα εξελιχθούν σύντομα από την τρέχουσα κατάστασή τους "Ωχ, κοίτα αυτό!" εξυπνάδα, υποθέτοντας μια προηγμένη υπερ-νοημοσύνη σε επίπεδο Θεού, πολύ γρήγορη και πολύ φιλόδοξη για να την περιορίσουν ή να την περιορίσουν οι άνθρωποι. Μην φανταστείτε έναν ανθρώπινο εγκέφαλο σε ένα κουτί, συμβουλεύει ο Yudkowsky. Για να καταλάβετε πού πηγαίνουν τα πράγματα, λέει, προσπαθήστε να φανταστείτε «έναν εξωγήινο πολιτισμό που σκέφτεται χίλιες φορές πιο γρήγορα από εμάς», σε πολλά και πολλά κουτιά, σχεδόν πάρα πολλά για να μπορέσουμε να τα διαλύσουμε, αν το αποφασίσουμε.
Προσπαθώντας να ταρακουνήσει την ανθρωπότητα από τον εφησυχασμό της σχετικά με αυτό, ο Yudkowsky δημοσίευσε ένα άρθρο στο Time την περασμένη άνοιξη που συμβούλευε να κλείσουν τα αγροκτήματα υπολογιστών όπου αναπτύσσονται και εκπαιδεύονται τα AI. Με σαφή, καθαρή πεζογραφία, υπέθεσε την πιθανή ανάγκη για αεροπορικές επιδρομές με στόχο τα κέντρα δεδομένων. ίσως ακόμη και πυρηνική ανταλλαγή. Ήταν σε κάτι;
ΕΝΑπολύ μακριά από το Μπέρκλεϋ, στο δασώδες προάστιο Sydenham στο νότιο Λονδίνο, μια πιο ήσυχη μορφή αντίστασης στην τεχνολογική παραβίαση δημιουργείται. Ο Nick Hilton, οικοδεσπότης ενός νεο-λουντίτ podcast που ονομάζεται The Ned Ludd Radio Hour , με προσκάλεσε για ένα φλιτζάνι τσάι. Στεκόμαστε στην κουζίνα του, περιμένοντας να βράσει ο βραστήρας, ενώ ένα πανέμορφο, ζωηρό λαγωνικό που λέγεται Tub χτυπάει στους αστραγάλους μας. «Γράψτε το «όμορφο» στο σημειωματάριό σας», ενθαρρύνει η Hilton, 31, η οποία, εκτός από τη διεύθυνση μιας εταιρείας podcast, εργάζεται και ως ανεξάρτητος δημοσιογράφος. Εξηγεί την ιστορία του λουδισμού και πώς – αιώνες αφότου οι διαδηλωτές της βιομηχανικής Αγγλίας αντιστάθηκαν στις προόδους της κλωστοϋφαντουργίας που τους κόστιζε θέσεις εργασίας, κατέστρεφε μηχανές και κακοποιούσαν, συλλαμβάνονταν, ακόμη και σκοτώθηκαν ως συνέπεια – κατέληξε να συμπάσχει με τη σύγχρονη της βιομηχανία. επανασχεδιάζοντας.
«Το Luddite έχει μια ποικιλία σημασιών τώρα, δύο, ίσως τρεις ορισμούς», λέει ο Hilton. «Οι ηλικιωμένοι θα πουν μερικές φορές: «Ωχ, μπορείς να με βοηθήσεις με το τηλέφωνό μου; Είμαι τόσο λάτρης!». Και αυτό που εννοούν είναι ότι δεν κατάφεραν να συμβαδίσουν με την τεχνολογική αλλαγή». Μετά, υπάρχουν οι άνθρωποι που απορρίπτουν ενεργά τις σύγχρονες συσκευές και συσκευές, συνεχίζει. Μπορεί επίσης να αυτοαποκαλούνται luddites (ή να ονομάζονται έτσι). «Αλλά, με την καθαρότερη ιστορική του έννοια, ο όρος αναφέρεται σε ανθρώπους που ανησυχούν για την αλληλεπίδραση τεχνολογίας και αγορών εργασίας. Και υπό αυτή την έννοια, σίγουρα θα περιέγραφα τον εαυτό μου ως ένα».
![Η Molly Crabapple, μια γυναίκα με μακριά μαύρα μαλλιά και ένα κίτρινο φόρεμα, στέκεται απέναντι από ένα τραπέζι καλυμμένο με μελάνια και γλάστρες με στυλό](https://i.guim.co.uk/img/media/166e20facb32b97ebb742319d01597b165e4e13c/0_0_7419_5299/master/7419.jpg?width=445&dpr=1&s=none)
Ο Edward Ongweso Jr, συγγραφέας και ραδιοτηλεοπτικός φορέας, και η Molly Crabapple, μια καλλιτέχνιδα, και οι δύο με έδρα τη Νέα Υόρκη, αυτοπροσδιορίζονται επίσης ως luddites με αυτόν τον τρόπο. Ο Ongweso μου μιλάει στο τηλέφωνο ενώ κάνει δουλειές στην πόλη. Πρώτα επικοινωνήσαμε μέσω των social media. Ορίσαμε ημερομηνία μέσω email. Τώρα αφήνουμε το Google Meet να χειριστεί τους μηχανισμούς μιας απρόσκοπτης διατλαντικής κλήσης. Ο νεολουδισμός δεν είναι να παραιτηθείς από τέτοιες καινοτομίες, εξηγεί ο Ongweso. Αντίθετα, ζητά κάθε νέα καινοτομία να λαμβάνεται υπόψη για την αξία της, την κοινωνική της δικαιοσύνη και τις δυνατότητές της για κρυφή κακοήθεια. «Για μένα, ο λουδισμός αφορά αυτή την ιδέα ότι μόνο και μόνο επειδή υπάρχει μια τεχνολογία, δεν σημαίνει ότι μπορεί να κάθεται αδιαμφισβήτητα. Ακριβώς επειδή έχουμε αναπτύξει κάποια τεχνολογία δεν σημαίνει ότι έχουμε αναπτύξει κάποια πρόοδο. Θα πρέπει να είμαστε συνεχώς σκεπτικιστές, ειδικά όταν η τεχνολογία εφαρμόζεται σε χώρους εργασίας και αλλού για να διατάξει την κοινωνική ζωή».
Ο Crabapple, ο καλλιτέχνης luddite, συμφωνεί σε γενικές γραμμές. «Για μένα, luddite είναι κάποιος που βλέπει την τεχνολογία κριτικά και απορρίπτει πτυχές της που έχουν σκοπό να τον αποδυναμώσουν, να τον αποδεξιώσουν ή να τον εξαθλιώσουν. Η τεχνολογία δεν είναι κάτι που εισήχθη από κάποιον θεό στον παράδεισο που έχει κατά βάθος τα καλύτερα συμφέροντά μας. Η τεχνολογική ανάπτυξη διαμορφώνεται από το χρήμα, διαμορφώνεται από την εξουσία, και γενικά στοχεύει στα συμφέροντα αυτών που βρίσκονται στην εξουσία σε αντίθεση με τα συμφέροντα εκείνων που δεν το έχουν. Αυτός ο στερεοτυπικός ορισμός του luddite ως ένας ηλίθιος εργάτης που σπάει μηχανές επειδή είναι χαζοί; Αυτό επινοήθηκε από τα αφεντικά».
WΕδώ ένας τεχνο-απαισιόδοξος όπως ο Yudkowsky θα μας ζητούσε να αντιμετωπίσουμε τις μεγαλύτερες απειλές που μπορούμε να φανταστούμε (στο σημείο που τα δάχτυλά μας ψαχουλεύουν για τους πυρηνικούς κώδικες) οι νεολαουδίτες τείνουν να επικεντρώνονται σε ανησυχίες σε επίπεδο εδάφους. Η απασχόληση, ειδικά, επειδή εδώ φαίνεται να προκαλεί τον μεγαλύτερο πόνο η τεχνολογία που εμπλουτίζεται από AI. Οι οδηγοί φορτηγών παρακολουθούνται λεπτομερώς τα χιλιόμετρα τους, οι ώρες ανάπαυσης αμφισβητούνται. Οι εργαζόμενοι στο γραφείο μπορούν να κάθονται μπροστά από κάμερες που τραβούν φωτογραφίες σε τυχαία διαστήματα, διασφαλίζοντας την παρουσία και την προσοχή. Θα μπορούσατε να ονομάσετε αυτές τις αποδοτικότητες στο χώρο εργασίας. Θα μπορούσατε να τις χαρακτηρίσετε χονδροειδείς προσβολές. Μαντέψτε ποιον θα διαφωνούσαν οι λαουδίτες. Τα εργασιακά δικαιώματα βρίσκονται στον ίδιο τον ιστορικό πυρήνα αυτού του κινήματος.
Ο Χίλτον ονόμασε το podcast του The Ned Ludd Radio Hour για να τιμήσει έναν άνθρωπο που μπορεί να έζησε πριν από περίπου 250 χρόνια ή να μην είχε ζήσει ποτέ. Όπως εξήγησε ο Hilton στην εκπομπή του, ο Ned Ludd πιστεύεται ότι ήταν εργάτης κλωστοϋφαντουργίας που ζούσε στα αγγλικά Midlands στα τέλη της δεκαετίας του 1770. Λέγεται ότι έσπασε μερικές μηχανές ύφανσης αφού τον μαστίγωσαν για την αδράνεια του στη δουλειά. Κάτι σχετικά με τη συντριβή μπορεί να είχε απήχηση στους συνομηλίκους του. Όπως εξήγησε η Χίλτον: «Μέσα σε λίγες δεκαετίες, η αλήθεια της ταυτότητας του Λουντ θα χανόταν για πάντα, αλλά το όνομα θα ζούσε. Οι luddites έγιναν μια οργανωμένη μπάντα των frame-breakers τη δεκαετία του 1810. Πολέμησαν τη Βιομηχανική Επανάσταση… και έχασαν. Έχασαν πολύ χρόνο. Στην πραγματικότητα έχασαν τόσο άσχημα που η πραγματικότητα του ονόματός τους έγινε θύμα [συμπούλευσης]».
Η ιστορία της εξέγερσης των λουντίτη διδάσκεται στα βρετανικά σχολεία – αλλά μπερδεμένα, με τρόπο που επέτρεψε σε μερικούς τουλάχιστον από εμάς, συμπεριλαμβανομένου εμένα, να καταλήξουμε σε μια ιδέα ότι το να είσαι λουντίτης σημαίνει να είσαι αφελής ή αλλιώς φοβισμένος και μοναχός -ish. Καθώς ο Χίλτον με περνάει από την κουζίνα του στο σαλόνι του, ένα δωμάτιο γεμάτο με τον διασυνδεδεμένο εξοπλισμό που χρησιμοποιεί για να κάνει τα podcast του, νιώθει την ανάγκη να ζητήσει συγγνώμη. Σύμφωνα με τουλάχιστον έναν ορισμό της λέξης, «ζω μια πολύ μη γελοία ζωή», λέει η Χίλτον, χειρονομώντας αβοήθητα με ανοιχτό φορητό υπολογιστή, ασύρματα ακουστικά, πανύψηλο μικρόφωνο. «Η δουλειά μου βασίζεται στην τεχνολογία. Δεν μπορώ να το αποφύγω. Δεν ισχυρίζομαι ότι είμαι κάποιο άτομο που ζει στο δάσος. Αλλά έχω άγχος. Νιώθω τα πράγματα να ξεφτίζουν».
![Ο Νικ Χίλτον, φορώντας ένα καφέ φούτερ, με λευκά ακουστικά Bose στο λαιμό του, κάθεται σε ένα γραφείο με ένα φορητό υπολογιστή, ένα μεγάλο μικρόφωνο, μια καφετιέρα και μια κούπα σε ένα σουβέρ](https://i.guim.co.uk/img/media/001d2b46da69c736981f637662228f767dc2b639/0_0_5252_3501/master/5252.jpg?width=445&dpr=1&s=none)
Είναι αυτό το προαίσθημα ενός ξεφτίσματος που έφερε άλλους σε μια σύγχρονη εκδοχή του λουδισμού. Ένας ακαδημαϊκός ονόματι Jathan Sadowski ήταν ένας από τους πρώτους που συνδύασε τις ανησυχίες για την επιταχυνόμενη τεχνολογική μας επανάσταση με τις αγωνίες εκείνων των υφαντών που πήραν θέση ενάντια στις παραβιάσεις μιας παλαιότερης εποχής των μηχανών. «Ο λουδισμός βασίζεται σε μια πολιτική άρνησης, που στην πραγματικότητα σημαίνει απλώς να έχεις το δικαίωμα και την ικανότητα να λες όχι σε πράγματα που επηρεάζουν άμεσα τη ζωή σου», μου λέει ο Sadowski όταν μιλάμε. «Αυτό δεν πρέπει να αντιμετωπίζεται ως ακραία στάση, και ωστόσο σε μια κουλτούρα που φετιχίζει την τεχνολογία για χάρη της, το να πεις όχι στην τεχνολογία είναι αδιανόητο».
Τουλάχιστον, αυτό ίσχυε μέχρι το 2023 – ένα έτος κατά το οποίο το ChatGPT (που αναπτύχθηκε από μια εταιρεία που ονομάζεται OpenAI), το Bard (αναπτύχθηκε από την Google) και άλλα φιλικά προς τον χρήστη AI έγιναν δεκτά από τον κόσμο. Ταυτόχρονα, οι γεννήτριες εικόνων όπως οι Dall-E και Midjourney εντυπωσίασαν τους ανθρώπους με τις φωτογραφίες προσομοίωσης και τις γραφικές τέχνες τους. «Δεν θα αντικαταστήσουν τον πρωθυπουργό με το ChatGPT ή τον διοικητή της Τράπεζας της Αγγλίας με τον Μπαρντ», είπε ο Χίλτον στο podcast του. «Δεν θα ανταλλάξουν τον Christopher Nolan για τον Dali ή τον Martin Scorsese για το Midjourney, αλλά το λίπος θα κοπεί από την υπέροχη μπριζόλα εργασίας».
Τον Ιανουάριο του 2023, μια έκθεση τοπίων που δημιουργήθηκαν από την τεχνητή νοημοσύνη, που προβλήθηκε στον τοίχο μιας γκαλερί στο Βερμόντ, υπέστη βανδαλισμό με τις λέξεις "AI IS THEFT". Οι δημιουργικοί επαγγελματίες άρχισαν να αισθάνονται ότι τους εκμεταλλεύονται. Μάζες απίστευτης, απλήρωτης ανθρώπινης εργασίας συλλέγονταν από το Διαδίκτυο και επαναχρησιμοποιούνταν από έξυπνα γενεσιουργά AI. Την άνοιξη του 2023, ο Crabapple οργάνωσε μια ανοιχτή επιστολή που ζητούσε περιορισμούς σε αυτή τη «βαμπιρική» πρακτική. Υπήρχαν περισσότερες ανοιχτές επιστολές, συμπεριλαμβανομένης μιας που ζητούσε εξάμηνη παύση για την ανάπτυξη τυχόν νέων AI.
Υπήρχαν περιπτώσεις άμεσης δράσης, κάποιες σοβαρές, κάποιες αυθόρμητες ή στα μισά του δρόμου. Στο Λος Άντζελες, οι αντίπαλοι αυτών των πανταχού παρόντων κουδουνιών της κάμερας Ring μοίρασαν αυτοκόλλητα «Anti Ring» για να κολληθούν πάνω από τους φακούς των συσκευών. Μια ομάδα Σαν Φρανσισκανών που αποκαλούν τους εαυτούς τους Safe Street Rebel άρχισε να αρπάζει κώνους κυκλοφορίας και να τους τοποθετεί στα καπό των αυτοοδηγούμενων αυτοκινήτων της πόλης, ένας γρήγορος τρόπος να μπερδέψουν τους αισθητήρες των αυτοκινήτων και να τους καταστήσουν ανενεργούς. Ο Brian Merchant, ένας συγγραφέας που πέρυσι δημοσίευσε το Blood in the Machine, μια ιστορία του λουδισμού, εμφανίστηκε σε μια εκδήλωση με τους Safe Street Rebel τον Νοέμβριο του 2023. Μπροστά σε ζητωκραυγάζοντες Καλιφορνέζους, οργάνωσε ένα «δικαστήριο luddite», σπάζοντας συσκευές που το πλήθος έκρινε περιττός.
"Υπάρχει μια αίσθηση ότι αυτό είναι τώρα στη σφαίρα του δυνατού, για να απορρίψεις ουσιαστικά μέρη ή χρήσεις μιας τεχνολογίας χωρίς να φαίνεσαι ανόητος", μου λέει ο Merchant. Την ώρα που μιλάμε, ετοιμάζεται για ένα άλλο δικαστήριο, αυτή τη φορά σε ένα βιβλιοπωλείο που ονομάζεται Page Against the Machine.
ΤΕδώ είναι τεχνοσκεπτικιστές σκεπτικιστές, φυσικά, αυτοί που θα πίστευαν ότι ο Yudkowsky είναι τρομοκράτης, οι σύγχρονοι λαουδίτες καταδικασμένοι στον κάδο ασήμαντων στοιχείων της ιστορίας, μαζί με τους προκατόχους τους του 19ου αιώνα. Το 2019, ο πολιτικός σχολιαστής Aaron Bastani δημοσίευσε ένα πειστικό μανιφέστο με τίτλο Πλήρως αυτοματοποιημένος κομμουνισμός πολυτέλειας , περιγράφοντας ένα εγγύς μέλλον εμπλουτισμένο με τεχνολογία και τεχνητή νοημοσύνη πέρα από την αγγαρεία και την ανάγκη, εκεί για την ανάληψη – «αν το θέλουμε», έγραψε ο Μπαστάνι. Πέρυσι, ο βουλευτής των Τόρις Bim Afolami δημοσίευσε ένα άρθρο στο Evening Standard που χαρακτήρισε την απαισιοδοξία για την τεχνολογία «παράλογη». Ο Afolami συμβούλεψε τους αναγνώστες της εφημερίδας με έντονη γραφή: Αγνοήστε τους Λουδίτες. Το αφεντικό του, Rishi Sunak, χρησιμοποίησε πρόσφατα τη θέση του ως ηγέτης του έθνους για να χρησιμεύσει ως ένα είδος οικοδεσπότη chatshow για τον βαρόνο της τεχνολογίας Elon Musk. Στη σκηνή σε μια σύνοδο κορυφής της τεχνητής νοημοσύνης στο Lancaster House του Λονδίνου, τον Νοέμβριο, ο Musk περιέγραψε την τεχνητή νοημοσύνη ως την « πιο αποδιοργανωτική δύναμη στην ιστορία », κάτι που θα τερματίσει την ανθρώπινη εργασία, ίσως για καλό, ίσως για κακό. «Δεν το πουλάς αυτό», αστειεύτηκε κάποια στιγμή ο Σουνάκ.
Γιατί μας το πουλάνε αυτό; Σε ένα πρώιμο επεισόδιο του luddite podcast του, ο Hilton επεσήμανε ότι το να καταργήσει κανείς τη δουλειά θα σήμαινε ότι αφαιρούσε έναν λόγο ζωής. «Νομίζω ότι αυτό που διακινδυνεύουμε είναι μια ευρεία απώλεια σκοπού», λέει η Hilton. Ο συγγραφέας Riley Quinn συμφωνεί σε γενικές γραμμές. Ο Quinn είναι μέρος μιας αγγλοαμερικανικής συλλογικότητας, το TrashFuture , που παράγει ένα δημοφιλές podcast με το ίδιο όνομα. Συζητάμε μετά από μια ηχογράφηση μια μέρα. Ριφάρουν και πειράζουν ο ένας τον άλλον, παίρνοντας μια ζοφερή αλλά αστεία και αστεία άποψη για αυτά τα πράγματα. Προσέξτε, λέει κάποια στιγμή ο Quinn, για όποιον παρουσιάζει την τεχνολογία ως «συνώνυμο του να είναι προνοητικός και ευκίνητος και αποτελεσματικός. Είναι συνήθως ο κώδικας για το «Θα βρούμε έναν τρόπο να παρακάμψουμε τους εργατικούς κανονισμούς»… Δεν νομίζω ότι είναι αδιανόητη αντίδραση ή ο King Canute που μάχεται ενάντια στην παλίρροια [για να το επισημάνει αυτό]». Ένας από τους συναδέλφους του στο TrashFuture Nate Bethea συμφωνεί. «Η αντίθεση στην τεχνολογία θα χαρακτηρίζεται πάντα ως παράλογη από ανθρώπους που έχουν άμεσο οικονομικό συμφέρον να συνεχίσουν τα πράγματα όπως είναι», λέει.
μετά την προώθηση του ενημερωτικού δελτίου
Η συμμορία του TrashFuture δεν έχει χρόνο για τη γρήγορη απόλυση ομάδων όπως οι νεολαουδίτες, αλλά ούτε και όλοι θέλουν να ξεκινήσουν μια επίθεση στις φάρμες υπολογιστών του κόσμου, δίνοντας το προληπτικό πλήγμα στα μελλοντικά AI που Ο Yudkowsky ζήτησε έντυπα. Απολαμβάνουν τον εαυτό τους, την παρτίδα TrashFuture, γελοιοποιώντας το άρθρο του. Όταν ρωτάω τον Yudkowsky για αυτό, λέει ότι ήρθε στο γράψιμο βιαστικά, δουλεύοντας σε περιορισμένη προθεσμία. Στέκεται σε όλα όσα έγραψε, εκτός ίσως από το κομμάτι για τα πυρηνικά. «Θα διάλεγα πιο προσεκτική διατύπωση τώρα», λέει, χαμογελώντας.
ΜΕΓΑΛΟΣτο παρελθόν έχω παλέψει με την τεχνο-απαισιοδοξία. Τουλάχιστον μια φορά την ημέρα πετάω στην άκρη το τηλέφωνό μου, αηδιασμένος με την εξάρτησή μου από αυτό, μια εξέγερση που μπορεί να διαρκέσει έως και 15 λεπτά πριν επιστρέψω σέρνοντας. Τα παιδιά μου, παρατηρώντας προσεκτικά, έχουν συνηθίσει στην ιδέα ότι οι αγορές γίνονται σκαρφαλώνοντας σε μια οθόνη, ότι οι αγορές γίνονται με φορτηγό και πρακτικά γρήγορα. Είμαι ανεξάρτητος συγγραφέας. Φυσικά αισθάνομαι τον ερπυσμό της αντικατάστασης της τεχνητής νοημοσύνης μου, κάπου πάνω από τον ώμο μου προς το παρόν, αλλά να πλησιάζει περισσότερο.
Καυχιόμαστε ο ένας για τον άλλον στο Διαδίκτυο και φαίνεται ότι έχουμε πάψει να νιώθουμε τσιγκουνιές γι' αυτό. Κούπα ο ένας για τον άλλον και βγάζουμε μούτρα. Είμαι πεπεισμένος ότι λέμε ο ένας στον άλλον πάρα πολλά και καταγράφουμε πάρα πολλά, διατηρώντας ψηφιακά στοιχεία για περισσότερα πράγματα από όσα μπορεί να γνωρίζει ο μέσος ανθρώπινος ψυχισμός. Δεν υπάρχουν τόσα πολλά μυστικά μεταξύ εραστών, φίλων, συναδέλφων, αντιπάλων. κάποια χρήσιμη μέση λύση έχει συρρικνωθεί και, μαζί της, μια άνετη ζώνη άγνοιας. Οι αποδείξεις των πράξεών μας είναι χρονοσφραγισμένες και αρχειοθετημένες. Η αμφισημία – υπέροχη ασάφεια – έχει χαθεί κάπου ανάμεσα στα μηδενικά και τα ένα.
Ίσως ο λουδισμός είναι η απάντηση. Από όσο μπορώ να καταλάβω, το να μιλάω με όλους αυτούς τους ανθρώπους, δεν είναι να αρνηθούμε την πρόοδο, αντίθετα είναι μια πράξη να αναρωτιέμαι: εξακολουθούμε να προωθούμε την απόλαυση του κόσμου; Πόσο διστακτικοί ή εξωπραγματικοί ή απειλούμενοι πρέπει να νιώθουμε προτού σταματήσουμε να βλέπουμε αυτές τις ανέσεις ως βολικές; Ο συγγραφέας Zadie Smith αστειεύτηκε στο παρελθόν ότι δώσαμε τον εαυτό μας στην τεχνολογία πολύ φτηνά στην πρώτη περίπτωση, και όλα αυτά για την ευχαρίστηση, πραγματικά, να είμαστε μια κινούμενη κουκκίδα σε έναν χρήσιμο ψηφιακό χάρτη. Τώρα τα αφεντικά μπορούν να παρακολουθούν κάθε πάτημα πλήκτρων των εργαζομένων τους. Οι εταιρείες τηλεμάρκετινγκ πραγματοποιούν κλήσεις πωλήσεων με φωνές που δημιουργούνται από AI που μιμούνται πρώην υπαλλήλους που έχουν αποχωριστεί. Λίγες εβδομάδες πριν, τον Ιανουάριο, η μεγαλύτερη έρευνα που έγινε ποτέ με ερευνητές τεχνητής νοημοσύνης διαπίστωσε ότι το 16% από αυτούς πίστευαν ότι η δουλειά τους θα οδηγούσε στην εξαφάνιση της ανθρωπότητας .
«Είναι μία στις έξι πιθανότητες καταστροφής», λέει ο Άλιστερ Στιούαρτ, ένας πρώην Βρετανός στρατιώτης που έγινε μαθητής μεταπτυχιακού. «Αυτές είναι οι πιθανότητες για ρωσική ρουλέτα». Συναντώ τον Στιούαρτ, ο οποίος είναι 28 ετών, έξω από τα κεντρικά γραφεία του τμήματος τεχνητής νοημοσύνης της Google στο Λονδίνο. Σε κάτι που θα θεωρούσα μια αρκετά περίεργη προσπάθεια επικοινωνίας, η Google μόλις ανέθεσε κάποια υπαίθρια τέχνη για να μειώσει τους φόβους του κοινού σχετικά με τον τρέχοντα ρυθμό της μηχανικής μάθησης. Είναι μια μπερδεμένη οθόνη. Ένα από τα έργα τέχνης απεικονίζει μια θέα από καταπράσινους λόφους, φιλόξενα σπίτια δίπλα στη λίμνη – και, πίσω από όλα αυτά, ένα τεράστιο σύννεφο μανιταριών που καπνίζει. «Οι επιστήμονες χρησιμοποιούν την τεχνητή νοημοσύνη για να δημιουργήσουν πιο σταθερούς και αποτελεσματικούς [πυρηνικούς] αντιδραστήρες σύντηξης», αναφέρει ένα πάνελ πληροφοριών. Δροσερός?
Είναι ο τρόμος για τον Στιούαρτ. Έχει λάβει μέρος σε διαμαρτυρίες ενάντια στην ανάπτυξη της τεχνητής νοημοσύνης, ανοίγοντας κάποια στιγμή ένα πανό έξω από αυτό το κτίριο της Google που ζητούσε να σταματήσουν οι εργασίες που εκτελούνται στο εσωτερικό . Δεν ήταν πολύς κόσμος μαζί του σε εκείνη τη διαμαρτυρία. Ο Στιούαρτ καταλαβαίνει. Τα τεχνητή νοημοσύνη, αόρατα και αποκεντρωμένα, που συσσωρεύονται μεταξύ κέντρων δεδομένων που είναι διασκορπισμένα σε όλο τον κόσμο, είναι δύσκολο να θεωρηθούν ως πιθανές απειλές, τουλάχιστον σε σύγκριση με ζητήματα όπως η κλιματική κρίση ή η καλή διαβίωση των ζώων, τα σπλαχνικά αποτελέσματα των οποίων είναι ορατά και αισθητά. « Δεν με κρατάει πάντα ξύπνιο τη νύχτα», λέει ο Stewart για τον λανθάνοντα κίνδυνο που αντιλαμβάνεται. « Προσωπικά δεν αισθάνομαι άγχος σε καθημερινή βάση. Και αυτό είναι μέρος του προβλήματος. Εγώ, με όλους τους πόρους και την εκπαίδευσή μου – εξακολουθώ να παλεύω να δημιουργήσω μια συναισθηματική σύνδεση με αυτό το πρόβλημα». Πέρυσι, δημοσίευσε μια ανάρτηση ιστολογίου που αναλογιζόταν τα επόμενα βήματα , αναφέροντας την «κατάληψη γραφείων τεχνητής νοημοσύνης», «επιτελεστικούς βανδαλισμούς γραφείων τεχνητής νοημοσύνης» και ακόμη και «δολιοφθορά στην υποδομή υπολογιστών τεχνητής νοημοσύνης» ως πιθανές μορφές αντίστασης.
![Ο Edward Ongweso Jr φορώντας ένα τολμηρό ασπρόμαυρο μπουφάν πάνω από ένα μαύρο hoodie, στέκεται σε μια πεζογέφυρα δίπλα σε έναν αυτοκινητόδρομο](https://i.guim.co.uk/img/media/b82f33089018b09b7a4475b3cb194fbd9ed7e3e7/0_0_7650_5464/master/7650.jpg?width=445&dpr=1&s=none)
Ο Ongweso, στη Νέα Υόρκη, διατυπώνει επίσης την ιδέα του υπολογιστικού σαμποτάζ. Δεν πιστεύει ότι αυτό θα είναι εύκολο, ούτε πιθανό, εκτός κι αν οι εργαζόμενοι στα κέντρα δεδομένων που τροφοδοτούν και συντηρούν τις τεχνητές νοημοσύνης αρχίσουν να αισθάνονται ότι απειλούνται οι δικές τους θέσεις εργασίας ή ελευθερίες. «Για παράδειγμα, εάν οι άνθρωποι ανησυχούσαν για αλγόριθμους που αναπτύσσονται για να δικαιολογήσουν τις απολύσεις ή αν ανησυχούσαν για την αλγοριθμική επιτήρηση», εικάζει ο Ongweso. Ωστόσο, όπως η συμμορία TrashFuture σπεύδει να επισημάνει, ακόμα κι αν κάποια από αυτά τα κέντρα υποστούν δολιοφθορά, οι πληροφορίες που αποθηκεύουν είναι ρευστές, πολλαπλές, σίγουρα υποστηρίζονται από αλλού. «Αυτά τα πράγματα έχουν γίνει τόσο αφηρημένα», λέει ο Κουίν, «οι φυσικές τους εκδηλώσεις απέχουν τόσο πολύ από τόσους πολλούς ανθρώπους».
Είμαστε καταδικασμένοι; Ή υπάρχει ελπίδα; Θα μείνει στη μνήμη αυτή η γενιά των διαδηλωτών σε 200 χρόνια για τις παρεμβάσεις τους – ή απλά δεν θα υπάρχει κανένας να θυμάται μέχρι τότε; Οι νέοι λαουδίτες με τους οποίους μιλάω έρχονται σε αυτές τις ερωτήσεις με διάφορους βαθμούς αισιοδοξίας ή καταστροφολογίας.
Ο Crabapple, ο καλλιτέχνης που πήρε θέση ενάντια στους δημιουργούς εικόνας, πιστεύει ότι θα πρέπει να είναι δυνατό για όλους μας να σκεφτούμε πιο ειλικρινά το βρώμικο κάτω μέρος της φαινομενικά καθαρής τεχνολογίας. Πάρτε αυτή την ωραία ιδέα για το ψηφιακό σύννεφο, λέει. Συζητάμε για το σύννεφο σαν να είναι ουδέτερο, αμετάβλητο, κάτι καλό. Άλλωστε είναι σύννεφο. «Αλλά δεν υπάρχει γαμημένο σύννεφο», λέει ο Crabapple, «υπάρχουν υπολογιστές άλλων ανθρώπων. Υπάρχουν τεράστια κέντρα δεδομένων που απορροφούν νερό και ηλεκτρισμό και μέταλλα σπάνιων γαιών, κυριολεκτικά βράζουν τον πλανήτη… Για μένα, η επιτυχία του luddite θα ήταν μια κοινωνική αλλαγή όπου αναρωτιόμαστε: «Γιατί καίμε τον πλανήτη μας; Κάνοντας τη ζωή μας πιο χαζή; Να απαλλαγούμε από το τελευταίο κομμάτι της αυτονομίας και της ιδιωτικής μας ζωής για να κάνουμε μερικούς άντρες πλούσιους;». Τότε ίσως άρχισε να κάνει κάτι για αυτό νομοθετικά».
Το Ongweso θα ξεκινούσε επίσης με τη νομοθεσία. Θα ήταν ευχαριστημένος με κάτι σε μικρή, εφικτή, συμβολική κλίμακα, κάτι που προετοίμαζε το δρόμο για πιο επεκτατικούς νόμους στο μέλλον. «Κινείται για να προλάβει και να περιορίσει την ικανότητα της τεχνητής νοημοσύνης να τρολάρει το Διαδίκτυο και να λαμβάνει έργα που προστατεύονται από πνευματικά δικαιώματα, να εκπαιδεύσει το μοντέλο της σε ήδη δημιουργημένα έργα συγγραφέων και καλλιτεχνών – αυτό είναι δυνατό αυτή τη στιγμή και κάτι που θα μπορούσε να είναι μια σκάλα σε μια σειρά των νικών».
Τι θα ήθελαν να κάνουμε οι άλλοι; Ο Στιούαρτ, ο στρατιώτης που έγινε φοιτητής, θέλει ένα μορατόριουμ στην ανάπτυξη των AI μέχρι να τα κατανοήσουμε καλύτερα – έως ότου βελτιωθούν αυτές οι πιθανότητες που μοιάζουν με τη ρωσική ρουλέτα. Ο Yudkowsky θα μας έκανε να παγώσουμε τα πάντα σήμερα, αυτή τη στιγμή. «Θα μπορούσατε να πείτε ότι κανείς δεν επιτρέπεται να εκπαιδεύσει κάτι πιο ισχυρό από το GPT-4», προτείνει. «Η ανθρωπότητα θα μπορούσε να αποφασίσει να μην πεθάνει και δεν θα ήταν τόσο δύσκολο».
Ο Quinn, πιο ήπιος, μεσαίος, διατυπώνει την ιδέα ότι σταματάμε να ζαλιζόμαστε και να είμαστε ευγνώμονες για κάθε νέο κομμάτι υλικού και λογισμικού που ονειρευόμαστε. «Υπάρχει συνεχώς μια απαίτηση για σεβασμό», λέει, «μια απαίτηση να λέτε ότι ο κόσμος είναι υπέροχος επειδή μπορείτε να πληκτρολογήσετε κουμπιά στο iPhone σας και να πάρετε έναν καφέ Starbucks. Έχετε κάνει να αισθάνεστε ότι δεν επιτρέπεται να ασκείτε κριτική και πρέπει να πείτε ευχαριστώ, διαφορετικά οι λαμπρές ιδιοφυΐες που δημιουργούν αυτά τα πράγματα μπορεί να μην δημιουργήσουν πια. Και δεν θα μετανιώσεις τότε». Ο Σαντόφσκι συμφωνεί. «Η τεχνολογία είναι πολύ σημαντική για να θεωρείται απλώς μια τσάντα με τακτοποιημένα gadgets και είναι πολύ ισχυρή για να αφεθεί στα χέρια δισεκατομμυριούχων στελεχών και κεφαλαίων επιχειρηματικού κινδύνου», λέει. «Οι Λουδίτες θέλουν η τεχνολογία – το μέλλον – να λειτουργεί για όλους μας».
Ο Χίλτον, ο οποίος πρόκειται να ηχογραφήσει άλλο ένα επεισόδιο της ραδιοφωνικής του ώρας, λέει: «Ο κλασικός λουντισμός ήταν μια αποτυχία. Αλλά προφανώς άντεξε, γιατί συνεχίζει να ασκεί αυτό το τράβηγμα. Ο σπασμένος αργαλειός είναι μια εικόνα που έχει μείνει στην ιστορία. Ίσως θυμάται ως μια συμβολική χειρονομία. Ίσως θυμάται ως χειρονομία θυμού. Αλλά θυμάται». Ποια μπορεί να είναι η καθοριστική χειρονομία αυτής της εποχής; Επιστολές, νομοθεσία, βανδαλισμένες κάμερες Ring, αεροπορικές επιδρομές; «Οι ιστορικοί λαουδίτες προσπάθησαν να κάνουν το σύστημα να ουρλιάξει», λέει ο Ongweso. «Αυτό ήταν καταλυτικό για μεταγενέστερη αλλαγή. Είναι μέρος του νέου έργου luddite να προσπαθήσουμε να καταλάβουμε πώς να κάνουμε το ίδιο».
ΑΠΟΔΟΣΗ : Corfiatiko.blogspot.com
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου