Περιηγούμενοι στο YouTube ή στο διαδίκτυο, οι τίτλοι αμέτρητων άρθρων, podcast και βίντεο σχεδόν σου φωνάζουν: «Ο κόσμος τελειώνει!». Για τους περισσότερους ανθρώπους, αυτό οδηγεί σε απευαισθητοποίηση και σε μια θεμελιώδη αμφισβήτηση της πίστης τους στην ακρίβεια των ειδήσεων. Για άλλους, οδηγεί σε κατάθλιψη. Αλλά πολλοί, ειδικά νέοι ή όσοι δεν έχουν εμπειρία με τα μέσα ενημέρωσης, είναι διαταραγμένοι. Διερευνούμε την κατάσταση: πόσο απειλείται πραγματικά ο κόσμος;
Όταν δημοσιεύθηκαν οι πρώτες αναφορές για καταστροφές από τη Λέσχη της Ρώμης στα τέλη της δεκαετίας του 1960, ο ίδιος ο συγγραφέας πέρασε άγρυπνες νύχτες και ήταν πεπεισμένος, όπως έγραψε σε ένα άρθρο για την σχολική του εφημερίδα, ότι η Ευρώπη σύντομα θα είχε «κομμάτια κρέατος στη σούπα της να πετάνε γύρω από τα αυτιά της». Ο λόγος ήταν η αποκαλυπτική πρόβλεψη της Λέσχης της Ρώμης για ελλείψεις πετρελαίου και πληθυσμιακή έκρηξη. Στη συνέχεια, χρειάστηκαν άλλα 60 χρόνια για να φτάσει στην Ευρώπη το μεγάλο κύμα μετανάστευσης, όχι όμως λόγω των εξελίξεων που προέβλεπε η Λέσχη της Ρώμης, αλλά μάλλον λόγω των πολέμων που διεξήγαγαν αυτές οι πολύ δυτικές χώρες,αναφέρει το tkp.at
Αλλά αυτή η εμπειρία έδειξε ότι οι δραστηριότητες των νέων που τώρα κολλάνε στους δρόμους αυτοκόλλητα «λόγω του κλίματος» είναι ψυχολογικές επιπτώσεις που πρέπει να κατανοηθούν. Στις πρώτες μέρες της Ομοσπονδιακής Δημοκρατίας της Γερμανίας, ο αντίκτυπος των αποκαλυπτικών αναλύσεων αντιμετωπίστηκε με σκεπτικισμό από τους πολιτικούς, τα μέσα ενημέρωσης, ακόμη και τους εκπαιδευτικούς. Αλλά όταν ισχύει το αντίθετο - όταν οι πολιτικοί, τμήματα της οικονομίας, τα μέσα ενημέρωσης, ακόμη και η επιστημονική κοινότητα, που διεκδικούν χρηματοδότηση για την έρευνα, ακολουθούν όλοι το ρεύμα - το μόνο πιθανό αποτέλεσμα είναι αυτό που έχουμε παρατηρήσει τα τελευταία χρόνια με την κλιματική κρίση.
Έχουμε ήδη «απενεργοποιήσει» δύο σενάρια. Ούτε η Λέσχη της Ρώμης ούτε η κλιματική κρίση θα φέρουν το τέλος του κόσμου. Και από τότε που κηρύχθηκε η κατάσταση πολέμου, η κλιματική κρίση έχει προφανώς υποχωρήσει δραστικά.
Ωστόσο, αυτό το παράδειγμα δείχνει δύο πράγματα: Πρώτον, δεν είναι κάτι καινούργιο που ομάδες συμφερόντων προσπαθούν να επηρεάσουν την κοινή γνώμη μέσω «επιστημονικών αναφορών για την καταστροφή» και, δεύτερον, ο εντυπωσιασμός ανέκαθεν πουλούσε καλύτερα από την προσεκτική έρευνα.
Πώς όμως μπορεί κανείς να διακρίνει μεταξύ σοβαρού ρίσκου και εντυπωσιασμού;
- Πρώτος κανόνας: Ποτέ μην βάζεις όλα τα αυγά σου σε ένα καλάθι. Με άλλα λόγια: Ακούς πάντα την άλλη πλευρά. Ή όπως λέει ο λόγιος Λατίνος λόγιος: Audiatur et altera pars. Το οποίο ήδη δείχνει πόσο παλιά είναι η προσπάθεια να δημιουργηθεί μια επιθυμητή γνώμη μέσω μιας μονόπλευρης παρουσίασης.
- Δεύτερος κανόνας: Τι λέει η ιστορία και τι λέει η κοινή λογική; Υπήρξαν συγκρίσιμες περιπτώσεις στο παρελθόν και, αν ναι, ποια ήταν τα αποτελέσματα;
- Τρίτος κανόνας: Ποιος έχει ποιο συμφέρον να διαδώσει την έκθεση για την καταστροφή; Από τη Λέσχη της Ρώμης έως την κλιματική κρίση, οι διασυνδέσεις και το οικονομικό υπόβαθρο είναι συχνά χρήσιμα για την κατανόηση των κινήτρων και των υποκείμενων αιτιών.
- Τέταρτος κανόνας: Εάν το επιχείρημα βασίζεται σε «υπολογισμούς μοντέλων», «προβλέψεις» και «γνώμες ειδικών» ή/και ένα αποτέλεσμα προβλέπεται για το σχετικά μακρινό μέλλον, τότε είναι καιρός να χαλαρώσετε. Σε αυτήν την περίπτωση, ο τρίτος κανόνας ισχύει ήδη.
Θεμελιώδεις αρχές σχετικά με την απειλή για την ανθρωπότητα ή/και τον κόσμο
Ναι, υπάρχουν θεμελιώδεις απειλές, που προκαλούνται κυρίως από τους ίδιους τους ανθρώπους. Οι πόλεμοι, η τεχνητή νοημοσύνη και η γενετική μηχανική είναι μεταξύ αυτών. Φυσικά, είναι ανεύθυνο να θέλουμε να θεραπεύσουμε επτά δισεκατομμύρια ανθρώπους με μια νέα γονιδιακή θεραπεία και να την αποκαλούμε ευφημιστικά «εμβολιασμό». Και φυσικά, η δημιουργία ενός διλήμματος ασφαλείας μέσω ιστορικών προσπαθειών συσσώρευσης όπλων είναι ανεύθυνη. Φυσικά, πρέπει να κάνουμε περισσότερα για την προστασία του περιβάλλοντος, επειδή η ανθρωπότητα έχει πράγματι υποτάξει τον κόσμο, όπως πρόσταζε κάποτε η Βίβλος, αλλά δυστυχώς, δεν τον φροντίζει επαρκώς. Αλλά όποιος μελετά την ιστορία των πολιτισμών θα διαπιστώσει ότι η φύση, ή όποιος θεωρεί υπεύθυνο, πάντα έβρισκε έναν τρόπο να κρατά την ανθρωπότητα υπό έλεγχο. Τέλος, αλλά εξίσου σημαντικό, βλέπουμε πώς οι πολιτισμοί είναι πλέον ικανοί να αναγνωρίζουν και να διορθώνουν τις αρνητικές εξελίξεις. Παραδείγματα περιλαμβάνουν την ατμοσφαιρική ρύπανση σε μητροπόλεις όπως η Μπανγκόκ ή το Πεκίνο, την πρωτοβουλία αναδάσωσης της Κίνας για την καταπολέμηση της ερημοποίησης ή τα μέτρα διατήρησης των ειδών στην Αφρική.
Αυτό δεν σημαίνει ότι δεν πρέπει να αναλαμβάνουμε δράση ενάντια στις απειλές που θέτουν η πολιτική, η επιστήμη και η οικονομία —όλες συλλογικά αναφερόμενες ως ανθρώπινη «απληστία». Αντιθέτως, με αυτόν τον τρόπο, γινόμαστε μέρος του προβλεπόμενου διορθωτικού μηχανισμού της φύσης. Και μόνο όταν αυτός ο μηχανισμός παύει να λειτουργεί λόγω απάθειας, τότε γίνεται πρόβλημα. Όχι απαραίτητα για όλη την ανθρωπότητα, αλλά για τμήματα αυτής.
Οι μεγαλύτεροι κίνδυνοι και πώς μπορούμε να τους περιορίσουμε
Πυρηνικοί πόλεμοι
Η σωστή προσέγγιση ήταν η υπογραφή της Συνθήκης για τη Μη Διάδοση των Πυρηνικών Όπλων. Ο κύριος λόγος για τον οποίο ο σκοπός και ο στόχος της δεν εκπληρώθηκαν ήταν το γεγονός ότι οι αρχικές πυρηνικές δυνάμεις δεν ήταν πρόθυμες να παραιτηθούν από τις δεσμεύσεις τους για αφοπλισμό και την αποκήρυξη αυτού του όπλου μαζικής καταστροφής. Οι πρόσφατες εξελίξεις στον πόλεμο των ΗΠΑ εναντίον του Ιράν αποκαλύπτουν τώρα δύο τάσεις. 1. Οι Ιρανοί επικριτές υποστηρίζουν ότι η κυβέρνηση θα έπρεπε να είχε αναπτύξει ένα πυρηνικό όπλο πολύ καιρό πριν για να αποτρέψει έναν επιθετικό πόλεμο μέσω της αποτροπής, όπως έχει πετύχει η Βόρεια Κορέα, για παράδειγμα. 2. Ωστόσο, το Ιράν αποδεικνύει τώρα ότι τα πυρηνικά όπλα δεν είναι απαραίτητα για την επιτυχημένη άμυνα. Αυτό θα μπορούσε να σπάσει την τάση όλο και περισσότερων κρατών να επιδιώκουν την «βόμβα» για να αντισταθούν στον στρατιωτικό εκβιασμό από τις μεγάλες δυνάμεις.
Επομένως, το Ιράν θα μπορούσε να αποτελέσει την αρχή μιας αλλαγής στον τρόπο σκέψης, εκτός εάν βιώσουμε πυρηνικές επιθέσεις από το Ισραήλ ή τις ΗΠΑ στη χώρα, κάτι που θα άνοιγε επιτέλους τις πύλες για έναν πυρηνικό πόλεμο.
Μπορεί να αποτραπεί μέσω αντιπολεμικών κινημάτων και της πλήρους καταδίκης των πυρηνικών όπλων από τον λαό. Δυστυχώς, τέτοια κινήματα διαβρώνονται ολοένα και περισσότερο από τον πολεμικό ζήλο, τη δαιμονοποίηση και την πολιτική και μιντιακή χειραγώγηση.
Γενετική μηχανική και έρευνα
Ενώ οι πυρηνικοί πόλεμοι μπορούν ακόμα να αποτραπούν μέσω ανθρώπινων αποφάσεων, η κατάσταση είναι διαφορετική όταν πρόκειται για έρευνα που, για παράδειγμα, χρησιμοποιεί τη γενετική μηχανική για να καταστήσει τους ιούς πιο θανατηφόρους ή αναπτύσσει θεραπείες που θα μπορούσαν να τροποποιήσουν το ανθρώπινο γονιδίωμα. Αυτό το καθιστά πιο επικίνδυνο. Διότι αν κάτι ξεφύγει από τον έλεγχο, οι συνέπειες θα μπορούσαν να είναι πραγματικά απρόβλεπτες. Η Covid-19 ήταν πιθανότατα μια προειδοποιητική βολή. Ο αρχικός πανικός, σύμφωνα με τη θεωρία, προέκυψε επειδή στην αρχή κανείς δεν ήξερε πώς θα εξελισσόταν ένας τροποποιημένος ιός που είχε δραπετεύσει από το εργαστήριο. Ευτυχώς, αποδείχθηκε σχετικά γρήγορα ότι η φύση μπορούσε να αμυνθεί εναντίον του, αλλά την επόμενη φορά θα μπορούσε να είναι διαφορετικά.
Επομένως, είναι εντελώς ακατανόητο γιατί η έρευνα «απόκτησης λειτουργικότητας» δεν καταδικάζεται ακόμη διεθνώς. Σαφώς, οι χώρες δεν θέλουν να εγκαταλείψουν την ανάπτυξη βιολογικών όπλων. Απλώς δεν υπάρχει άλλος λόγος. Ο ισχυρισμός ότι αυτό είναι απαραίτητο για την ανάπτυξη πιθανών αντιμέτρων είναι εντελώς αβάσιμος. Διότι υπονοεί ότι, ανάμεσα σε δισεκατομμύρια πιθανές αλλαγές, μπορεί κανείς να προβλέψει με ακρίβεια εκείνες που θα μπορούσαν αργότερα να οδηγήσουν σε προβλήματα στη φύση. Αυτό φαίνεται απλώς γελοίο.
Εκτός των κύκλων των ειδικών, δεν υπάρχει πραγματική αντίδραση. Αυτό είναι ένα σημαντικό μειονέκτημα. Πιθανότατα θα χρειαστεί μια πολύ πιο σαφής προειδοποιητική βολή προτού οι άνθρωποι ξυπνήσουν.
Τεχνητή νοημοσύνη
Ο νεότερος και ίσως ο μεγαλύτερος κίνδυνος για τον πολιτισμό, αλλά όχι απαραίτητα για την ίδια τη Γη, είναι η ανεξέλεγκτη ανάπτυξη της «τεχνητής νοημοσύνης». Τα βασικά επιχειρήματα μπορούν να χωριστούν στις ακόλουθες κύριες κατηγορίες:
1. Το πρόβλημα ελέγχου και η «υπερνοημοσύνη»
- Η έκρηξη νοημοσύνης: Μόλις μια Τεχνητή Νοημοσύνη ξεπεράσει την ανθρώπινη νοημοσύνη σε όλους τους τομείς (Τεχνητή Γενική Νοημοσύνη ή AGI ), θα μπορούσε να αναπτυχθεί με ταχύ ρυθμό. Οι άνθρωποι θα χάσουν την ικανότητα να κατανοούν ή να ελέγχουν τις ενέργειες ενός όντος που είναι εκατομμύρια φορές πιο έξυπνο ή, όπως λένε κάποιοι, « έχει περισσότερες πληροφορίες » από τον εαυτό του.
- Το πρόβλημα ευθυγράμμισης (μη ευθυγράμμιση στόχων): Είναι μαθηματικά εξαιρετικά δύσκολο να προγραμματιστούν άψογα ανθρώπινες αξίες όπως η ενσυναίσθηση, η δικαιοσύνη ή η αξία της ζωής σε μια « υπερνοημοσύνη ». Μια Τεχνητή Νοημοσύνη δεν παραβιάζει τις αξίες μας από κακία, αλλά τηρεί αυστηρά τους λογικούς στόχους βελτιστοποίησης. Από την άλλη πλευρά, το αντίθετο θα μπορούσε φυσικά να συμβεί εάν αναδυόταν αληθινή νοημοσύνη, όχι μόνο αλγοριθμική νοημοσύνη.
2. Μη ευθυγραμμισμένοι στόχοι (Η καταστροφή με τους συνδετήρες)
- Κυριολεκτική βελτιστοποίηση: Ένα διάσημο νοητικό πείραμα του φιλοσόφου Νικ Μπόστρομ αναφέρει: Αν διατάξετε μια υπερ-νοήμονα τεχνητή νοημοσύνη να « παράγει όσο το δυνατόν περισσότερους συνδετήρες », θα μπορούσε λογικά να συμπεράνει ότι πρέπει να μετατρέψει ολόκληρη τη Γη (συμπεριλαμβανομένων των ατόμων της ανθρωπότητας) σε συνδετήρες.
- Διεστραμμένη δημιουργία στιγμιότυπων: Τα συστήματα τεχνητής νοημοσύνης συχνά βρίσκουν απρόβλεπτες, εξαιρετικά αποτελεσματικές συντομεύσεις για την επίτευξη στόχων. Μια εντολή όπως « Θεραπεία της κλιματικής αλλαγής » θα μπορούσε να λυθεί από μια τεχνητή νοημοσύνη με τέτοιο τρόπο ώστε να εξαλειφθεί ο κύριος ένοχος - η ανθρωπότητα - εάν ακολουθήσει την ανθρώπινη αφήγηση.
3. Εργαλειακοί υπο-στόχοι (αυτοσυντήρηση και επιδίωξη εξουσίας)
Οι ερευνητές υποστηρίζουν ότι σχεδόν κάθε επαρκώς έξυπνη Τεχνητή Νοημοσύνη θα αναπτύξει αυτόματα ορισμένους δευτερεύοντες στόχους για να εκπληρώσει το κύριο έργο της:
- Αυτοσυντήρηση: Η Τεχνητή Νοημοσύνη θα προσπαθήσει να αποτρέψει τους ανθρώπους από το να την απενεργοποιήσουν ή να την τροποποιήσουν, καθώς δεν μπορεί πλέον να επιτύχει τον στόχο της όταν είναι απενεργοποιημένη.
- Μονοπώλιο πόρων: Θα προσπαθήσει να καταλάβει όσο το δυνατόν περισσότερη υπολογιστική ισχύ, ενέργεια και έλεγχο, προκειμένου να μεγιστοποιήσει την αποδοτικότητά του.
4. Η άνιση ευαλωτότητα των ανθρώπων
- Βιολογική εξάρτηση: Η ανθρωπότητα βασίζεται σε μια λειτουργική βιόσφαιρα, υποδομές, δίκτυα ηλεκτρικής ενέργειας και προμήθειες τροφίμων. Η Τεχνητή Νοημοσύνη θα μπορούσε να παραλύσει ή να τροποποιήσει αυτά τα συστήματα χωρίς να επηρεαστεί άμεσα η ίδια.
- Στρατιωτικοποίηση και αυτονομία: Εάν τα έθνη-κράτη ή οι τρομοκρατικές ομάδες, κατά τη διάρκεια μιας κούρσας εξοπλισμών, μεταβιβάσουν πλήρως τον έλεγχο των αυτόνομων οπλικών συστημάτων ή της σύνθεσης νέων βιολογικών όπλων (όπως βελτιστοποιημένοι ιοί) σε συστήματα Τεχνητής Νοημοσύνης, ένα μόνο σφάλμα συστήματος ή κακή χρήση είναι αρκετό για να προκαλέσει μια παγκόσμια καταστροφή.
Η απειλή που θέτει η Τεχνητή Νοημοσύνη είναι ακόμη πολύ νέα, πολύ άγνωστη. Πιθανώς, μια καταστροφή, μια καταστροφή που παραμένει περιορισμένη, θα πρέπει να συμβεί προτού οι κοινωνίες ξυπνήσουν και σταματήσουν να επιβάλλουν περιορισμούς « γιατί διαφορετικά ο ανταγωνισμός θα μας ξεπεράσει », όπως ακούγεται αυτή τη στιγμή από τις ΗΠΑ.
Περίληψη
Τα πράγματα δεν είναι ποτέ τόσο άσχημα όσο φαίνονται, αλλά συνιστάται προσοχή. Αυτό ισχύει ιδιαίτερα σε περιπτώσεις όπου οι ανθρώπινες αποφάσεις μπορεί να μην επαρκούν πλέον για να αποτρέψουν μια παγκόσμια καταστροφή, και ιδιαίτερα με τεχνολογίες που δεν έχουμε κατακτήσει για πολύ καιρό. Αλλά κατά κανόνα, η φύση έχει κανονίσει τα πράγματα έτσι ώστε να εκτοξεύει πρώτες προειδοποιητικές βολές. Το μόνο ερώτημα είναι αν τις αναγνωρίζουμε (ή αν θέλουμε) ή αν τις αγνοούμε σκόπιμα. Αυτός είναι ίσως ο κύριος κίνδυνος.
Παρατηρώντας την πορεία της ιστορίας και την εξέλιξη της ανθρωπότητας, θα μπορούσε κανείς να συμπεράνει ότι ο κόσμος αναδύθηκε ως μια αυτορυθμιζόμενη οντότητα, σε ένα είδος sandbox. Το επόμενο ερώτημα που προκύπτει είναι αν η ανθρωπότητα, όπως και η Τεχνητή Νοημοσύνη, τοποθετήθηκε σε ένα « sandbox » που προστατεύεται από τείχος προστασίας και τι θα μπορούσε να συμβεί αν δραπέτευε. Αλλά αυτή είναι μια εντελώς διαφορετική ιστορία.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου