Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης προφανώς αναμένουν ένα σημαντικό περιστατικό μέσα στους επόμενους έξι έως δώδεκα μήνες. Όπως ανέφερε το Axios στις 9 Οκτωβρίου , οι υπεύθυνοι προετοιμάζονται ήδη κεκλεισμένων των θυρών για την επόμενη μέρα - και για την πιθανή πολιτική αναταραχή που θα μπορούσε να ακολουθήσει.
Σύμφωνα με την Axios, στελέχη της OpenAI, της Anthropic και άλλων εταιρειών τεχνητής νοημοσύνης εξετάζουν σενάρια στα οποία η τεχνητή νοημοσύνη προκαλεί καταστροφή ή χρησιμοποιείται λανθασμένα για μια επίθεση μεγάλης κλίμακας.
Οι κυβερνοεπιθέσεις που θα μπορούσαν να παραλύσουν τα χρηματοπιστωτικά συστήματα, να διαταράξουν την πρόσβαση στο διαδίκτυο ή ακόμη και να επηρεάσουν την παροχή ηλεκτρικής ενέργειας και νερού είναι ιδιαίτερα ανησυχητικές.
Το αξιοσημείωτο είναι ότι πολλοί άνθρωποι του κλάδου δεν θεωρούν πλέον ένα σοβαρό περιστατικό ως απώτερη πιθανότητα. Σύμφωνα με την Axios, ορισμένοι αναμένουν ότι θα συμβεί μέσα στους επόμενους έξι έως δώδεκα μήνες. Ωστόσο, πρόκειται για εκτιμήσεις από ανώνυμες πηγές και όχι για επιβεβαιωμένη πρόβλεψη.
Οι εταιρείες ήδη σχεδιάζουν την πολιτική εξέγερση.
Σύμφωνα με την έκθεση, οι προετοιμασίες δεν επικεντρώνονται μόνο στις τεχνικές πτυχές της διαχείρισης μιας πιθανής καταστροφής. Οι εταιρείες εξετάζουν επίσης εντατικά τον τρόπο με τον οποίο θα αντιδράσουν το κοινό και οι πολιτικοί.
Επειδή, εάν ένα σύστημα τεχνητής νοημοσύνης έβγαινε εκτός ελέγχου ή χρησιμοποιούνταν από εγκληματίες για μια καταστροφική επίθεση, θα μπορούσαν να υπάρξουν εκκλήσεις για διακοπή της ανάπτυξης ή δραστικούς νομικούς περιορισμούς.
Ως εκ τούτου, οι εταιρείες ετοιμάζονται να ενημερώσουν τα μέλη του Κογκρέσου των ΗΠΑ σχετικά με την τεχνολογία και τους κινδύνους της το συντομότερο δυνατό. Προφανώς θέλουν επίσης να επηρεάσουν ποιοι νόμοι θα ψηφιστούν μετά από μια πιθανή κρίση.
Η OpenAI επιβεβαίωσε στην Axios ότι αντιμετωπίζει τακτικά διάφορα σενάρια κρίσης. Ωστόσο, η εταιρεία τόνισε ότι δεν θεωρεί αυτά τα γεγονότα αναπόφευκτα. Η Anthropic αρνήθηκε να σχολιάσει.
Ποιος ελέγχει τις εταιρείες όταν η τεχνολογία τους γίνεται επικίνδυνη;
Η έκθεση εγείρει ένα θεμελιώδες ερώτημα: Εάν ακόμη και οι κορυφαίοι προγραμματιστές θεωρούν πιθανά σοβαρά περιστατικά, γιατί η τεχνολογία ενσωματώνεται όλο και πιο βαθιά στις επιχειρήσεις, τη διοίκηση και τις κρίσιμες υποδομές;
Αυτό που είναι ιδιαίτερα ανησυχητικό είναι ότι, σύμφωνα με την Axios, οι εταιρείες προετοιμάζονται ήδη να βοηθήσουν στη διαμόρφωση της πολιτικής αντίδρασης σε μια πιθανή καταστροφή.
Αυτές οι εταιρείες δεν αναπτύσσουν μόνο τεχνολογίες των οποίων τους κινδύνους συζητούν οι ίδιες· θέλουν επίσης να έχουν λόγο στο ποιοι κανόνες θα ισχύουν σε περίπτωση πιθανής αποτυχίας.
Είναι αβέβαιο αν μια καταστροφή από την Τεχνητή Νοημοσύνη είναι πράγματι επικείμενη. Ωστόσο, το γεγονός ότι κορυφαίες εταιρείες ήδη προσομοιώνουν την πολιτική και κοινωνική κατάσταση έκτακτης ανάγκης που θα ακολουθήσει αποτελεί αξιοσημείωτη εξέλιξη.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου