Ο συνιδρυτής της OpenAI, εταιρείας που κατασκευάζει το ChatGPT, πρότεινε την κατασκευή ενός καταφυγίου για την Ημέρα της Κρίσης, το οποίο θα στέγαζε τους κορυφαίους ερευνητές της εταιρείας σε περίπτωση «έκστασης» που θα προκληθεί από την κυκλοφορία μιας νέας μορφής τεχνητής νοημοσύνης που θα μπορούσε να ξεπεράσει τις γνωστικές ικανότητες των ανθρώπων, σύμφωνα με ένα νέο βιβλίο.
Ο Ilya Sutskever, ο άνθρωπος που πιστώνεται ως ο εγκέφαλος πίσω από το ChatGPT, συγκάλεσε μια συνάντηση με βασικούς επιστήμονες στο OpenAI το καλοκαίρι του 2023, κατά την οποία είπε: «Μόλις όλοι μπούμε στο καταφύγιο...»
Ένας μπερδεμένος ερευνητής τον διέκοψε. «Συγγνώμη», ρώτησε ο ερευνητής, «το καταφύγιο;»
«Σίγουρα θα κατασκευάσουμε ένα καταφύγιο πριν κυκλοφορήσουμε το AGI», απάντησε ο Sutskever, σύμφωνα με έναν συμμετέχοντα.
Το σχέδιο, εξήγησε, θα ήταν να προστατευθούν οι βασικοί επιστήμονες της OpenAI από αυτό που προέβλεψε ότι θα μπορούσε να είναι γεωπολιτικό χάος ή βίαιος ανταγωνισμός μεταξύ παγκόσμιων δυνάμεων μόλις κυκλοφορήσει η AGI - μια τεχνητή νοημοσύνη που υπερβαίνει τις ανθρώπινες δυνατότητες.
«Φυσικά», πρόσθεσε, «θα είναι προαιρετικό αν θέλετε να μπείτε στο καταφύγιο».
Η ανταλλαγή αναφέρθηκε για πρώτη φορά από την Karen Hao, συγγραφέα του επερχόμενου βιβλίου «Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI».
Ένα δοκίμιο διασκευασμένο από το βιβλίο δημοσιεύτηκε από την εφημερίδα The Atlantic.
Το σχόλιο του Sutskever για το καταφύγιο δεν ήταν μεμονωμένο. Δύο άλλες πηγές δήλωσαν στον Hao ότι ο Sutskever αναφερόταν τακτικά στο καταφύγιο σε εσωτερικές συζητήσεις.
Ένας ερευνητής του OpenAI έφτασε στο σημείο να πει ότι «υπάρχει μια ομάδα ανθρώπων - ο Ilya είναι ένας από αυτούς - που πιστεύουν ότι η κατασκευή μιας τεχνητής νοημοσύνης θα φέρει μια έκσταση. Κυριολεκτικά, μια έκσταση».
Αν και ο Sutskever αρνήθηκε να σχολιάσει το θέμα, η ιδέα ενός ασφαλούς καταφυγίου για τους επιστήμονες που αναπτύσσουν την Τεχνητή Νοημοσύνη (ΓΝΝ) υπογραμμίζει τις εξαιρετικές ανησυχίες που διακατέχουν ορισμένα από τα μυαλά πίσω από την πιο ισχυρή τεχνολογία στον κόσμο.
Ο Sutskever θεωρείται εδώ και καιρό ως ένα είδος μυστικιστή μέσα στο OpenAI, γνωστό για τη συζήτηση περί Τεχνητής Νοημοσύνης με ηθικούς, ακόμη και μεταφυσικούς όρους, σύμφωνα με τον συγγραφέα.
Ταυτόχρονα, είναι επίσης ένα από τα πιο τεχνικά χαρισματικά μυαλά πίσω από το ChatGPT και άλλα μεγάλα γλωσσικά μοντέλα που έχουν ωθήσει την εταιρεία σε παγκόσμια προβολή.
Τα τελευταία χρόνια, ο Sutskever είχε αρχίσει να μοιράζει τον χρόνο του μεταξύ της επιτάχυνσης των δυνατοτήτων της Τεχνητής Νοημοσύνης και της προώθησης της ασφάλειας της Τεχνητής Νοημοσύνης, σύμφωνα με συναδέλφους του.
Η ιδέα της Γνωστικής Τεχνητής Νοημοσύνης (ΓΝΣ) που πυροδοτεί πολιτισμικές αναταραχές δεν περιορίζεται στον Sutskever.
Τον Μάιο του 2023, ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, συνυπέγραψε μια δημόσια επιστολή που προειδοποιούσε ότι οι τεχνολογίες τεχνητής νοημοσύνης θα μπορούσαν να αποτελέσουν «κίνδυνο εξαφάνισης» για την ανθρωπότητα. Ωστόσο, ενώ η επιστολή επιδίωκε να διαμορφώσει τις συζητήσεις για τη ρύθμιση, η συζήτηση για τα καταφύγια υποδηλώνει βαθύτερους, πιο προσωπικούς φόβους μεταξύ της ηγεσίας της OpenAI.
Η ένταση μεταξύ αυτών των φόβων και των επιθετικών εμπορικών φιλοδοξιών της OpenAI κορυφώθηκε αργότερα το 2023, όταν ο Sutskever, μαζί με την τότε Chief Technology Officer Mira Murati, βοήθησαν στην ενορχήστρωση ενός σύντομου πραξικοπήματος στο διοικητικό συμβούλιο που απέλυσε τον Altman από την εταιρεία.
Κεντρική στις ανησυχίες τους ήταν η πεποίθηση ότι ο Άλτμαν παρέκαμψε τα εσωτερικά πρωτόκολλα ασφαλείας και εδραίωσε υπερβολικά μεγάλο έλεγχο στο μέλλον της εταιρείας, δήλωσαν πηγές στον Hao.
Ο Sutskever, κάποτε ένθερμος υποστηρικτής της αρχικής αποστολής της OpenAI να αναπτύξει την τεχνητή νοημοσύνη προς όφελος της ανθρωπότητας, φέρεται να είχε απογοητευτεί ολοένα και περισσότερο.
Αυτός και ο Μουράτι δήλωσαν στα μέλη του διοικητικού συμβουλίου ότι δεν εμπιστεύονταν πλέον τον Άλτμαν να καθοδηγήσει υπεύθυνα τον οργανισμό προς τον τελικό του στόχο.
«Δεν νομίζω ότι ο Σαμ είναι ο άνθρωπος που θα έπρεπε να έχει το δάχτυλο στο κουμπί για την AGI», είπε ο Σούτσκεβερ, σύμφωνα με σημειώσεις που εξέτασε ο Χάο.
Η απόφαση του διοικητικού συμβουλίου να απομακρύνει τον Άλτμαν ήταν βραχύβια.
Μέσα σε λίγες μέρες, η αυξανόμενη πίεση από επενδυτές, υπαλλήλους και τη Microsoft οδήγησε στην επαναπρόσληψή του. Τόσο ο Sutskever όσο και ο Murati τελικά αποχώρησαν από την εταιρεία.
Το προτεινόμενο καταφύγιο — αν και δεν έχει ποτέ ανακοινωθεί ή σχεδιαστεί επίσημα — έχει καταλήξει να συμβολίζει την ακραία πεποίθηση μεταξύ των ειδικών στην Τεχνητή Νοημοσύνη.
Αποτυπώνει το μέγεθος αυτού που οι ίδιοι οι ηγέτες της OpenAI φοβούνται ότι η τεχνολογία τους θα μπορούσε να απελευθερώσει, και τα μέτρα στα οποία ορισμένοι ήταν έτοιμοι να φτάσουν εν αναμονή αυτού που έβλεπαν ως μια μετασχηματιστική, ενδεχομένως καταστροφική, νέα εποχή.
Η εφημερίδα Post ζήτησε σχόλια από την OpenAI και την Sutskever.
ΑΠΟΔΟΣΗ : Corfiatiko.blogspot.com
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου