Αφού πρώην και νυν υπάλληλοι του OpenAI δημοσίευσαν μια ανοιχτή επιστολή ισχυριζόμενη ότι τους σιωπούν για να εγείρουν ζητήματα ασφάλειας ,
ένας από τους υπογράφοντες της επιστολής έκανε μια ακόμη πιο τρομακτική πρόβλεψη: ότι οι πιθανότητες που η τεχνητή νοημοσύνη είτε θα καταστρέψει είτε θα βλάψει καταστροφικά την ανθρωπότητα είναι μεγαλύτερες από μια αναστροφή νομίσματος.Σε συνέντευξή του στους New York Times , ο πρώην ερευνητής διακυβέρνησης του OpenAI Daniel Kokotajlo κατηγόρησε την εταιρεία ότι αγνοεί τους μνημειώδεις κινδύνους που ενέχει η τεχνητή γενική νοημοσύνη (AGI) επειδή οι ιθύνοντες της απόφασης είναι τόσο ενθουσιασμένοι με τις δυνατότητές της.
«Το OpenAI είναι πραγματικά ενθουσιασμένο για την κατασκευή του AGI», είπε ο Kokotajlo, «και αγωνίζονται απερίσκεπτα για να είναι οι πρώτοι εκεί».
Ο πιο πικάντικος ισχυρισμός του Kokotajlo στην εφημερίδα, ωστόσο, ήταν ότι η πιθανότητα η τεχνητή νοημοσύνη να καταστρέψει την ανθρωπότητα είναι περίπου 70 τοις εκατό - πιθανότητες που δεν θα δεχόσουν για κανένα σημαντικό γεγονός της ζωής, αλλά ότι το OpenAI και τα παρόμοια του ούτως ή άλλως προχωρούν.
MF Doom
Ο όρος " p(doom) ", που είναι ομιλία AI για την πιθανότητα ότι η τεχνητή νοημοσύνη θα οδηγήσει σε καταστροφή για την ανθρωπότητα, είναι αντικείμενο συνεχούς διαμάχης στον κόσμο της μηχανικής μάθησης.
Ο 31χρονος Kokotajlo είπε στους NYT ότι αφού εντάχθηκε στο OpenAI το 2022 και του ζητήθηκε να προβλέψει την πρόοδο της τεχνολογίας, πείστηκε όχι μόνο ότι η βιομηχανία θα επιτύχει AGI μέχρι το έτος 2027, αλλά ότι υπήρχε μεγάλη πιθανότητα θα έβλαπτε ή και θα κατέστρεφε καταστροφικά την ανθρωπότητα.
Όπως σημειώνεται στην ανοιχτή επιστολή , ο Kokotajlo και οι σύντροφοί του — που περιλαμβάνει πρώην και νυν υπαλλήλους της Google DeepMind και Anthropic, καθώς και ο Geoffrey Hinton , ο επονομαζόμενος «Νονός της Τεχνητής Νοημοσύνης» που άφησε την Google πέρυσι για παρόμοιες ανησυχίες — ισχυρίζονται Το «δικαίωμά τους να προειδοποιούν» το κοινό για τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη.
Ο Kokotajlo πείστηκε τόσο πολύ ότι η τεχνητή νοημοσύνη αποτελούσε τεράστιους κινδύνους για την ανθρωπότητα που τελικά, ζήτησε προσωπικά από τον CEO του OpenAI Sam Altman ότι η εταιρεία έπρεπε να «στρέψει στην ασφάλεια» και να αφιερώσει περισσότερο χρόνο στην εφαρμογή προστατευτικών κιγκλιδωμάτων για να κυριαρχήσει στην τεχνολογία αντί να συνεχίσει να την κάνει πιο έξυπνη.
Ο Άλτμαν, σύμφωνα με την αφήγηση του πρώην υπαλλήλου, φαινόταν να συμφωνεί μαζί του εκείνη την εποχή, αλλά με την πάροδο του χρόνου έμοιαζε σαν να μιλούσε.
Βαρισμένος, ο Kokotajlo εγκατέλειψε την εταιρεία τον Απρίλιο, λέγοντας στην ομάδα του σε ένα email ότι «είχε χάσει την εμπιστοσύνη του ότι το OpenAI θα συμπεριφερθεί υπεύθυνα» καθώς συνεχίζει να προσπαθεί να δημιουργήσει AI σχεδόν ανθρώπινου επιπέδου.
«Ο κόσμος δεν είναι έτοιμος και εμείς δεν είμαστε έτοιμοι», έγραψε στο email του, το οποίο κοινοποιήθηκε στους NYT . «Και ανησυχώ ότι βιαζόμαστε προς τα εμπρός ανεξάρτητα και εξορθολογίζουμε τις ενέργειές μας».
Μεταξύ των εξόδων μεγάλων επωνύμων και αυτού του είδους των τρομακτικών προβλέψεων , τα τελευταία νέα από το OpenAI ήταν ζοφερά - και είναι δύσκολο να δούμε ότι προχωρά πιο ηλιόλουστα.
«Είμαστε περήφανοι για το ιστορικό μας παρέχοντας τα πιο ικανά και ασφαλέστερα συστήματα τεχνητής νοημοσύνης και πιστεύουμε στην επιστημονική μας προσέγγιση για την αντιμετώπιση του κινδύνου», ανέφερε η εταιρεία σε δήλωση μετά τη δημοσίευση αυτού του άρθρου. «Συμφωνούμε ότι η αυστηρή συζήτηση είναι ζωτικής σημασίας δεδομένης της σημασίας αυτής της τεχνολογίας και θα συνεχίσουμε να συνεργαζόμαστε με τις κυβερνήσεις, την κοινωνία των πολιτών και άλλες κοινότητες σε όλο τον κόσμο».
«Αυτός είναι επίσης ο λόγος που έχουμε τρόπους για τους εργαζόμενους να εκφράσουν τις ανησυχίες τους, συμπεριλαμβανομένης μιας ανώνυμης τηλεφωνικής γραμμής ακεραιότητας και μιας Επιτροπής Ασφάλειας και Ασφάλειας με επικεφαλής μέλη του διοικητικού συμβουλίου μας και ηγέτες ασφάλειας από την εταιρεία», συνεχίζει η δήλωση.
ΑΠΟΔΟΣΗ : Corfiatiko.blogspot.com
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου