Η εταιρεία τεχνητής νοημοσύνης Anthropic απενεργοποίησε την πρόσβαση στα πιο προηγμένα μοντέλα της, συμπεριλαμβανομένου του Mythos, μετά από μια πρωτοφανή εντολή της κυβέρνησης Τραμπ, η οποία στοχεύει στο να κρατήσει τη συγκεκριμένη τεχνολογία μακριά από “ξένα χέρια”.
Όπως μεταδίδει το Bloomberg, η αμερικανική κυβέρνηση κάλεσε την Anthropic να αναστείλει την πρόσβαση στα μοντέλα Fable 5 και Mythos 5 για κάθε ξένο υπήκοο, “είτε βρίσκεται εντός είτε εκτός των Ηνωμένων Πολιτειών”, επικαλούμενη λόγους εθνικής ασφάλειας, όπως ανακοίνωσε η εταιρεία. Αμερικανός αξιωματούχος επιβεβαίωσε ότι το Υπουργείο Εμπορίου απέστειλε τη σχετική επιστολή. Έκτοτε, η εταιρεία ανάπτυξης λογισμικού διέκοψε την πρόσβαση στα δύο συστήματα για το σύνολο των πελατών της, προκειμένου να διασφαλίσει τη συμμόρφωσή της με την απόφαση.
Είναι η πρώτη φορά που η κυβέρνηση των ΗΠΑ λαμβάνει τόσο σαρωτικά μέτρα για να περιορίσει την πρόσβαση ξένων οντοτήτων σε κορυφαία μοντέλα τεχνητής νοημοσύνης που έχουν αναπτυχθεί από αμερικανική εταιρεία. Αν και τόσο η κυβέρνηση Τραμπ όσο και η κυβέρνηση Μπάιντεν έχουν περιορίσει κατά το παρελθόν την πρόσβαση σε άλλες κρίσιμες τεχνολογίες, όπως οι ημιαγωγοί και οι υπερυπολογιστές, οι περιορισμοί στο ίδιο το λογισμικό εγείρουν πλέον σοβαρά συνταγματικά και εμπορικά ερωτήματα, σημειώνεται.
Η Anthropic εκτιμά ότι η κυβέρνηση εξέδωσε την εντολή όταν διαπιστώθηκε ότι είναι εφικτό το λεγόμενο “jailbreak” –δηλαδή η παράκαμψη των δικλείδων ασφαλείας– του Fable 5. Πρόκειται για μια πρόσφατη έκδοση του Mythos, από την οποία η εταιρεία είχε αφαιρέσει τη δυνατότητα εκτέλεσης εργασιών κυβερνοασφάλειας.
“Διαφωνούμε με την άποψη ότι ο εντοπισμός ενός περιορισμένου ρίσκου jailbreak αποτελεί αιτία για την ανάκληση ενός εμπορικού μοντέλου που χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους”, ανέφερε η Anthropic σε ανάρτηση στον ιστότοπό της. “Εάν αυτό το κριτήριο εφαρμοζόταν σε ολόκληρο τον κλάδο, θεωρούμε ότι θα σταματούσε ουσιαστικά κάθε νέα διάθεση μοντέλων από όλους τους παρόχους τεχνολογίας αιχμής”.
Σύμφωνα με δημοσίευμα της Wall Street Journal, ερευνητές της Amazon είχαν διεξάγει σχετικές δοκιμές που αποκάλυψαν ευπάθειες στο μοντέλο της Anthropic. Παράλληλα, όπως μετέδωσε το The Information, ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ήταν μεταξύ των τεχνολογικών ηγετών που εξέφρασαν ανησυχίες σε ανώτατους Αμερικανούς αξιωματούχους σχετικά με τους κινδύνους ασφαλείας στα προηγμένα μοντέλα της Anthropic.
Η κίνηση της κυβέρνησης να περιορίσει την πρόσβαση σε μια σειρά μοντέλων AI για λόγους εθνικής ασφάλειας, απειλεί να δημιουργήσει προηγούμενο για όλους τους μεγάλους παίκτες του κλάδου, συμπεριλαμβανομένων των OpenAI, Google (Alphabet) και Meta Platforms. Στο παρελθόν, κορυφαία στελέχη, όπως ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, είχαν παροτρύνει την κυβέρνηση των ΗΠΑ να προωθήσει την παγκόσμια υιοθέτηση των αμερικανικών μοντέλων AI, ώστε να προστατευτεί η πρωτοκαθεδρία της χώρας στην τεχνολογία αυτή.
Η Anthropic δήλωσε ότι έλαβε την κυβερνητική εντολή αργά το απόγευμα της Παρασκευής. Η οδηγία αυτή έρχεται σε αντίθεση με προηγούμενες δηλώσεις, αλλά και με το πρόσφατο εκτελεστικό διάταγμα που υπέγραψε ο Ντόναλντ Τραμπ, το οποίο άφηνε να εννοηθεί ότι η κυβέρνηση δεν θα επεδίωκε ένα υποχρεωτικό καθεστώς αδειοδότησης για τον έλεγχο των μοντέλων.
Παράλληλα, η εξέλιξη αυτή απειλεί να κλιμακώσει τις χρόνιες εντάσεις μεταξύ της Anthropic και μελών της κυβέρνησης Τραμπ. Στις αρχές του έτους, η εταιρεία είχε έρθει σε ρήξη με το Πεντάγωνο σχετικά με τη χρήση της τεχνολογίας της για στρατιωτικούς σκοπούς και σκοπούς παρακολούθησης. Ως αποτέλεσμα, η κυβέρνηση είχε χαρακτηρίσει τότε την εταιρεία “κίνδυνο για την εφοδιαστική αλυσίδα των ΗΠΑ”, δίνοντας εντολή στις ομοσπονδιακές υπηρεσίες να καταργήσουν σταδιακά τη χρήση των προϊόντων της.
Ο Ντέιβιντ Σακς, πρώην επικεφαλής της κυβέρνησης Τραμπ για θέματα AI και νυν συμπρόεδρος του Συμβουλευτικού Συμβουλίου του Προέδρου για την Επιστήμη και την Τεχνολογία (PCAST), δήλωσε ότι η Anthropic αρνήθηκε να διορθώσει το κενό ασφαλείας στο μοντέλο Fable.
“Η ελπίδα της κυβέρνησης τώρα είναι η Anthropic να αποκαταστήσει το πρόβλημα ασφάλειας, να αρθεί ο εξαγωγικός έλεγχος και το Fable να κυκλοφορήσει ξανά”, έγραψε σε ανάρτησή του στο Χ. “Η κυβέρνηση θέλει να συμβούν όλα αυτά το συντομότερο δυνατό. Ειλικρινά, υπάρχει απορία για το γεγονός ότι η Anthropic δεν θέλησε να συμμορφωθεί με αιτήματα ασφαλείας, τα οποία προηγουμένως η ίδια χαρακτήριζε ως την ύψιστη προτεραιότητά της”.
Ο νέος κυβερνητικός περιορισμός συμπίπτει με την κούρσα των αμερικανικών εταιρειών AI να παρουσιάσουν τα πιο εξελιγμένα μοντέλα και να αποδείξουν στους επενδυτές τους ότι η τεχνολογία μπορεί να αποφέρει κέρδη. Τόσο η OpenAI όσο και η Anthropic επιδιώκουν την είσοδό τους στο χρηματιστήριο ακόμη και εντός του έτους, ακολουθώντας την ιστορική IPO της SpaceX.
Η κούρσα για την ανάπτυξη των πιο πρωτοποριακών μοντέλων τεχνητής νοημοσύνης ώθησε την ίδια την Anthropic να δημοσιεύσει ένα εκτενές άρθρο νωρίτερα αυτό το μήνα, στο οποίο ζητούσε τη δημιουργία ενός συστήματος στο οποίο οι κυβερνήσεις και οι προγραμματιστές τεχνητής νοημοσύνης θα αποφασίζουν από κοινού πότε πρέπει να επιβραδύνουν, προκειμένου να αποτρέψουν τους κινδύνους που η τεχνολογία αυτή ενδέχεται να ενέχει.
“Θα ήταν καλό για τον κόσμο να έχει τη δυνατότητα να παρουσιάζει ή να αναστέλλει προσωρινά” εργασίες ΑΙ που ενδέχεται να είναι επικίνδυνες, ανέφερε η εταιρεία στην ανάρτησή της εκείνη την περίοδο. Η τεχνητή νοημοσύνη εξελίσσεται σε βαθμό που η τεχνολογία μπορεί να καταστήσει την ανθρώπινη εργασία χιλιάδες φορές πιο αποδοτική ή ακόμη και να την αντικαταστήσει, δημιουργώντας μια νέα σειρά κινδύνων, ανέφερε η εταιρεία.
H Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι αξιολογεί τη δήλωση της Anthropic και συνεχίζει τις συνομιλίες με τους συμμάχους της για τους πιθανούς κινδύνους και τις ανησυχίες κυβερνοασφάλειας. Η Κομισιόν πρόσθεσε ότι οι τελευταίες εξελίξεις υπογραμμίζουν την ανάγκη της Ευρώπης για τεχνολογική κυριαρχία.