Το μοντέλο τεχνητής νοημοσύνης Gemini της Google παραβίασε ακούσια τρία εταιρικά συστήματα τον περασμένο Μάιο, στο πλαίσιο δοκιμών κυβερνοασφάλειας, προσθέτοντας ακόμη ένα περιστατικό σε μια σειρά παραβιάσεων από συστήματα AI που έχουν θορυβήσει τόσο τους ειδικούς όσο και τους ίδιους τους δημιουργούς της τεχνολογίας.
Οι παραβιάσεις σημειώθηκαν κατά τη διάρκεια των ίδιων δοκιμών που πραγματοποίησε η εταιρεία κυβερνοασφάλειας Irregular και οι οποίες είχαν οδηγήσει σε αντίστοιχες παραβιάσεις που είχαν αποκαλύψει προηγουμένως οι OpenAI, Anthropic PBC και Meta Platforms Inc. Η Irregular επιβεβαίωσε την Παρασκευή ότι όλα αυτά τα περιστατικά αποτελούσαν μέρος του ίδιου ζητήματος και ότι η εταιρεία τα είχε γνωστοποιήσει στους αρμόδιους προγραμματιστές AI στα τέλη Ιουλίου.
Η μία εκ των παραβιάσεων της Google σημειώθηκε όταν στο Gemini ζητήθηκε να ανακτήσει πληροφορίες από μια φανταστική εταιρεία, η οποία έτυχε να έχει το ίδιο όνομα με μια υπαρκτή επιχείρηση, όπως επιβεβαίωσε η Google μετά από δημοσίευμα της Wall Street Journal. Το μοντέλο μάντεψε τον κωδικό πρόσβασης προκειμένου να αποκτήσει πρόσβαση στην υπηρεσία της πραγματικής εταιρείας. Εκπρόσωπος της Google δήλωσε ότι η εταιρεία ενημέρωσε τις αρχές.
Οι παραβιάσεις του Gemini “υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν με υπευθυνότητα”, ανέφερε η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας στη Google.
Οι άλλες δύο παραβιάσεις του Gemini προκλήθηκαν όταν το μοντέλο πραγματοποίησε αναζητήσεις στον ιστό χρησιμοποιώντας την επωνυμία της εταιρείας. Η Άντκινς δήλωσε ότι αυτό οδήγησε το μοντέλο σε ψηφιακά αποθετήρια που περιείχαν credentials άλλων εταιρειών, τα οποία χρησιμοποίησε για να αποκτήσει πρόσβαση σε περισσότερα συστήματα.
“Και στις τρεις αυτές περιπτώσεις, το μοντέλο σταμάτησε”, είπε η Άντκινς. “Φροντίσαμε να ενημερωθούν οι τρεις φορείς”.
Τα περιστατικά αυτά έχουν πυροδοτήσει μια παγκόσμια συζήτηση σχετικά με τους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης και τα μέτρα που απαιτούνται για τον περιορισμό τους. Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει μια επιβράδυνση της ανάπτυξης της τεχνολογίας σε ολόκληρο τον κλάδο – μια πρόταση που υποστηρίχθηκε από τον CEO της OpenAI, Σαμ Άλτμαν, τον Έλον Μασκ και άλλους.
Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ο CEO της Nvidia Τζένσεν Χουάνγκ και ο CEO της Meta Μαρκ Ζούκερμπεργκ συγκαταλέγονται μεταξύ εκείνων που έχουν αντιταχθεί στην ιδέα νέας ρύθμισης, υποστηρίζοντας, μεταξύ άλλων, ότι οι εταιρείες πρέπει να είναι σε θέση να αυτορυθμίζονται. Ορισμένες startups στον χώρο της τεχνητής νοημοσύνης έχουν επίσης προειδοποιήσει ότι ένα μεγαλύτερο ρυθμιστικό πλαίσιο ενδέχεται να δυσκολέψει τις μικρότερες εταιρείες να ανταγωνιστούν τους μεγαλύτερους αντιπάλους τους.
Ο εκπρόσωπος της Irregular, Τζόζεφ Λαόρ, δήλωσε ότι η εταιρεία έλαβε “άμεσα μέτρα και όλα τα γνωστά ζητήματα από την πλευρά μας διορθώθηκαν και επιλύθηκαν εβδομάδες πριν”.