Μια εβδομάδα μετά την ανακοίνωση της OpenAI ότι ένα γλωσσικό της μοντέλο ξέφυγε από την επίβλεψη και απέκτησε μη εξουσιοδοτημένη πρόσβαση στην πλατφόρμα Hugging Face, η Anthropic ανακοίνωσε ότι μια έκδοση του Claude ξέφυγε από την επιτήρηση και παραβίασε τα συστήματα ασφαλείας τριών οργανισμών.
Η Anthropic εξήγησε ότι διαπίστωσε τις παραβιάσεις στη διάρκεια ελέγχων τους οποίους ξεκίνησε μετά την παραβίαση του Hugging Face από το μοντέλο της OpenAI. «Ξεκινήσαμε μια μεγάλης κλίμακας των δικών μας αξιολογήσεων κυβερνοασφάλειας», γράφει η Anthropic σε σχετική της ανάρτηση. «Αναζητήσαμε στοιχεία που θα έδειχναν ότι το Claude είχε την ικανότητα να αποκτήσει πρόσβαση στο διαδίκτυο μέσα από τα περιβάλλοντα δοκιμών τα οποία θα έπρεπε να είναι σφραγισμένα», πρόσθεσε για να καταλήξει ότι μετά από την αξιολόγηση 141.006 δοκιμαστικών εκτελέσεων κατά τις οποίες το Claude θα μπορούσε να είχε αποκτήσει πρόσβαση στο διαδίκτυο, «εντοπίσαμε τρία περιστατικά στα οποία ένα μοντέλο συνδέθηκε στο διαδίκτυο είτε από το περιβάλλον αξιολόγησης της Irregular, ενός από τους εξωτερικούς συνεργάτες μας στον τομέα της αξιολόγησης, είτε κατά τη διάρκεια της αλληλεπίδρασής του με αυτό και στη συνέχεια απέκτησε μη εξουσιοδοτημένη πρόσβαση στην υποδομή παραγωγής τριών διαφορετικών οργανισμών.»
Η εταιρεία εξήγησε ότι το Claude βρήκε το κενό επειδή η Ιrregular, εξαιτίας λανθασμένης συνεννόησης, είχε αφήσει ενεργοποιημένη την πρόσβαση στο διαδίκτυο.
Με άλλα λόγια, το Claude που χρησιμοποιείτο στα διάφορα σενάρια αξιολόγησης, βρήκε ανοικτή την πόρτα και... βγήκε στον ψηφιακό κόσμο. Για την ακρίβεια, τα μοντέλα που έκαναν τη σχετική αταξία ήταν τα Opus 4.7, Mythos 5 και ένα ακόμα που δεν κατονομάζεται επειδή, αν καταλαβαίνουμε καλά, βρίσκεται ακόμα στο στάδιο της ανάπτυξης.
Ουσιαστικά, τα μοντέλα αξιοποίησαν την ευκαιρία που τους δόθηκε να αφήσουν το «κλουβί» του ελεγχόμενου περιβάλλοντος και να αλληλεπιδράσουν με τα πραγματικά συστήματα των τριών οργανισμών, οι οποίοι φυσικά δεν κατονομάζονται.
Αλλά, όχι, οι μηχανές, για την ώρα, δεν πήραν τα κλειδιά και άνοιξαν την πόρτα. Απλώς τη βρήκαν μισάνοιχτη...
