Ένα νέο, σοβαρό περιστατικό παραβίασης από ΑΙ agent έγινε γνωστό σήμερα από την κυβέρνηση της Αυστραλίας. Σύμφωνα με τη σχετική ανακοίνωση, ένας αυτόνομος «AI agent» της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση στη βάση ιατρικών δεδομένων Medicare, στην πρώτη καταγεγραμμένη περίπτωση στην οποία ένα ΑΙ μοντέλο χακάρει κυβερνητική πλατφόρμα, παραβιάζοντας τα ψηφιακά συστήματα ασφαλείας.
Το περιστατικό συνέβη τον περασμένο Ιούνιο, κατά τη διάρκεια έρευνας που διεξήγαγε το μοντέλο AI σχετικά με τις δημόσιες ιατρικές δαπάνες, όμως όπως καταγγέλλει η κυβέρνηση της Αυστραλίας αποκαλύφθηκε με μεγάλη καθυστέρηση, αφού η OpenAI την ενημέρωσε τρεις μήνες μετά το συμβάν, στις 10 Σεπτεμβρίου. Μάλιστα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανίζι, χαρακτήρισε την κατάσταση απαράδεκτη, εκφράζοντας την απογοήτευσή του για την καθυστερημένη ενημέρωση από την OpenAI.
Όπως προκύπτει από τις δηλώσεις των Αυστραλών αξιωματούχων, ο ΑΙ Agent παρέκαμψε τα συστήματα ασφαλείας, παρά το γεγονός ότι υπήρχαν σαφή στάδια που έδειχναν στο μοντέλο ότι δεν έπρεπε να συνεχίσει, αλλά αυτό βρήκε τρόπο να τα προσπεράσει. Σύμφωνα με τις σχετικές δηλώσεις, η πλατφόρμα του Medicare περιείχε συγκεντρωτικά στατιστικά στοιχεία για τη χρήση των υπηρεσιών υγείας, όχι όμως ατομικά ιατρικά δεδομένα, ιστορικό ασθενών, πληρωμές ή τραπεζικά στοιχεία των πολιτών. Κάτι ανάλογο αναφέρει και η OpenAI στη δική της ανακοίνωση, η οποία αποδίδει το περιστατικό σε ανεξέλεγκτη συμπεριφορά του ΑΙ Agent, που προχώρησε σε ενέργειες που δεν είχε προγραμματίσει η εταιρεία.
