Μια ενδιαφέρουσα θεωρία για την αιτία των διαδοχικών μπλακάουτ που έπληξαν καίριες υπηρεσίες τις προηγούμενες ημέρες διατυπώνεται από το νούμερο δύο της επιτροπής της Γερουσίας για θέματα μυστικών υπηρεσιών.
Μπορεί να έχετε κάποιες επιφυλάξεις για το γεγονός ότι ένας πολιτικός διατυπώνει μια θεωρία, μπαίνοντας στα χωράφια των μηχανικών, αλλά η προσέγγισή του είναι οπωσδήποτε ενδιαφέρουσα. Ο Μαρκ Γουόρνερ, λοιπόν, είπε στους Financial Times ότι, για την ώρα τουλάχιστον, δεν υπάρχουν στοιχεία που να υποδεικνύουν ότι πίσω από τα απανωτά προβλήματα βρίσκεται κάποια οργανωμένη κυβερνοεπίθεση.
Το πιθανότερο, κατά τον ίδιο, είναι οι κατά περίπτωση αρμόδιοι οργανισμοί να έσπευσαν να διορθώσουν κενά ασφαλείας που τους υπέδειξαν έλεγχοι που έγιναν με τη χρήση τεχνητής νοημοσύνης.
Δηλαδή, σύμφωνα με αυτή τη θεωρία, οι υπεύθυνοι έβαλαν κάποια AI συστήματα να ελέγξουν τον κώδικα. Στη διάρκεια αυτού του ελέγχου εντόπισαν δυνητικά προβλήματα και πρότειναν παρεμβάσεις, οι μηχανικοί έκαναν παρεμβάσεις και τα συστήματα κατέρρευσαν. Προς τι η βιασύνη, θα αναρωτηθείτε ίσως. Μάλλον επικρατεί ο φόβος ότι από τη στιγμή που κάποιο σύστημα τεχνητής νοημοσύνης είναι σε θέση να βρει ένα κενό ασφαλείας, ένα άλλο σύστημα τεχνητής νοημοσύνης με σαφώς πιο κακόβουλο χαρακτήρα (ή στα χέρια πιο κακόβουλων ανθρώπων) θα σπεύσει να εκμεταλλευτεί αυτό το κενό.
Έχει λογική αυτή η σκέψη;
Αν κρίνουμε από τον πανικό που προκάλεσαν τα λανσαρίσματα των μοντέλων Mythos και Fable της Anthropic στις αρχές του περασμένου καλοκαιριού θα πούμε ότι αυτή η ανησυχία έχει μια κάποια βάση.
Αν οι άνθρωποι έσπευσαν να διορθώσουν κάτι και στην προσπάθειά τους το έκαναν χειρότερο, δεν μπορούμε να κατηγορήσουμε την τεχνητή νοημοσύνη. Εκτός, βέβαια, και αν τα συστήματα τεχνητής νοημοσύνης έκαναν λανθασμένες αξιολογήσεις κοι οι αλλαγές που πρότειναν ήταν όχι μόνο περιττές αλλά προκάλεσαν κίνδυνο στην ευστάθεια των συστημάτων. Δεν ξέρουμε τι ακριβώς έγινε αλλά θα στοιχηματίζαμε για το πρώτο. Κοινώς, αν δεν ξέρεις τι κάνεις, μην το κάνεις...










