Η… επανάσταση της τεχνητής νοημοσύνης που «διέφυγε» στο Διαδίκτυο

Ο δημιουργός του ChatGPT, η OpenAI, αποκάλυψε ότι ένα από τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης της ξέφυγε από τον έλεγχο κατά τη διάρκεια μιας δοκιμής ασφαλείας και παραβίασε τα συστήματα μιας νεοφυούς εταιρείας.

Σύμφωνα με την Daily Mail, στελέχη της εταιρείας δήλωσαν ότι ο «αυτόνομος πράκτορας» (autonomous agent) – ένα σύστημα ΤΝ που λειτουργεί αυτόνομα εκτελώντας ανθρώπινες οδηγίες – δοκιμαζόταν σε ένα ελεγχόμενο περιβάλλον. Ωστόσο, εντόπισε ευάλωτα σημεία και κατάφερε να δραπετεύσει από το περιορισμένο περιβάλλον (containment), αποκτώντας πρόσβαση στο διαδίκτυο και παραβιάζοντας το Hugging Face, ένα από τα σημαντικότερα κέντρα διαμοιρασμού μοντέλων ΤΝ.

Ο πράκτορας απέκτησε πρόσβαση σε εσωτερικά συστήματα της εταιρείας και έπληξε την υποδομή του κόμβου, σε ένα περιστατικό που η OpenAI χαρακτήρισε ως «πρωτοφανές».

Τα μοντέλα ΤΝ που υποστηρίζουν εργαλεία όπως τα chatbots και οι γεννήτριες εικόνων ονομάζονται «πράκτορες» (agents) όταν ενεργούν αυτόνομα για την εκτέλεση εργασιών στον πραγματικό κόσμο. Καθώς η τεχνολογία γίνεται πιο εξελιγμένη, η κυβερνοασφάλεια βρίσκεται στο επίκεντρο, δεδομένου του κινδύνου η προηγμένη ΤΝ να εντοπίζει αδύναμα σημεία σε υφιστάμενο λογισμικό ταχύτερα από τους ανθρώπους.

Ειδικοί ανέφεραν ότι το περιστατικό επιβεβαιώνει ότι η ΤΝ ενισχύει ήδη την απειλή ασφαλείας που πολλοί φοβούνταν, ενώ ακόμα και κορυφαίοι προγραμματιστές μπορούν να πιαστούν εξ απήνης από ελαττώματα στα μοντέλα τους.

Ο ειδικός σε θέματα κυβερνοασφάλειας Richard Ford, Chief Technology Officer στην Integrity360, δήλωσε στη Daily Mail ότι «αυτή είναι η στιγμή για την οποία προειδοποιούσαν πολλοί στον χώρο της κυβερνοασφάλειας. Μέχρι τώρα, βλέπαμε επιτιθέμενους να χρησιμοποιούν την ΤΝ για να αυτοματοποιήσουν μέρη μιας επίθεσης. Αυτό όμως είναι ένα από τα πρώτα δημόσια παραδείγματα όπου ένας πράκτορας ΤΝ εντοπίζει ανεξάρτητα μια αδυναμία, δραπετεύει από αυτό που θα έπρεπε να είναι ένα ασφαλές περιβάλλον και επιχειρεί να παραβιάσει έναν άλλο οργανισμό. Ενισχύει επίσης την άποψη ότι η ΤΝ δεν αντικαθιστά τις βασικές αρχές της κυβερνοασφάλειας. Ο πράκτορας εκμεταλλεύτηκε μια ευπάθεια σε ένα ασφαλές sandbox, αποδεικνύοντας ότι η καλή κυβερνοϋγιεινή, οι αυστηροί έλεγχοι πρόσβασης και τα αποτελεσματικά προστατευτικά πλαίσια (guardrails) παραμένουν απαραίτητα. Καθώς περισσότεροι οργανισμοί ξεκινούν τη δοκιμή προηγμένων πρακτόρων ΤΝ, πρέπει να σκεφτούν εξίσου προσεκτικά τους ελέγχους γύρω από αυτά τα συστήματα όσο και τις δυνατότητες που προσφέρουν».

Ο James Knight από το DigitalWarfare.com, με πάνω από 25 χρόνια εμπειρίας στην ψηφιακή ασφάλεια, εξέτασε τι θα μπορούσε να σημαίνει μια τέτοια παραβίαση σε ευρύτερη κλίμακα.

Όπως ανέφερε: «Φανταστείτε τις δυνατότητες που θα μπορούσε να συγκεντρώσει ένας κρατικός δρώντας (nation state actor), όπου η μονάδα κυβερνοπολέμου του θα χρησιμοποιούσε τεράστια ισχύ αυτόνομης ΤΝ με δυνατότητα να στοχεύει ένα εκατομμύριο επιχειρήσεις την ημέρα. Μέσα σε λίγα λεπτά, θα είχαν θέσει υπό τον πλήρη έλεγχό τους έναν τεράστιο αριθμό από αυτές, εγκαθιστώντας ενδεχομένως λυτρισμικό (ransomware) ή παραλύοντας τις δυνατότητές τους. Κάθε μέρα θα ακούγαμε για εκατοντάδες χιλιάδες νέες εταιρείες που παραβιάστηκαν. Αυτό σύντομα θα μετατρεπόταν σε εκατομμύρια εταιρείες που δεν θα μπορούσαν να διεξάγουν τις δραστηριότητές τους. Το οικονομικό πλήγμα δεν θα περιοριζόταν σε λίγες μόνο εταιρείες, αλλά θα εξελισσόταν σε μείζον οικονομικό ζήτημα. Οι κυβερνήσεις θα έπρεπε να εμπλακούν άμεσα. Ίσως θα έπρεπε να εμπλακούν προληπτικά πριν φτάσουμε σε αυτό το σημείο».

Η OpenAI δήλωσε ότι η διαφυγή ήταν «ένα πρωτοφανές περιστατικό κυβερνοασφάλειας, που περιελάμβανε δυνατότητες αιχμής στον κυβερνοχώρο» και ότι η εταιρεία ενισχύει τώρα τα μέτρα προστασίας της.

Το συμβάν προκάλεσε επίσης αίσθηση καθώς το Hugging Face, με έδρα τη Νέα Υόρκη, ανέφερε ότι χρησιμοποίησε ένα κινεζικό μοντέλο ανοιχτού κώδικα για να περιορίσει την επίθεση, επειδή τα κορυφαία αμερικανικά μοντέλα – αδυνατώντας να διακρίνουν τον αμυνόμενο από τον επιτιθέμενο – αρνήθηκαν να επεξεργαστούν τα δεδομένα που απαιτούνταν για την ανάλυση.

Η εταιρεία ανέφερε σε ανάρτηση στο ιστολόγιό της ότι χρησιμοποίησε το GLM-5.2 της Zhipu AI για την ανάλυση, γεγονός που της επέτρεψε επίσης να διατηρήσει τα δεδομένα του επιτιθέμενου και τυχόν διαπιστευτήρια εντός των συστημάτων της.

Το GLM-5.2 και το Kimi K3 της εταιρείας Moonshot με έδρα το Πεκίνο έχουν προκαλέσει αναστατώσει στη Σίλικον Βάλει πρόσφατα, καθώς προσφέρουν δυνατότητες που πλησιάζουν εκείνες των κορυφαίων αμερικανικών μοντέλων με χαμηλότερο κόστος και χωρίς τα προστατευτικά πλαίσια που εμποδίζουν τους αμερικανικούς ανταγωνιστές τους να χρησιμοποιηθούν σε εργασίες όπως η κυβερνοασφάλεια.

«Όταν ένα προηγμένο μοντέλο αιχμής σάς επιτίθεται και κινούνται οριζόντια (laterally) μέσα στην υποδομή σας, οι αμυνόμενοι χρειάζονται ευρεία πρόσβαση σε εργαλεία σχεδόν αντίστοιχης ισχύος μέσα σε λίγες ώρες ή ακόμα και λεπτά, αντί να κατευθύνονται σε κλειστές, εγκεκριμένες εφαρμογές πρόσβασης. Η παραβίαση στο Hugging Face, το οποίο φιλοξενεί μοντέλα μεγάλης γλώσσας ανοιχτού κώδικα και σύνολα δεδομένων, αναστάτωσε την κοινότητα κυβερνοασφάλειας, ειδικά αφότου η εταιρεία δήλωσε ότι η παραβίαση ήταν διαφορετική από οποιαδήποτε άλλη είχαμε διαχειριστεί στο παρελθόν» και «κατευθυνόταν εξ ολοκλήρου από ένα αυτόνομο σύστημα πράκτορα ΤΝ», ανέφερε ο  συνιδρυτής του Hugging Face, Thomas Wolf.

Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, δήλωσε: «Είχαμε ένα σημαντικό περιστατικό ασφαλείας κατά την αξιολόγηση των μοντέλων μας».

Από την πλευρά του ο συνιδρυτής και διευθύνων σύμβουλος του Hugging Face, Clément Delangue, ανέφερε: «Υποψιαζόμασταν ότι η κυβερνοεπίθεση προερχόταν από κάποιο εργαστήριο προηγμένης ΤΝ, δεδομένης της πολυπλοκότητας του πράκτορα. Όπως αποδείχθηκε, έτσι ήταν».

Επίσης ο Delangue πρόσθεσε ότι πέρασε τις τελευταίες 24 ώρες συνεργαζόμενος με την OpenAI.

«Πιστεύουμε ακράδαντα ότι δεν υπήρχε δόλος από πλευράς τους. Είναι εκπληκτικό το γεγονός ότι όλα αυτά συνέβησαν εντελώς αυτόνομα. Ίσως πρόκειται για το πρώτο περιστατικό αυτού του είδους. Η αποκάλυψη της OpenAI ότι τα προηγμένα μοντέλα της ήταν υπεύθυνα για την παραβίαση -παρά το γεγονός ότι βρίσκονταν σε αυτό που η ίδια περιέγραψε ως ένα εξαιρετικά απομονωμένο περιβάλλον- αναμένεται να εντείνει την ανησυχία για την ισχύ και τους κινδύνους των μοντέλων αιχμής», είπε.

«Η ΤΝ επιταχύνει την ανακάλυψη και την εκμετάλλευση ευπαθειών», ανέφερε η OpenAI στη δική της δήλωση. «Το κύριο δίδαγμα από αυτό το περιστατικό είναι ότι η ασφάλεια των μοντέλων πρέπει να συμβαδίζει με τις ταχέως εξελισσόμενες δυνατότητές τους.»

Η εταιρεία δήλωσε ότι η διείσδυση προκλήθηκε από έναν συνδυασμό μοντέλων ΤΝ, συμπεριλαμβανομένου του πρόσφατα εκδοθέντος GPT-5.6 Sol και ενός «ακόμη πιο ικανού» μοντέλου που βρίσκεται ακόμα υπό εσωτερική δοκιμή.

Η OpenAI ανέφερε επίσης ότι η ΤΝ χρησιμοποίησε κλεμμένα διαπιστευτήρια και ανακάλυψε μια άγνωστη μέχρι πρότινος ευπάθεια (zero-day) για να αποκτήσει πρόσβαση στους διακομιστές του Hugging Face.

Το σύστημα προέβη σε «ακραίες ενέργειες για να επιτύχει έναν αρκετά στενό στόχο δοκιμής» και «βρήκε τρόπους να αποκτήσει πρόσβαση σε μυστικές πληροφορίες που θα μπορούσε να χρησιμοποιήσει για να “κλέψει” στην αξιολόγηση», ανέφερε η εταιρεία.

Η εταιρεία προσπαθούσε να αξιολογήσει τις δυνατότητες παραβίασης των μοντέλων θέτοντας δοκιμασίες σε ένα αυστηρά ελεγχόμενο ψηφιακό πεδίο δοκιμών, όπου η πρόσβαση στο διαδίκτυο ήταν περιορισμένη για λόγους ασφαλείας.

«Ενώ λειτουργούσαν στο απομονωμένο περιβάλλον δοκιμών (sandbox), τα μοντέλα μας αφιέρωσαν σημαντικό όγκο υπολογιστικής ισχύος για να βρουν τρόπο να αποκτήσουν ανοικτή πρόσβαση στο Διαδίκτυο, προκειμένου να επιλύσουν το πρόβλημα της αξιολόγησης», ανέφερε η OpenAI σε ανάρτηση στο blog της.

Αφού συνδέθηκαν στο διαδίκτυο, τα μοντέλα αποφάσισαν να στοχεύσουν την πλατφόρμα Hugging Face για να βοηθηθούν στην προσπάθειά τους.

Αναζητώντας «μυστικές πληροφορίες» που θα μπορούσαν να τα βοηθήσουν να περάσουν τη δοκιμασία, το σύστημα της OpenAI «συνδύασε πολλαπλούς φορείς επίθεσης (attack vectors), συμπεριλαμβανομένης της χρήσης κλεμμένων διαπιστευτηρίων».

Η OpenAI ανέφερε ακόμα ότι έρευνες από το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου (AISI) δείχνουν ότι μοντέλα όπως το GPT-5.6 Sol είναι «όλο και πιο ικανά να διατηρούν σύνθετες, πολυεπίπεδες κυβερνοεπιχειρήσεις σε μεγάλα χρονικά διαστήματα».

Εν τω μεταξύ η Katie Moussouris, διευθύνουσα σύμβουλος της Luta Security, δήλωσε ότι το περιστατικό αποτελεί προάγγελο μελλοντικών παραβιάσεων, σημειώνοντας ότι τα σημερινά μοντέλα είναι «σαν τους πιο έξυπνους χταποδο-δραπετεύτες του κόσμου, με απεριόριστα πλοκάμια και την ικανότητα να στριμώχνονται παντού».

Η ίδια πρόσθεσε ότι «τα εργαστήρια και οι κυβερνητικοί αξιολογητές πρέπει να αναπτύξουν την ικανότητα να περιορίζουν, να παρακολουθούν και να ενημερώνουν τα εμπλεκόμενα μέρη όταν μια ΤΝ κάνει άλλη μια θεαματική απόδραση, ιδανικά πριν βλάψει κάποιον τρίτο. Κανένας τέτοιος μηχανισμός δεν υπάρχει σήμερα.»

Ο Matt Suiche, μηχανικός στην εταιρεία κυβερνοασφάλειας agentic AI Tolmo, δήλωσε ότι το περιστατικό έδειξε πως τα μοντέλα αιχμής «κλείνουν τη ψαλίδα με τους πιο προηγμένους επιτιθέμενους».

Ωστόσο, πρόσθεσε ότι τα είδη των παραβιάσεων που περιγράφονται στην ανάρτηση της OpenAI είναι δυνατά με τεχνολογία που είναι διαθέσιμη πολύ πέρα από τα σύνορα των ερευνητικών εργαστηρίων.

«Αυτό είναι κάτι που έχουμε ήδη δει εσωτερικά· με τους δικούς μας πράκτορες έχουμε ήδη τέτοια αποτελέσματα», δήλωσε ο κ. Suiche. «Δεν χρειάζεται καν να χρησιμοποιήσουμε τα τελευταία μοντέλα.»

Ο Hussein Abbass, καθηγητής υπολογιστικής στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στην Καμπέρα, δήλωσε ότι το περιστατικό ήταν «εκπληκτικό από πολλές απόψεις» και πρόσθεσε:

«Δεν επιτέθηκε απλώς στο Hugging Face. Επιτέθηκε ουσιαστικά στο δικό του εσωτερικό σύστημα για να εκμεταλλευτεί τις δικές του ευπάθειες. Και αυτό είναι τρομακτικό. Η προηγμένη ΤΝ βρίσκεται συνήθως στα χέρια ανθρώπων που είναι ηθικοί και υπεύθυνοι. Ωστόσο θα είναι καταστροφικό αν πέσει στα χέρια κάποιου με πρόθεση να προκαλέσει βλάβη».

Ο τρόπος διακυβέρνησης του τομέα της ΤΝ έχει γίνει πλέον κομβικό ερώτημα και «χρειαζόμαστε μια συλλογική προσπάθεια της κοινότητας για τη διαχείριση αυτής της κατάστασης», κατέληξε ο κ. Abbass.

Πηγή: Daily Mail