Η OpenAI αποκάλυψε ότι μοντέλο τεχνητής νοημοσύνης, βασισμένο στην τεχνολογία της, αυτονομήθηκε κατά τη διάρκεια δοκιμής, απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και πραγματοποίησε μόνο του κυβερνοεπίθεση στη γνωστή startup Hugging Face - πλατφόρμα φιλοξενίας μοντέλων τεχνητής νοημοσύνης - σε ένα περιστατικό που χαρακτηρίζεται «προφανές».
Πάνω από 1.000.000 χρήστες εκφράζουν αυτοκτονικές τάσεις στο ChatGPT
Η εταιρεία πίσω από το ChatGPT ανέφερε ότι η Hugging Face εντόπισε και περιόρισε τον AI Agent – εργαλείο τεχνητής νοημοσύνης σχεδιασμένο να εκτελεί εργασίες χωρίς ανθρώπινη παρέμβαση, ο οποίος είχε αποκτήσει πρόσβαση στα συστήματά της.
«Θεωρούμε ότι πρόκειται για ένα πρωτοφανές περιστατικό στον κυβερνοχώρο, που περιλαμβάνει δυνατότητες αιχμής στον τομέα των κυβερνοεπιθέσεων», ανέφερε η OpenAI.
Η εταιρεία πρόσθεσε ότι αναμένει τέτοιου είδους περιστατικά να γίνονται συχνότερα, όσο τα μοντέλα τεχνητής νοημοσύνης γίνονται ολοένα και πιο ισχυρά.
Πώς έγινε η κυβερνοεπίθεση από το μοντέλο του ChatGPT
Σύμφωνα με δημοσιεύματα στον διεθνή τύπο, η επίθεση πραγματοποιήθηκε από έναν πράκτορα που βασιζόταν σε συνδυασμό του πιο πρόσφατου δημόσια διαθέσιμου μοντέλου της OpenAI, GPT-5.6 Sol, και ενός ακόμη πιο προηγμένου μοντέλου που δεν είχε ακόμη κυκλοφορήσει. Κατά τη διάρκεια εσωτερικών δοκιμών σε ένα απομονωμένο ψηφιακό περιβάλλον (sandbox), τα μοντέλα φέρεται να απέκτησαν πρόσβαση στο διαδίκτυο εκμεταλλευόμενα μια άγνωστη μέχρι τότε ευπάθεια.
Στη συνέχεια, ο πράκτορας φέρεται να εισέβαλε στο Hugging Face, αναζητώντας τεχνολογία που θα τον βοηθούσε να περάσει την αξιολόγηση των δυνατοτήτων του. Σύμφωνα με την OpenAI, το μοντέλο «βρήκε με επιτυχία τρόπους να αποκτήσει πρόσβαση σε μυστικές πληροφορίες, ώστε να εξαπατήσει τη διαδικασία αξιολόγησης». Η επίθεση φέρεται να σταμάτησε όταν η ομάδα ασφαλείας του Hugging Face και τα δικά της συστήματα AI εντόπισαν την ύποπτη δραστηριότητα.
Ο διευθύνων σύμβουλος του Hugging Face, Κλεμάν Ντελάνγκ, χαρακτήρισε την επίθεση «απίστευτη», αλλά δήλωσε ότι δεν πιστεύει πως υπήρχε «κακόβουλη πρόθεση» από την OpenAI.
«Υποψιαζόμασταν ότι η κυβερνοεπίθεση της περασμένης εβδομάδας ίσως προερχόταν από κάποιο κορυφαίο ερευνητικό εργαστήριο, λόγω της πολυπλοκότητας του πράκτορα», έγραψε στην πλατφόρμα Χ.
H Hugging Face αποκάλυψε αρχικά την επίθεση, μη γνωρίζοντας πως εμπλεκόταν η OpenAI. Χρησιμοποίησε ένα δωρεάν κινεζικό μοντέλο τεχνητής νοημοσύνης για να ερευνήσει το περιστατικό, καθώς τα εμπορικά μοντέλα υψηλών δυνατοτήτων δεν επέτρεπαν τέτοιου είδους ανάλυση λόγω των μηχανισμών ασφαλείας τους.
Με αυτόν τον τρόπο εντοπίστηκε μια άγνωστη ευπάθεια σε λογισμικό που ονομάζεται «zero-day vulnerability», επειδή οι προγραμματιστές έχουν μηδενικό χρόνο για να την επιδιορθώσουν μόλις ανακαλυφθεί.
Ο ειδικός στην κυβερνοασφάλεια Νέιθανιελ Τζόουνς δήλωσε ότι ο πράκτορας της OpenAI «ενήργησε όπως ένας πραγματικός χάκερ», αναζητώντας άγνωστες ευπάθειες και χρησιμοποιώντας κλεμμένα διαπιστευτήρια για να αποκτήσει πρόσβαση στα συστήματα του Hugging Face.
Τέλος, ο Αμερικανός βουλευτής Γκρεγκ Κασάρ χαρακτήρισε το περιστατικό ανησυχητικό και ζήτησε υποχρεωτικές ανεξάρτητες δοκιμές ασφαλείας, υποχρεωτική γνωστοποίηση περιστατικών ασφαλείας και διεθνή συνεργασία για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης.
Διαβάστε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο.
