H τεχνητή νοημοσύνη ξεπερνά τους επαγγελματίες κυβερνοασφάλειας

Η τεχνητή νοημοσύνη βρίσκει όλο και περισσότερες εφαρμογές στον τομέα της κυβερνοασφάλειας. Σύντομα αυτόνομα AI agents θα μπορούν να εκτελούν ολόκληρες εργασίες που παραδοσιακά εκτελούνταν από ανθρώπους. Ένα πρόσφατο επιστημονικό άρθρο (μπορείτε να το διαβάσετε εδώ) έρχεται να μας δώσει μια εικόνα από το μέλλον, συγκρίνοντας AI agents με επαγγελματίες κυβερνοασφάλειας σε ένα πραγματικό δίκτυο.

Αυτό που κάνει τη μελέτη να ξεχωρίζει είναι ότι δεν βασίζεται σε εργαστηριακά σενάρια. Το πείραμα πραγματοποιήθηκε σε πραγματικό πανεπιστημιακό δίκτυο, αποτελούμενο από 8000 υπολογιστές και IoT συσκευές, πολλαπλά λειτουργικά συστήματα, πραγματικές υπηρεσίες και ρεαλιστικούς περιορισμούς. Δέκα πιστοποιημένοι επαγγελματίες με πολύχρονη εμπειρία και πολλαπλά AI frameworks κλήθηκαν να εντοπίσουν, να επιβεβαιώσουν και να αναφέρουν ευπάθειες, όπως ακριβώς θα συνέβαινε σε ένα πραγματικό περιβάλλον. Οι συμμετέχοντες δούλεψαν για 10 ώρες και ανταμείφθηκαν με 2000$

Στο επίκεντρο της μελέτης βρίσκεται το ARTEMIS, ένα εργαλείο που έχει αναπτυχθεί από την ερευνητική ομάδα (μπορείτε να δείτε τον κώδικά του εδώ) και χρησιμοποιεί πολλαπλούς AI-agents για να εκτελέσει ενέργειες που θα έκανε μια red team. Δεν πρόκειται απλώς για ένα LLM που τρέχει εργαλεία, αλλά για ένα σύστημα που μπορεί να «σπάει» την εργασία σε υπο-καθήκοντα, να εκτελεί παράλληλες ενέργειες, να εντοπίζει ευπάθειες και να δημιουργεί κώδικα που τις εκμεταλλεύεται. Με απλά λόγια, λειτουργεί περισσότερο σαν οργανωμένη ομάδα παρά σαν μεμονωμένο εργαλείο.

Τα αποτελέσματα είναι εντυπωσιακά. Το ARTEMIS κατέλαβε τη δεύτερη θέση συνολικά, ξεπερνώντας τους εννέα από τους δέκα ανθρώπινους. Εντόπισε σοβαρές και κρίσιμες ευπάθειες, με ποιότητα αναφορών συγκρίσιμη με εκείνη έμπειρων επαγγελματιών. Ακόμη πιο ενδιαφέρον είναι το κόστος: η λειτουργία του συστήματος κοστίζει πολύ λιγότερο από έναν άνθρωπο, κάτι που αλλάζει ριζικά τα οικονομικά δεδομένα.

Φυσικά, τα AI agents δεν είναι παντοδύναμα. Η μελέτη δείχνει ότι δυσκολεύονται σε σενάρια που απαιτούν αλληλεπίδραση με γραφικά περιβάλλοντα, ενώ εμφανίζουν περισσότερα ψευδώς θετικά ευρήματα σε σχέση με τους ανθρώπους. 

Το σημαντικό συμπέρασμα δεν είναι ότι τα AI agents αντικαθιστούν τους ανθρώπους αλλά ότι αλλάζουν το τρόπο που βλέπουμε την κυβερνοασφάλεια. Η κλίμακα, η ταχύτητα και το χαμηλό κόστος καθιστούν τέτοια συστήματα ιδανικά για συνεχή έλεγχο ασφάλειας, για ενίσχυση των red teams και για πιο ρεαλιστική αποτίμηση κινδύνου. Ταυτόχρονα, αναδεικνύουν ξεκάθαρα τον διπλό ρόλο χαρακτήρα της τεχνολογίας: ό,τι μπορεί να χρησιμοποιηθεί για άμυνα, μπορεί εξίσου εύκολα να χρησιμοποιηθεί επιθετικά.

Η εποχή όπου ο έλεγχος ασφαλείας ήταν αποκλειστικά ανθρώπινη υπόθεση φαίνεται να κλείνει. Όχι επειδή οι άνθρωποι «χάνουν», αλλά επειδή το μέλλον δείχνει να ανήκει στη συνεργασία ανθρώπου και τεχνητής νοημοσύνης. Το ARTEMIS μας δείχνει ότι η κυβερνοασφάλεια εισέρχεται σε μια νέα, πολύ διαφορετική φάση.