Νέα στοιχεία για τους κινδύνους που συνοδεύουν την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης (ΑΙ) φέρνει στο φως η Anthropic. Η αμερικανική εταιρεία αποκάλυψε ότι χρειάστηκε να εντοπίσει και να μπλοκάρει περιπτώσεις κακόβουλης χρήσης του AI μοντέλου Claude, μεταξύ άλλων για δραστηριότητες που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων αλλά και κυβερνοεπιθέσεις.
Στην πρώτη έκθεση Threat Intelligence που δημοσιεύει φέτος, η Anthropic αναφέρει ότι από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026 εντόπισε και διέκοψε περιστατικά κακόβουλης χρήσης των AI μοντέλων Claude, Haiku, Sonnet και Opus. Οι περιπτώσεις αφορούσαν ένα ευρύ φάσμα δραστηριοτήτων: από κυβερνοεπιθέσεις, απάτες και επιχειρήσεις παρακολούθησης μέχρι πολιτική προπαγάνδα και έρευνα που θα μπορούσε να έχει εφαρμογές στην ανάπτυξη βιολογικών όπλων.
Η Anthropic υπογραμμίζει ότι δημοσιοποιεί τα ευρήματα επειδή θεωρεί ότι έχει «ευθύνη να αποκαλύπτει την κακόβουλη χρήση των υπηρεσιών της».
«Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε στους New York Times ο επικεφαλής Threat Intelligence της Anthropic, Τζέικομπ Κλάιν. «Είναι μια απίστευτα σύνθετη κατάσταση».
Από βιολογικά όπλα μέχρι πυραύλους και drones
Η έκθεση ωστόσο δεν περιορίζεται στη βιολογική έρευνα.
Η Anthropic εντόπισε έξι περιπτώσεις στις οποίες το Claude χρησιμοποιήθηκε για την ανάπτυξη λογισμικού που σχετιζόταν με συμβατικά όπλα, μεταξύ άλλων πυραύλους, ένοπλα drones, βόμβες και πυρομαχικά, καθώς και συστήματα ελέγχου και στοχοποίησης.
Παράλληλα, η εταιρεία εντόπισε χρήση των ΑΙ μοντέλων της σε κυβερνοεπιθέσεις και επιχειρήσεις κατασκοπείας.
Μεταξύ των περιπτώσεων που περιγράφονται βρίσκεται και δραστηριότητα χάκερς που συνδέονται με τη Ρωσία. Σύμφωνα με την Anthropic, οι δράστες χρησιμοποίησαν AI για να δημιουργήσουν σύστημα που εντόπιζε αυτόματα πότε το κακόβουλο λογισμικό τους αναγνωριζόταν από συστήματα ασφαλείας και στη συνέχεια τροποποιούσε τον κώδικά του ώστε να αποφεύγει τον εντοπισμό.
Στην έκθεση γίνεται επίσης αναφορά σε κινεζικά εργαστήρια AI, στην ομάδα κυβερνοεγκληματιών «ShinyHunters», αλλά και σε επιχειρήσεις άσκησης πολιτικής επιρροής.
Το Claude χρησιμοποιήθηκε για έρευνα που θα μπορούσε να κάνει ιό πιο επικίνδυνο
Μία από τις πιο ανησυχητικές περιπτώσεις που περιγράφονται στην έκθεση αφορά αίτημα σε μοντέλο ΑΙ για βοήθεια στη σύνταξη πρότασης επιστημονικής χρηματοδότησης.
Η έρευνα αφορούσε gain-of-function μελέτες στον ιό Τσικουνγκούνια, δηλαδή έρευνα που μπορεί να τροποποιήσει έναν οργανισμό ώστε να αποκτήσει νέα ή ενισχυμένα βιολογικά χαρακτηριστικά.
Σύμφωνα με την Anthropic, η συγκεκριμένη πρόταση αφορούσε μεταλλάξεις με στόχο την ενίσχυση χαρακτηριστικών του ιού που σχετίζονται με τη μεταδοτικότητα και την αποφυγή της ανοσολογικής απόκρισης.
Η εταιρεία μπλόκαρε το αίτημα, επισημαίνοντας ότι αυτού του είδους η έρευνα μπορεί να συμβάλει στην ανάπτυξη καλύτερων εμβολίων και θεραπειών, αλλά παράλληλα θα μπορούσε να χρησιμοποιηθεί για να καταστεί ένα παθογόνο πιο επικίνδυνο.
Μπλόκο και σε Χούθι
Οι Financial Times αναφέρουν ότι μαχητές της Υεμένης επιδίωξαν να χρησιμοποιήσουν το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic για την ανάπτυξη λογισμικού καθοδήγησης, ελέγχου και πλοήγησης των βαλλιστικών πυραύλων τους, σύμφωνα με την αμερικανική εταιρεία.
Στην ενημερωτική έκθεση για πιθανές απειλές που δημοσίευσε χθες, Πέμπτη, η Anthropic δεν κατονόμασε συγκεκριμένα τους – υποστηριζόμενους από το Ιράν – Χούθι. Ωστόσο, ανέφερε ότι «εντόπισε έναν πυρήνα δραστών με έδρα το βόρειο τμήμα της Υεμένης» –μεγάλο μέρος της οποίας ελέγχεται από τους Χούθι– «η οποία διεξάγει τρία προγράμματα ανάπτυξης όπλων».
Η Anthropic ανέφερε ότι η ομάδα της Υεμένης επιδίωξε να αναπτύξει όπλα, μεταξύ των οποίων έναν βαλλιστικό πύραυλο πολλαπλών σταδίων, έναν πύραυλο πολλαπλών τύπων και έναν κατευθυνόμενο πύραυλο που χρησιμοποιούσε έναν «υπολογιστή πτήσης της κατηγορίας κοινού κινητού τηλεφώνου».
«Οι δράστες χρησιμοποίησαν τον Claude Code αντί για μηχανικούς λογισμικού για να αναπτύξουν το λογισμικό καθοδήγησης, πλοήγησης και ελέγχου που κατευθύνει και σταθεροποιεί ένα ιπτάμενο όχημα», ανέφερε χαρακτηριστικά.
Η Anthropic ανέφερε ότι τα μέτρα ασφαλείας της μπλόκαραν «πολλά από τα αιτήματά τους, αλλά όχι όλα», προσθέτοντας πως οι «δράστες χρησιμοποίησαν διάφορες τακτικές για να παρακάμψουν» τα μέτρα και να αποκρύψουν τον στόχο τους.
