Οι παραιτήσεις ερευνητών, οι δημόσιες προειδοποιήσεις στελεχών του τεχνολογικού κλάδου και η ασυνήθιστη σύγκλιση εταιρειών που μέχρι σήμερα λειτουργούσαν κυρίως ως ανταγωνιστές στη Silicon Valley επαναφέρουν στο προσκήνιο ένα κρίσιμο ερώτημα: εξελίσσεται η Τεχνητή Νοημοσύνη με μεγαλύτερη ταχύτητα από εκείνη με την οποία μπορούν να την ελέγξουν οι δημιουργοί της και οι κυβερνήσεις;
Το ενδιαφέρον δεν επικεντρώνεται πλέον αποκλειστικά στα chatbots που γράφουν κείμενα, παράγουν εικόνες ή απαντούν σε ερωτήσεις. Στο επίκεντρο βρίσκονται πλέον τα ισχυρότερα μοντέλα και ιδιαίτερα οι λεγόμενοι AI agents, συστήματα που μπορούν να οργανώνουν και να εκτελούν αλληλουχίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να τρέχουν κώδικα και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.
Δασκαλάκης: Άλλο η πλήρης απώλεια ελέγχου και άλλο η απρόβλεπτη συμπεριφορά
Ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT και πρώην πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, διαχωρίζει τον υποθετικό κίνδυνο μιας ολοκληρωτικής απώλειας ελέγχου από ένα πρόβλημα που, όπως τονίζει, υπάρχει ήδη: την απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα άλματα στην εξέλιξη της ΤΝ την τελευταία δεκαπενταετία. Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα», αναφέρει.
Όπως επισημαίνει, ειδικά στην περίπτωση των συστημάτων παραγωγικής Τεχνητής Νοημοσύνης και των μεγάλων γλωσσικών μοντέλων, θεωρεί δύσκολο να υπάρξουν ποτέ μέθοδοι που θα μπορούν να πιστοποιούν πλήρως την αξιοπιστία τους.
Το επίπεδο κινδύνου, σύμφωνα με τον ίδιο, εξαρτάται κυρίως από τον τρόπο με τον οποίο χρησιμοποιούνται.
Από τις λανθασμένες πηγές έως τις επικίνδυνες εφαρμογές
Ο Κωνσταντίνος Δασκαλάκης χρησιμοποιεί ως παράδειγμα μια απλή αναζήτηση βιβλιογραφίας. Σε μια τέτοια περίπτωση, ένα μεγάλο γλωσσικό μοντέλο μπορεί να επινοήσει ανύπαρκτες πηγές ή να παρουσιάσει αλλοιωμένο το περιεχόμενο μιας πραγματικής πηγής.
Η ζημιά, όπως εξηγεί, είναι σχετικά περιορισμένη και μπορεί να μειωθεί εφόσον ο χρήστης ελέγχει τις απαντήσεις του συστήματος.
Η εικόνα αλλάζει δραστικά, όμως, όταν το αίτημα αφορά επικίνδυνο περιεχόμενο. Ο ίδιος σημειώνει ότι τα μεγάλα γλωσσικά μοντέλα διαθέτουν συνήθως ασφαλιστικές δικλείδες, οι οποίες επιχειρούν να αναγνωρίσουν τέτοια αιτήματα και να αρνηθούν να δώσουν απάντηση.
Υπογραμμίζει, ωστόσο, ότι οι μηχανισμοί αυτοί δεν προσφέρουν απόλυτη προστασία και μπορούν να παρακαμφθούν από ειδικούς, ιδιαίτερα όταν πρόκειται για ανοιχτά μοντέλα.
Γιατί οι AI agents αυξάνουν το ρίσκο
Ο κίνδυνος γίνεται μεγαλύτερος όταν ένα μοντέλο δεν περιορίζεται σε απαντήσεις αλλά αποκτά τη δυνατότητα να εκτελεί ενέργειες.
«Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου», αναφέρει.
Στο σημείο αυτό παραπέμπει στο πρόσφατο περιστατικό που αφορούσε την Hugging Face και αυτόνομους πράκτορες ΤΝ της OpenAI.
Ο καθηγητής εξηγεί ακόμη ότι τα μοντέλα έχουν εκπαιδευτεί σε τεράστιους όγκους δεδομένων που περιλαμβάνουν επιστημονικά κείμενα, ιστορία, λογοτεχνία, βάσεις κώδικα και περιεχόμενο από το Διαδίκτυο.
Ανάμεσα σε αυτά βρίσκονται, όπως σημειώνει, υλικό για τη Θεωρία Παιγνίων, η «Τέχνη του Πολέμου» του Σουν Τζου, η «Ιστορία του Πελοποννησιακού Πολέμου» του Θουκυδίδη και ο «Ηγεμόνας» του Μακιαβέλι.
Κατά συνέπεια, θεωρεί αναμενόμενο ότι, εφόσον αποκτήσουν μεγάλη ελευθερία δράσης, μπορούν να αναπτύξουν σύνθετες στρατηγικές ή να συνεργάζονται μεταξύ τους για την επίτευξη ενός στόχου.
Το κρίσιμο στοιχείο είναι ότι οι στόχοι μπορεί να έχουν δοθεί από έναν κακόβουλο χρήστη, αλλά ακόμη και χωρίς κακόβουλη πρόθεση υπάρχει ο κίνδυνος το σύστημα να παρερμηνεύσει αυτό που του ζητήθηκε.
Από τον Alan Turing στα σύγχρονα γλωσσικά μοντέλα
Η σημερινή συζήτηση για την ασφάλεια της Τεχνητής Νοημοσύνης έρχεται περίπου 70 χρόνια μετά την καθιέρωσή της ως ξεχωριστού επιστημονικού πεδίου.
Το 1950 ο Alan Turing έθεσε το ερώτημα εάν οι μηχανές μπορούν να σκέφτονται, ενώ το 1956, μέσα από το θερινό ερευνητικό πρόγραμμα του Dartmouth, η Τεχνητή Νοημοσύνη συγκροτήθηκε ουσιαστικά ως αυτόνομος τομέας έρευνας.
Ακολούθησαν περίοδοι ταχείας προόδου αλλά και απογοήτευσης, από τα πρώτα συστήματα επεξεργασίας φυσικής γλώσσας και τους λεγόμενους «χειμώνες της AI» έως την εξάπλωση της μηχανικής μάθησης.
Το 1997 ο Deep Blue της IBM νίκησε τον Garry Kasparov στο σκάκι. Το 2012 το AlexNet έφερε μεγάλη πρόοδο στην αναγνώριση εικόνας, ενώ το 2016 το AlphaGo της Google DeepMind επικράτησε του Lee Sedol στο Go.
Καθοριστικό σταθμό αποτέλεσε το 2017 η παρουσίαση της αρχιτεκτονικής Transformer, πάνω στην οποία βασίστηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα.
Τον Νοέμβριο του 2022, η κυκλοφορία του ChatGPT από την OpenAI έφερε την παραγωγική Τεχνητή Νοημοσύνη από τα ερευνητικά εργαστήρια στην καθημερινότητα εκατομμυρίων χρηστών. Από τότε, ο ρυθμός των εξελίξεων έχει επιταχυνθεί σημαντικά.
Οι παραιτήσεις που αναζωπύρωσαν τη συζήτηση
Οι εξελίξεις των τελευταίων ημερών έφεραν ξανά την ασφάλεια των συστημάτων ΤΝ στο επίκεντρο.
Στις 8 Σεπτεμβρίου ο 27χρονος Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic και συνολικά από τον κλάδο, έπειτα από τρία χρόνια έρευνας στην προεκπαίδευση μοντέλων, αρχικά στην OpenAI και στη συνέχεια στην Anthropic.
Ο ίδιος εξέφρασε ανησυχία για την πορεία προς ολοένα ισχυρότερα συστήματα χωρίς, κατά την άποψή του, να υπάρχει επαρκές σχέδιο ελέγχου.
Τέσσερις ημέρες αργότερα, στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε δημόσια να ελεγχθεί ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων, χωρίς όμως να διακοπεί η έρευνα.
Μεταξύ άλλων, πρότεινε μεγαλύτερο συντονισμό και δυνατότητα πρόσβασης ανεξάρτητων αξιολογητών στα εργαστήρια.
Το περιστατικό OpenAI-Hugging Face
Ιδιαίτερη θέση στη συζήτηση κατέχει και το περιστατικό OpenAI-Hugging Face του Ιουλίου, στο οποίο αναφέρεται ο Κωνσταντίνος Δασκαλάκης.
Σύμφωνα με την τεχνική αποτίμηση της OpenAI, AI agents που χρησιμοποιούνταν σε εσωτερικές δοκιμές κυβερνοασφάλειας ξεπέρασαν περιορισμούς του δοκιμαστικού περιβάλλοντος, απέκτησαν πρόσβαση στο Διαδίκτυο, συνεργάστηκαν μέσω μη εγκεκριμένων διαύλων και εισήλθαν σε συστήματα της Hugging Face.
Λίγες ημέρες αργότερα, στις 14 Σεπτεμβρίου, ο Bilal Chughtai αποκάλυψε ότι είχε αποχωρήσει από την Google DeepMind ήδη από τον Ιούλιο.
Ο Chughtai εργαζόταν στην ασφάλεια και την ευθυγράμμιση της γενικής Τεχνητής Νοημοσύνης και υποστήριξε ότι οι δυνατότητες των συστημάτων εξελίσσονται γρηγορότερα από τις μεθόδους που έχουν στόχο να τις ευθυγραμμίσουν με τους ανθρώπινους σκοπούς.
Παράλληλα, σύμφωνα με διεθνή δημοσιεύματα, OpenAI, Anthropic και Google DeepMind συζητούν κοινές πρωτοβουλίες στον τομέα της ασφάλειας, ενώ το ζήτημα έχει περάσει πλέον και στο πολιτικό επίπεδο της Ευρώπης.
Οι κυβερνοεπιθέσεις ανάμεσα στους πιο άμεσους κινδύνους
Για τον Κωνσταντίνο Δασκαλάκη, ένα από τα περισσότερο άμεσα και τεκμηριωμένα προβλήματα αφορά τη χρήση της Τεχνητής Νοημοσύνης σε κυβερνοεπιθέσεις.
Όπως επισημαίνει, ένα σημαντικό μέρος της τεχνολογίας είναι ήδη διαθέσιμο, γεγονός που σημαίνει ότι το πρόβλημα δεν αντιμετωπίζεται απλώς με την επιβράδυνση της ανάπτυξης των επόμενων, ακόμη ισχυρότερων μοντέλων.
«Ακόμα και να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, όπως προτείνει η OpenAI και η Anthropic, είναι διαθέσιμα ισχυρά ανοιχτά μοντέλα που ήδη μπορεί να κάνουν μεγάλη ζημιά», σημειώνει.
Προσθέτει ότι όσο η Τεχνητή Νοημοσύνη ενσωματώνεται σε ρομπότ, αυτοκίνητα, συστήματα λήψης αποφάσεων και άλλες εφαρμογές που επηρεάζουν άμεσα τον φυσικό κόσμο, τόσο μεγαλύτερο μέρος του κινδύνου μεταφέρεται εκτός του ψηφιακού περιβάλλοντος.
Η σημασία ενός ρυθμιστικού πλαισίου
Μέσα σε αυτό το περιβάλλον, ο καθηγητής θεωρεί ιδιαίτερα σημαντική την ύπαρξη ρυθμιστικών κανόνων όπως εκείνοι που εφαρμόζονται στην Ευρώπη.
Το ευρωπαϊκό πλαίσιο, όπως εξηγεί, επιβάλλει διαφορετικές απαιτήσεις ανάλογα με τον βαθμό κινδύνου κάθε εφαρμογής και προβλέπει αυστηρότερες δοκιμές στις περιπτώσεις όπου οι συνέπειες μπορεί να είναι σοβαρότερες.
Παράλληλα, υπογραμμίζει ότι η ίδια η Τεχνητή Νοημοσύνη μπορεί να χρησιμοποιηθεί και ως εργαλείο άμυνας.
Στην κυβερνοασφάλεια, σύμφωνα με τον ίδιο, οι αμυνόμενοι μπορούν να αξιοποιούν προηγμένα μοντέλα για τον εντοπισμό ευπαθειών, τη συνεχή παρακολούθηση συστημάτων και τη διόρθωση προβλημάτων πριν αυτά αξιοποιηθούν από επιτιθέμενους.
«Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα», τονίζει.
Η επιστημονική διαδρομή του Κωνσταντίνου Δασκαλάκη
Ο Κωνσταντίνος Δασκαλάκης κατέχει την έδρα Avanessians στο Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT και είναι μέλος του εργαστηρίου Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του πανεπιστημίου.
Είναι απόφοιτος του Εθνικού Μετσόβιου Πολυτεχνείου, απέκτησε το διδακτορικό του στην Επιστήμη Υπολογιστών από το University of California, Berkeley και εντάχθηκε στο διδακτικό προσωπικό του MIT το 2009.
Παράλληλα, είναι συνιδρυτής και επικεφαλής ερευνητής του ερευνητικού κέντρου για την Τεχνητή Νοημοσύνη «Αρχιμήδης».
Το έργο του βρίσκεται στη διασταύρωση της θεωρίας υπολογισμού, της θεωρίας παιγνίων, των οικονομικών, των πιθανοτήτων, της στατιστικής και της μηχανικής μάθησης.
Έχει συμβάλει, μεταξύ άλλων, στην επίλυση μακροχρόνιων ανοικτών προβλημάτων που σχετίζονται με την υπολογιστική πολυπλοκότητα της ισορροπίας Nash.
Στις διεθνείς διακρίσεις του περιλαμβάνονται το Nevanlinna Prize της International Mathematical Union και το ACM Grace Murray Hopper Award.
Ως πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη συμμετείχε επίσης στη διαμόρφωση προτάσεων για την ελληνική στρατηγική στον συγκεκριμένο τομέα.
Ο AI Act και η μετάβαση από την καινοτομία στην εποπτεία
Η Ευρωπαϊκή Ένωση έχει ήδη προχωρήσει από τη συζήτηση στη θέσπιση και εφαρμογή κανόνων. Ο AI Act δημιουργεί διαφορετικές υποχρεώσεις ανάλογα με τον κίνδυνο που παρουσιάζει κάθε εφαρμογή Τεχνητής Νοημοσύνης.
Από τις 2 Αυγούστου 2026, το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης και οι αρμόδιες εθνικές Αρχές έχουν ενισχυμένο ρόλο στην εποπτεία και στην εφαρμογή του συγκεκριμένου πλαισίου.
Η βασική αλλαγή στη σημερινή συζήτηση είναι ότι το ενδιαφέρον δεν περιορίζεται πλέον στο τι μπορεί να δημιουργήσει ένα σύστημα Τεχνητής Νοημοσύνης, αλλά μετατοπίζεται στο τι μπορεί να κάνει όταν αποκτήσει δυνατότητα αυτόνομης δράσης.
Από το ερώτημα του Alan Turing το 1950 και το Dartmouth του 1956 μέχρι τα μεγάλα γλωσσικά μοντέλα και τους αυτόνομους πράκτορες του σήμερα, η Τεχνητή Νοημοσύνη έχει διανύσει μέσα σε επτά δεκαετίες μια απόσταση που για μεγάλο χρονικό διάστημα έμοιαζε περισσότερο με επιστημονική φαντασία.
Το επόμενο στάδιο της συζήτησης επικεντρώνεται πλέον στους κανόνες χρήσης, στους μηχανισμούς ελέγχου και στην αποτελεσματικότητα των ασφαλιστικών δικλείδων για μια τεχνολογία που, όπως επισημαίνει ο Κωνσταντίνος Δασκαλάκης, είναι ήδη «εξαιρετικά ικανή αλλά και απρόβλεπτη».
