Νέα έκκληση για πιο προσεκτική ανάπτυξη της τεχνητής νοημοσύνης απηύθυνε ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, παρουσιάζοντας ένα σχέδιο τριών σημείων με στόχο να συμβαδίζουν οι δυνατότητες των μοντέλων με τα μέτρα ασφαλείας.
Στο δοκίμιό του με τίτλο «We Must Pace the Frontier», ο Αμοντέι διευκρινίζει ότι δεν εισηγείται την παύση της έρευνας ή της εκπαίδευσης νέων μοντέλων. Υποστηρίζει, όμως, ότι ο ρυθμός βελτίωσης των συστημάτων πρέπει να επιβραδυνθεί, ώστε να υπάρχει επαρκής χρόνος για ελέγχους, αξιολόγηση κινδύνων και ανάπτυξη ασφαλιστικών δικλίδων.
Οι τρεις προτάσεις
Πρώτο βήμα είναι η τοποθέτηση ανεξάρτητων αξιολογητών μέσα στις εταιρείες που αναπτύσσουν τα πλέον προηγμένα μοντέλα. Σύμφωνα με την πρόταση, οι αξιολογητές θα έχουν συνεχή πρόσβαση σε εργαλεία, διαδικασίες και πληροφορίες αντίστοιχη με εκείνη των εσωτερικών ομάδων αξιολόγησης κινδύνου.
Ο ρόλος τους θα είναι να ελέγχουν την τήρηση των δεσμεύσεων ασφαλείας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων και των διαδικασιών εκπαίδευσής τους. Η Anthropic ανακοίνωσε ότι θα προχωρήσει μονομερώς στην εφαρμογή του συγκεκριμένου μέτρου.
Δεύτερο βήμα είναι ο συντονισμός μεταξύ των εταιρειών τεχνητής νοημοσύνης που δραστηριοποιούνται σε δημοκρατικές χώρες, με κοινά πρότυπα ασφάλειας και κανόνες για την ανάπτυξη των μοντέλων. Ο Αμοντέι αναγνωρίζει ότι μια τέτοια συνεργασία θα απαιτούσε και την υποστήριξη των κυβερνήσεων, μεταξύ άλλων λόγω των κανόνων ανταγωνισμού.
Τρίτο βήμα είναι η διεθνής συνεργασία, ακόμη και με χώρες που έχουν διαφορετικά πολιτικά συστήματα, με βασική προϋπόθεση την αξιόπιστη επαλήθευση της συμμόρφωσης με τυχόν συμφωνίες.
Η ανησυχία για την ταχύτητα της προόδου
Ο επικεφαλής της Anthropic υποστηρίζει ότι η τεχνητή νοημοσύνη εξελίσσεται ταχύτερα, καθώς χρησιμοποιείται ολοένα και περισσότερο για τη δημιουργία της επόμενης γενιάς συστημάτων. Η δυναμική αυτή περιγράφεται ως αναδρομική αυτοβελτίωση και, κατά τον ίδιο, μπορεί να υπερβεί την ανθρώπινη δυνατότητα κατανόησης και ελέγχου των μοντέλων, εάν δεν συνοδευτεί από αυστηρές δικλίδες ασφαλείας.
Ο Αμοντέι αναγνωρίζει τα πιθανά οφέλη της τεχνητής νοημοσύνης για την υγεία, την επιστήμη και την οικονομία, επισημαίνει όμως ότι οι κίνδυνοι από κακή χρήση, κυβερνοεπιθέσεις, βιολογικές απειλές ή απώλεια ελέγχου απαιτούν μεγαλύτερη διαφάνεια και πιο συστηματική εποπτεία.
