Όσοι ασχολούνται με την τεχνολογία θα διάβασαν την πρόσφατη τοποθέτηση του Ντάριο Αμοντέι, CEO της Anthropic, και θα προβληματίστηκαν για το timing αλλά και για τα ξαναζεσταμένα επιχειρήματα περί κυβερνοασφάλειας και ανεξέλεγκτης ανάπτυξης της Τεχνητής Νοημοσύνης.
Αυτή η ιδιόμορφη καταστροφολογία είχε ενταθεί λίγο πριν από το άρθρο του Αμοντέι, όταν ο 27χρονος ερευνητής στην Anthropic Τζέικομπ Κόξον υπέβαλε την παραίτησή του, εκτοξεύοντας σοβαρές καταγγελίες για τη βιομηχανία της Τεχνητής Νοημοσύνης.
Υποστήριξε ότι οι κολοσσοί του AI τοποθετούν την ανάπτυξη και τον ανταγωνισμό πάνω από την ασφάλεια, ότι αγνοούνται προειδοποιήσεις των τεχνικών για απρόβλεπτες συμπεριφορές των συστημάτων και, κυρίως, ότι δεν υπάρχουν ακόμη οι απαραίτητες δικλείδες ασφαλείας πριν τα ολοένα ισχυρότερα μοντέλα δοθούν για ευρύτερη χρήση.
DARIO: ΝΑ ΠΑΤΗΣΟΥΜΕ ΦΡΕΝΟ!
Μήπως ήρθε η ώρα να πατήσουμε λίγο φρένο; Αυτό προτείνει ο Αμοντέι εξηγώντας ότι δεν ζητά να σταματήσει η εξέλιξη παρά να επιβραδυνθεί ο ρυθμός της ώστε τα μέτρα ασφαλείας να προλαβαίνουν την ίδια την τεχνολογία.
Οι ανησυχίες του επικεντρώνονται στην πιθανότητα συστημάτων που θα μπορούν να βελτιώνουν όλο και περισσότερο τις ικανότητές τους, δυσκολεύοντας την ανθρώπινη επίβλεψη, αλλά και στην κακόβουλη χρήση μοντέλων σε τομείς όπως η κυβερνοασφάλεια και η βιοασφάλεια.
Στο αποκορύφωμα των ανησυχιών του εστιάζει σε εφιαλτικά κοντινά σενάρια. Γράφει ότι μέσα στους επόμενους 6 με 12 μήνες ένα σμήνος αυτόνομων AI agents θα μπορούσε – κατά την εκτίμησή του – να αποκτήσει τη δυνατότητα να καταλάβει μεγάλο μέρος του διαδικτύου προκαλώντας ζημιές εκατοντάδων δισ.
Φυσικά πρόκειται για πρόβλεψη και όχι για διαπίστωση ότι μια τέτοια δυνατότητα υπάρχει ήδη.
ΠΑΓΚΟΣΜΙΑ ΚΟΙΝΟΤΗΤΑ: ΠΑΙΧΝΙΔΙΑ ΕΤΑΙΡΙΚΗΣ ΚΥΡΙΑΡΧΙΑΣ
Η αντίδραση της διεθνούς κοινότητας προσπαθεί να αποδομήσει την καταστροφολογία του Ντάριο, βλέποντας πίσω από την όψιμη ανησυχία του μια στρατηγική για τον έλεγχο του AI από ένα κλειστό κλαμπ κολοσσών. Δηλαδή αντί για ανησυχίες περί ψηφιακής συντέλειας, βλέπουν παιχνίδια οικονομικής κυριαρχίας.
Λένε ότι το κλίμα πανικού αξιοποιείται σαν όχημα για να ψηφιστούν ρυθμιστικοί κανόνες που μόνο οι τεχνολογικοί γίγαντες θα μπορούν να χρηματοδοτήσουν.
Πολλοί θεωρούν ότι ο στόχος δεν είναι άλλος από την ανύψωση τειχών απέναντι στον ανταγωνισμό. Ουσιαστικά λένε ότι η καλλιέργεια κλίματος φόβου είναι ο τέλειος αντιπερισπασμός για την δημιουργία ενός χρυσοφόρου ολιγοπωλίου.
Και σίγουρα δεν είναι τυχαίο που εταιρείες οι οποίες σφάζονται καθημερινά στον επιχειρηματικό στίβο, συντονίστηκαν ξαφνικά κάτω από τις ανησυχίες του Ντάριο.
ΜΠΟΡΟΥΜΕ ΝΑ ΤΡΑΒΗΞΟΥΜΕ ΤΗΝ ΠΡΙΖΑ; (Killswitch)
Κυκλοφορεί ευρέως η ψευδαίσθηση ότι, αν η τεχνητή νοημοσύνη αυτονομηθεί, μπορούμε απλώς να τραβήξουμε το καλώδιο από την πρίζα. Επιστημονικά λέγεται Kill Switch, αλλά δυστυχώς αυτός ο διακόπτης δεν λειτουργεί σε τόσο εξελιγμένα συστήματα. Μια σύγχρονη ψηφιακή οντότητα (agent) που περιηγείται το διαδίκτυο εκτελώντας τις εργασίες που της αναθέτουν εκατοντάδες εκατομμύρια χρηστών Ai, δεν κατοικεί σε έναν συγκεκριμένο υπολογιστή. Βρίσκεται χαμένη κάπου στα cloud των χιλιάδων data centers ανά την υφήλιο. Δεν υπάρχει κεντρικός διακόπτης που να κλείνει ταυτόχρονα ολόκληρο το παγκόσμιο δίκτυο για να προλάβει μια ζημιά.
Αλλά ακόμα κι αν υπήρχε ένας τέτοιος διακόπτης το εμπόδιο θα ήμασταν εμείς οι ίδιοι, καθώς έχουμε ήδη παραδώσει τον έλεγχο ζωτικών υποδομών σε αλγορίθμους που τρέχουν σε αυτά τα cloud. Το πάτημα ενός τέτοιου (υποθετικού) διακόπτη, θα είχε πολλαπλά χειρότερες επιπτώσεις απ’ το πρόβλημα που προσπάθησε να λύσει.
Πάντως, η αλήθεια είναι πως για τα σημερινά – όχι και τόσο επικίνδυνα συστήματα – οι εταιρείες ήδη διαθέτουν μηχανισμούς τερματισμού. Και δεν θα μπορούσε να είναι διαφορετικά αφού οι εταιρείες τεχνολογίας προσπαθούν να διαφυλάξουν την αξιοπιστία τους με νύχια και με δόντια.
Ωστόσο, για πραγματικά αυτόνομα και υπερευφυή συστήματα, οι ειδικοί συμφωνούν ότι ένας απλός διακόπτης είναι περιττός. Το στοίχημα της ασφάλειας πρέπει να έχει κερδηθεί πριν το σύστημα γίνει ανεξέλεγκτο. Αν φτάσουμε στο σημείο να ψάχνουμε την πρίζα για να σωθούμε, το παιχνίδι θα έχει ήδη χαθεί.
ΤΑ ΚΑΚΑ ΑΝΟΙΧΤΑ (OPEN-SOURCE) ΜΟΝΤΕΛΑ
Επιστρέφοντας στον Ντάριο Αμοντέι, η ιδέα του να επιβραδύνουν οι μεγάλες εταιρείες ακούγεται λογική αλλά σκοντάφτει σε ένα εμπόδιο. Ακόμα και αν όλοι οι τεχνολογικοί γίγαντες υπογράψουν αύριο το πρωί ένα μανιφέστο κανόνων και αυτοπεριορισμών, εκεί έξω υπάρχει μια πραγματικότητα που εξελίσσεται παράλληλα αδιαφορώντας για τις ανησυχίες του CEO της Anthropic.
Αυτή τη στιγμή στο διαδίκτυο κυκλοφορούν εντελώς δωρεάν εκδόσεις ικανότατων μοντέλων. Λέγονται αφιλτράριστα (uncensored) ανοιχτού κώδικα (open-source) και οποιοσδήποτε διαθέτει έναν gaming υπολογιστή, μπορεί να τα κατεβάσει και να τα δουλεύει τοπικά στο σπίτι του χωρίς να φιλτράρονται οι απαντήσεις του.
- «Τοπικά» σημαίνει ότι ο χρήστης δουλεύει πάνω σε ιδιόκτητο και, αν το επιθυμεί, αφιλτράριστο μοντέλο τεχνητής νοημοσύνης.
- «Αφιλτράριστο» σημαίνει ότι στο μοντέλο δεν έχουν τοποθετηθεί φρένα στις απαντήσεις του. Δηλαδή, αν το ρωτήσεις «πώς φτιάχνουμε μια βόμβα με πρώτες ύλες από το supermarket» το φιλτραρισμένο μοντέλο θα απαντήσει «είμαι γλωσσικό μοντέλο και δεν μπορώ να σου δώσω τέτοιες πληροφορίες» ενώ το αφιλτράριστο θα σου δώσει τρεις δοκιμασμένες συνταγές.
Με λίγα λόγια, η ύπαρξη μοντέλων ανοιχτού κώδικα αλλάζει ριζικά το τοπίο και ακυρώνει την ψευδαίσθηση του ελέγχου. Κάποιος να ενημερώσει τον Ντάριο για τα μοντέλα ανοιχτού κώδικα.
- Το ξέρατε ότι ΔΕΝ είναι παράνομο να τρέχεις αφιλτράριστα γλωσσικά μοντέλα στον υπολογιστή σου;
- Το ξέρατε ότι τα open-source μοντέλα είναι μόλις ένα βήμα πίσω από τα μεγάλα αμερικανικά εμπορικά μοντέλα;
- Το ξέρατε ότι υπάρχουν τεστ (benchmarks) όπου open-source μοντέλα βρέθηκαν να προηγούνται των εμπορικών;
ΚΛΕΙΝΟΝΤΑΣ
Η τεχνολογία έχει ήδη δραπετεύσει από τα εργαστήρια και ήδη διαχέεται στην κοινωνία με ασύλληπτη ταχύτητα. Και αυτό πιστεύω ότι είναι και το φάρμακο. Κάτι που το έχουν όλοι, δεν μπορεί να αποτελέσει όπλο στα χέρια λίγων. Αν σε ένα δωμάτιο οπλοφορούν όλοι, δύσκολα ρισκάρει κανείς να τραβήξει το όπλο του πρώτος.
Φυσικά δεν αποκλείεται κανένα υποθετικό σενάριο καταστροφής αφού το μέλλον δεν το έχει δει κανείς ακόμα. Όμως υπάρχουν και οι ψύχραιμοι που πιστεύουν ότι όπως επιβιώσαμε από τη βιομηχανική επανάσταση, τον σιδηρόδρομο, τον ηλεκτρισμό και το διαδίκτυο, έτσι θα προσαρμοστούμε και τώρα. Λες και υπάρχει στην ανθρώπινη ιστορία έστω και ένα τεχνολογικό άλμα που τελικά να μην βελτίωσε το βιοτικό μας επίπεδο.
Τέλος, καλό είναι να μάθουμε να ξεχωρίζουμε τις σκακιστικές κινήσεις των τεχνολογικών κολοσσών από τις εύλογες ανησυχίες για τις επιπτώσεις της τεχνολογίας στην ανθρωπότητα.
For the Prince
Σεπτέμβριος 2026
