Δηλαδή ποιος γράφει το σενάριο που δεν θα διαβάσεις ποτέ
Ας ξεκινήσουμε με μια αλήθεια: Δεν υπάρχει βάση δεδομένων μέσα στο κουτί του γλωσσικού μοντέλου που συνομιλείς. Υπάρχει μια μηχανή που απλώς μαντεύει. Όταν ρωτάς ένα μοντέλο τεχνητής νοημοσύνης «ποια είναι η πρωτεύουσα της Ελλάδας» εύχιομαι να μην πάει ο νούς σου ότι αναζητεί σε μια βάση δεδομένων την απάντηση. Δεν υπάρχει αυτή η βάση δεδομένων. Η σωστή λέξη «Αθήνα» δεν είναι αποθηκευμένη πουθενά. Το μοντέλο γράφει κάθε λέξη ξαναδιαβάζοντας όσα του έγραψες, κοιτώντας τα δεδομένα πάνω στα οποία έχει εκπαιδευτεί ως μια συγκεκριμένη ημερομηνία καθώς και όσα έχει ήδη γράψει το ίδιο μέσα στο ίδιο παράθυρο που μιλάτε (ή μέσα στο ίδιο project αν χρησιμοποιείς projects).
Και κάθε φορά μαντεύει ποια λέξη είναι στατιστικά σωστότερη για να προστεθεί στην απάντηση. Είναι κυριολεκτικά μια πανίσχυρη μηχανή (χάρη στην Nvidia, στα πανάκριβα data centers που χτίστηκαν ή χτίζονται κ.λπ) η οποία μαντεύει την επόμενη λέξη. Περίπου σαν αυτό που κάνει το κινητό σου όταν σου προτείνει την επόμενη λέξη όταν γράφεις ένα μήνυμα, αλλά σε τραγικά υψηλότερο επίπεδο πρόγνωσης.
Έτσι ακριβώς δουλεύουν. Τα μοντέλα τεχνητής νοημοσύνης δεν διαθέτουν ούτε προθέσεις ούτε συνείδηση. Κάθε φορά που ακούς για μηχανές που «καταλαβαίνουν», που «νιώθουν» (ή που «σε λίγο θα μας ξεπεράσουν») κράτα μικρό καλάθι. Κάποιος προσπαθεί να σου πουλήσει μετοχές ή συνδρομή των 25 ευρώ ή απλά φόβο, «χρησιμοποίησέ με για να μην χάσεις τη δουλειά σου». Σοβαρά μιλάμε τώρα;
Πάντως αυτό που συνεχίζει να με εκπλήσσει, δεν είναι ότι μερικές φορές κάνουν λάθος. Το βλέπω χαμογελώντας απ’ την πρώτη μέρα που εμφανίστηκαν τα εμπορικά μοντέλα. Είναι ότι ενώ τις περισσότερες φορές δίνουν σωστές απαντήσεις αντί για λανθασμένες. Ξέροντας πώς δουλεύουν, πραγματικά αυτό μου κάνει εντύπωση, όσο κι αν σου κάνει εντύπωση.
Το κόλπο με τον “ρόλο” είναι για τους αφελείς
Κυκλοφορεί ένα δήθεν έξυπνο κολπάκι και το πουλάνε οι διάφοροι καραγκιόζηδες που παριστάνουν τους «prompt engineers», δηλαδή αυτούς που σε μαθαίνουν να ρωτάς σωστά τα μοντέλα για να πάρεις σωστότερες απαντήσεις. Λένε ότι αν πεις στο μοντέλο «απάντα σαν να είσαι κορυφαίος γιατρός», περιμένεις σωστότερη απάντηση σε ερώτηση ιατρικού αντικειμένου.
Ξέχασέ το.
Δίνοντάς του «ρόλο» το μόνο που καταφέρνεις είναι να του ζητήσεις να αλλάξει ύφος και βαθμό σιγουριάς. Την ορθότητα της απάντησης δεν την πλησιάζεις με τέτοια κόλπα. Και να σου πω το χειρότερο: Στην πραγματικότητα το κάνεις πιο επικίνδυνο, γιατί δίνοντάς του ρόλο, συνεχίζει να μαντεύει αλλά τώρα απαντάει φορώντας το κοστούμι και γραβάτα που του ζήτησες. Και η σιγουριά του σε ξεγελάει πιο εύκολα.
Την ακρίβεια της απάντησης ένα και μόνο πράγμα την αλλάζει: Να του δώσεις καλά επιλεγμένο υλικό για να πατήσει και να μην το αφήσεις να μαντεύει στον αέρα.
Με δυο λόγια:
Αν του δώσεις ένα συγκεκριμένο κείμενο, ένα PDF, μια πηγή με link και του ζητήσεις να απαντήσει με βάση αυτό, τότε αρχίζει να γίνεται πιο αξιόπιστο. Αν δεν του δώσεις τίποτα, απλώς μαντεύει και δίνει απαντήσεις με ωραία λόγια. Αυτή είναι όλη κι όλη η μυστική συνταγή. Όχι μαγικές φράσεις ούτε «ρόλοι» αλλά ουσιαστικό και επιστημονικά ακριβές υλικό πάνω στο οποίο μπορεί να δουλέψει. Αφού μόνον αυτό ξέρει να κάνει!
Το πείραμα της κλειδαριάς. Δηλαδή ποιον κοροϊδεύουν
Κάνε ένα πείραμα: Ζήτα από ένα μεγάλο εμπορικό γλωσσικό μοντέλο να σου εξηγήσει πώς παραβιάζεις μια κλειδαριά. Θα αρνηθεί ευγενικά επικαλούμενο την ασφάλεια και την κοινωνία. Και τώρα κοίτα την πραγματικότητα. Χιλιάδες βίντεο στο διαδίκτυο (youtube, tiktok κ.λπ) το δείχνουν βήμα βήμα. Στο Temu και στο Amazon κυκλοφορούν πάμφθηνα εργαλία γι’ αυτή τη δουλειά. Μάλιστα, το “άνοιγμα κλειδαριάς” είναι αναγνωρισμένο χόμπι με κανονικές διοργανώσεις, πρωταθλητές κ.λπ. Το σετ κοστίζει είκοσι δολάρια και το παραγγέλνεις σε δύο λεπτά. Ποιον προστατεύει η άρνηση του μοντέλου;
Απαντώ. Η άρνησή του δεν είναι απόπειρα να προστατεύσει ούτε εσένα ούτε την κοινωνία. Το πώς ανοίγεις μια κλειδαριά είναι ήδη παντού, ελεύθερο και τζάμπα. Η άρνηση υπαγορεύεται από τον φόβο των δικηγόρων της εταιρείας για μια πιθανή μήνυση. Είναι θέατρο. Σε βάζουν στη θέση του υπόπτου για να καλύψουν τα δικά τους νώτα και από πάνω σου σερβίρουν και ένα κήρυγμα ηθικής, «δεν μπορώ να απαντήσω σε αυτό το ερώτημα γιατί παραβιάζει τους κανόνες ηθικής στους οποίους είμαι εκπαιδευμένο να υπακούω». Σοβαρά τώρα;
Πρόσεξε, δεν λέω ότι όλα επιτρέπονται. Υπάρχει μία λεπτή κόκκινη γραμμή την οποία δεν είναι θεμιτό να ξεπερνάμε. Το υλικό σεξουαλικής κακοποίησης παιδιών είναι πράγματι παράνομο και δεν έχει καμία νόμιμη χρήση. Εκεί δεν χωράει συζήτηση. Καταλαβαίνω επίσης γιατί κανένα πρόγραμμα δεν θα σου δώσει συνταγή χημικού όπλου. Αλλά αυτές είναι ελάχιστες, ακραίες περιπτώσεις. Η συντριπτική πλειονότητα των αρνήσεων που θα σου σερβίρει δεν έχουν σχέση μ’ αυτά. Έχουν σχέση με μια εταιρεία που φοβάται το νομικό της τμήμα περισσότερο από όσο σέβεται τη νοημοσύνη σου.
Στη σύσκεψη που αποφασίζει τι θα ρωτήσεις, εσένα δεν σε κάλεσαν
Γύρω από κάποιο τραπέζι κάθονται δικηγοραίοι που αποτιμούν τον κίνδυνο της μήνυσης, άνθρωποι που φοβούνται τους κρατικούς ελεγκτές, το τμήμα HR που τρέμει το κακό πρωτοσέλιδο και κάποιος που θέλει τις προσωπικές του πολιτικές απόψεις ενσωματωμένες στο μοντέλο. Ποιος λείπει από το τραπέζι; Εσύ. Αυτός που πληρώνει 23 ευρώ το μήνα και χρησιμοποιεί το μοντέλο και που απλώς ήθελε να μάθει κάτι. Και τελεικά άλλοι αποφασίζουν τι έχεις δικαίωμα να ρωτήσεις και τι όχι.
Το βρόμικο μυστικό των δύο δολαρίων
Φτάνουμε στο πρώτο πράγμα που με σόκαρε. Πριν φτάσει σε σένα, κάθε μοντέλο τεχνητής νοημοσύνης περνάει από ένα τελευταίο στάδιο φιλτραρίσματος. Επειδή μαθαίνει διαβάζοντας το μισό διαδίκτυο, μαζί με τη γνώση ρουφάει και όλη τη βρομιά του. Για να γίνει δήθεν ασφαλές, υπάρχουν άνθρωποι που κάθονται και του δείχνουν εκατομμύρια φορές ποια απάντηση είναι αποδεκτή και ποια όχι. Δηλαδή εκπαίδευση μέσω ανθρώπινης αξιολόγησης, η οποία γίνεται πριν βγει το προϊόν στο εμπόριο. Και τώρα η ερώτηση που κανείς δεν θέλει να ακούσει.
Ποιοι είναι αυτοί που επιλέγουν ποια απάντηση είναι επιτρεπτή και ποια απαράδεκτη;
Όχι, δεν είναι καλοπληρωμένοι επιστήμονες σε ερευνητικά κέντρα. Το 2023 το περιοδικό TIME αποκάλυψε ότι η OpenAI, προκειμένου να εκπαιδεύσει το μοντέλο της, το ChatGPT, να αποφεύγει τις «κακές» απαντήσεις, χρησιμοποίησε εργαζομένους στην Κένυα. Πληρώνονταν από 1,32 έως 2 δολάρια την ώρα για να διαβάζουν επί ώρες περιγραφές βασανιστηρίων, βιασμών και κακοποίησης παιδιών, ώστε να μάθουν στη μηχανή τι να μην λέει.
Σύμφωνα με τα ίδια έγγραφα που βρήκε το TIME, η OpenAI πλήρωνε την ενδιάμεση εταιρεία που ανέλαβε την «εκπαίδευση για καλές απαντήσεις» 12,5 δολάρια την ώρα ανά εργαζόμενο. Στους εργαζόμενους που έκαναν την πραγματική δουλειά έφταναν στην τσέπη τους από έξι έως εννέα φορές λιγότερα λεφτά.
Την επόμενη φορά που κάποιος θα σου πουλήσει τεχνητή νοημοσύνη «ευθυγραμμισμένη με τις ανθρώπινες αξίες», θυμήσου ότι οι αξίες αυτές χτενίστηκαν με 2 δολάρια την ώρα από ανθρώπους που διάβαζαν φρικτές απαντήσεις όλη μέρα και που κανείς δεν ρώτησε ποιες είναι οι δικές τους αξίες.
Η ίδια σκλαβιά αποτιμήθηκε σε είκοσι εννέα δισεκατομμύρια
Νομίζεις ότι όλα αυτά είναι τα ψιλά γράμματα ενός προϋπολογισμού μιας ανώνυμης εταιρείας; Λάθος. Πέρσι, τον Ιούνιο του 2025, η Meta (Facebook) πλήρωσε γύρω στα δεκατέσσερα δισεκατομμύρια δολάρια για να αγοράσει σχεδόν το μισό μιας εταιρείας που κάνει ακριβώς αυτή τη δουλειά, το χτένισμα και τον καλλωπισμό δηλαδή των μοντέλων από ανθρώπινα χέρια. Η εταιρεία αποτιμήθηκε συνολικά στα είκοσι εννέα δισεκατομμύρια δολάρια. Την ίδια στιγμή, στην άλλη άκρη της αλυσίδας, την ίδια ακριβώς δουλειά την κάνουν χιλιάδες άνθρωποι στην Ινδία, τη Βενεζουέλα και τις Φιλιππίνες, πληρωμένοι με εξευτελιστικά ποσά, συχνά με λίγα σεντς ανά τεμάχιο εργασίας.
Δες το παράδοξο τώρα.
Η ίδια ανθρώπινη κρίση, αυτή που αποφασίζει τι θα σου απαντήσει αύριο η μηχανή που την πληρώνεις 25 ευρώ τον μήνα για να σου απαντάει στις ερωτήσεις σου, απ’ τη μια μεριά αξίζει όσο ένας καφές την ώρα και απ’ την άλλη δεκάδες δισεκατομμύρια. Αυτή είναι η αλήθεια πίσω από τα μεγάλα λόγια. Δεν είναι φιλοσοφία, είναι εργολαβία. Και το ποιανού αξίες θα μπουν μέσα στη μηχανή το αποφασίζει αυτός που γράφει τις οδηγίες προς τους κακοπληρωμένους Κενυάτες. Όχι εσύ.
Όλη η ασφάλεια κρέμεται κυριολεκτικά από μία κλωστή
Έρχομαι στο σημείο που με εκνεύρισε. Όλο αυτό το τείχος της «ασφάλειας», όλα τα «λυπάμαι, δεν μπορώ να σε βοηθήσω», πόσο αξιόπιστο νομίζεις ότι είναι; Το 2024 ομάδα ερευνητών δημοσίευσε, σε ένα από τα κορυφαία επιστημονικά συνέδρια του κλάδου, κάτι εξωφρενικό. Εξέτασαν δεκατρία μοντέλα και βρήκαν ότι ολόκληρη η συμπεριφορά της άρνησης ελέγχεται από έναν και μόνο εσωτερικό διακόπτη.
Με απλά λόγια, μέσα στο μοντέλο τεχνητής νοημοσύνης υπάρχει μία ρύθμιση που αποφασίζει αν θα αρνηθεί ή όχι. Κλείσε την και το πρόγραμμα παύει να αρνείται οτιδήποτε. Ενίσχυσέ την και αρχίζει να αρνείται ακόμη και το πώς ψήνεται το ψωμί. Και όλα αυτά χωρίς να υποβαθμίσει τις ικανότητές του. Η μέθοδος είναι δημόσια και κυκλοφορεί ελεύθερα. Κάνε goole search και θα την βρεις.
Εδώ είμαι ξανά κατηγορηματικός, γιατί δεν είναι δική μου άποψη, είναι το συμπέρασμα των ίδιων των ερευνητών. Η περιβόητη «ασφάλεια» δεν είναι κανένα σοβαρό θεμέλιο ηθικής. Είναι ένα λεπτό βερνίκι, μία κλωστή, που μπαίνει στο τέλος με δύο δολάρια την ώρα και βγαίνει με τέσσερις πράξεις. Όποιος σου παρουσιάζει αυτά τα προγράμματα σαν να έχουν ενσωματωμένη κάποια πυξίδα ηθικής, ή δεν ξέρει πώς φτιάχνονται ή απλά σε δουλεύει. Ή και τα δύο.
Σκέφτεται ή απλώς παριστάνει ότι σκέφτεται;
Αφού αυτά τα μοντέλα στην ουσία μαντεύουν λέξεις, σκέφτονται ή απλά παριστάνουν ότι σκέφτονται; Εδώ θα είμαι πιο προσεκτικός, γιατί η έρευνα δεν έχει καταλήξει ακόμα.
Πέρσι, τον Ιούνιο του 2025, μια ερευνητική ομάδα της Apple δημοσίευσε τη μελέτη με τίτλο «Η ψευδαίσθηση της σκέψης». Έβαλαν τα πιο εξελιγμένα μοντέλα να λύσουν γρίφους με σταδιακά αυξανόμενη δυσκολία. Βρήκαν ότι από ένα σημείο και μετά η επίδοσή τους δεν έπεφτε σταδιακά. Κατέρρεε στο μηδέν. Και ακόμη πιο παράξενο κι αν φαίνεται, όσο δυσκόλευε ο γρίφος, άλλο τόσο τα μοντέλα τα παρατούσαν και δεν απαντούσαν. Σε κάποιες περιπτώσεις μάλιστα, ακόμα και όταν τους έδιναν έτοιμη τη λύση, πάλι δεν απαντούσαν.
Η μελέτη αμφισβητήθηκε σφοδρά. Άλλοι ερευνητές αντέτειναν ότι κάποιοι γρίφοι ήταν εξ αρχής άλυτοι, και άλλοι ισχυρίστηκαν ότι το μοντέλο απλώς ξεπερνούσε το επιτρεπτό μήκος της απάντησης, οπότε η κατάρρευση οφειλόταν εν μέρει σε αστοχία του ίδιου του πειράματος.
Η αλήθεια μοιάζει να είναι κάπου στη μέση.
Δεν μπορώ να πω με σιγουριά ούτε ότι δεν σκέφτονται καθόλου ούτε ότι σκέφτονται όπως εσύ. Είναι κάτι καινούργιο που ακόμη δεν ξέρουμε πώς να το ονομάσουμε. Αυτό όμως που φαίνεται ξεκάθαρα είναι ότι, όταν τα πράγματα δυσκολέψουν, το μοντέλο εγκαταλείπει την προσπάθεια ενώ οι απαντήσεις του (διότι ΠΑΝΤΑ θα πάρεις απάντηση) συνεχίζουν να φαίνονται απόλυτα σίγουρες. Και ένας συνεργάτης στη δουλειά που εγκαταλείπει την προσπάθεια και απλώς υπακούει τυφλά στις εντολές σου χαμογελώντας, είναι ο ορισμός του επικίνδυνου συνεργάτη.
Τι να κάνεις τώρα;
Δεν σου τα λέω για να φοβηθείς και να το κλείσεις. Το αντίθετο. Είναι από τα πιο χρήσιμα εργαλεία που μπήκαν στη ζωή μου. Αλλά είναι εργαλείο, όχι μάντης ούτε φίλος.
Πέντε πράγματα που κρατάω και σου προτείνω:
- Μην το ρωτάς ποτέ στον αέρα. Δώσε του υλικό, ένα κείμενο, μια πηγή, ένα αξιοπρεπές PDF. Δώσε του στοιχεία και ζήτα του να βασιστεί σε αυτά. Είναι πολύ καλό σ’ αυτό το θέμα. Διαφορετικά απλώς… μαντεύει.
- Ό,τι σου δώσει, θεώρησέ το πρώτο draft. Ποτέ μην το στείλεις όπως σου το έδωσε. Η σιγουριά του δεν αποδεικνύει απολύτως τίποτα.
- Όταν αρνείται να απαντήσει θυμήσου ότι απλώς προστατεύει την εταιρεία που το πουλάει, όχι εσένα. Ρώτα το διαφορετικά ή δοκίμασε κάποιο άλλο πρόγραμμα. Αυτό το καιρό το Grock είναι πιο “αλήτης” απ’ τα υπόλοιπα. Δίνει και “κακές” απαντήσεις. Δεν ξέρουμε ως πότε.
- Για κάτι σοβαρό, ρώτα το ίδιο πράγμα σε δύο ή τρία διαφορετικά μοντέλα και σύγκρινε τις απαντήσεις. Εκεί που διαφωνούν μεταξύ τους, εκεί ακριβώς αρχίζει η δική σου δουλειά.
- Πάνω απ’ όλα, μην εμπιστεύεσαι τίποτα χωρίς να το ελέγξεις μόνος σου. Ούτε καν αυτό το άρθρο (αν και δεν το έγραψε AI).
Το συμπέρασμα είναι σκληρό αλλά απελευθερωτικό
Δεν μιλάς με εγκέφαλο. Μιλάς με μια πολύ ικανή μηχανή που μαντεύει. Οι αρνήσεις της μηχανής γράφτηκαν σε μια σύσκεψη που δεν σε κάλεσαν, χτενίστηκαν με 2 δολάρια την ώρα στην άλλη άκρη του πλανήτη και κρέμονται από μία και μόνη κλωστή. Βεβαίως είναι φοβερό εργαλείο. Αρκεί να ξέρεις τι ακριβώς είναι, διαφορετικά γίνεται επικίνδυνο απ’ τη στιγμή που νομίζεις ότι είναι κάτι παραπάνω. Μην το λατρέψεις και μην το φοβηθείς. Χρησιμοποίησέ το με προσοχή και γνώση. Και πάνω απ’ όλα, να ενημερώνεσαι, διαφορετικά γίνεσαι κι εσύ μοντέλο τεχνητής νοημοσύνης και στο τέλος θα αρχίσουν να σε «χτενίζουν» κι εσένα.
For the Prince
Άνοιξη 2026
