Η φύση του μοντέλου της τεχνητής νοημοσύνης (Βήμα 1ο)

Πριν ξεκινήσετε σας παραπέμπουμε στο https://makiavelis.gr/10-pragmata-pou-xerete-kai-10-pou-den-xerete-gia-to-ai/

Ο συνηθέστερος λόγος που ένας επιστήμονας δυσκολεύεται στη χρήση ενός γλωσσικού μοντέλου (LLM – Large Language Model) δεν είναι τεχνικός. Συνήθως οφείλεται σε λανθασμένη ή ελλιπή αντίληψη για τις δυνατότητες και τους περιορισμούς του μοντέλου. Το αποτέλεσμα είναι να συμπεράνει βιαστικά ότι «το εργαλείο δεν με αφορά» ή, ακόμα χειρότερα, ότι «το μοντέλο είναι άχρηστο και αναξιόπιστο». Αυτή η αντίληψη διαμορφώνεται από τα πρώτα λεπτά χρήσης και, αν δεν διορθωθεί σύντομα, αποκλείει από τη δουλειά του ένα εργαλείο που σε ορισμένες εργασίες υπερτερεί έναντι άλλων που χρησιμοποιεί καθημερινά εδώ και χρόνια, όπως το Excel.

Ο τρόπος που ερχόμαστε σε επαφή με το μοντέλο καθορίζει όλες τις επόμενες αποφάσεις. Καθορίζει τι θα του αναθέσουμε και με ποια συνημμένα, πώς θα διατυπώσουμε τα ερωτήματά μας (prompting) και πώς θα κρίνουμε αν οι απαντήσεις που μας δίνει είναι αξιόπιστες.
Αυτό το πρώτο Βήμα δεν είναι εισαγωγή. Είναι η βάση πάνω στην οποία τα επόμενα βήματα αποκτούν νόημα. Αν παραλειφθεί, θα χρειαστεί να επιστρέψουμε σε αυτό αργότερα, συνήθως μετά από σφάλμα που έπρεπε να είχε εντοπιστεί νωρίτερα.

Τι είναι ένα γλωσσικό μοντέλο

Ένα γλωσσικό μοντέλο, όπως το Claude, το ChatGPT ή το Gemini, είναι σύστημα πρόβλεψης κειμένου. Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύτηκαν σε τεράστιες ποσότητες δεδομένων, συχνά και με αθέμιτο τρόπο, αποκτώντας την ικανότητα να αναγνωρίζουν και να προβλέπουν στατιστικά τις πιθανότητες με τις οποίες συνδέονται λέξεις, προτάσεις και έννοιες. Όταν δίνεις στο μοντέλο μια εντολή, αυτό παράγει τη συνέχεια που είναι στατιστικά πιθανότερο να ακολουθήσει βάσει του κειμένου που του δόθηκε.

Αυτή δεν είναι αυστηρά τεχνική περιγραφή. Είναι όμως η λειτουργική αλήθεια που καθορίζει μέχρι πού μπορείς να εμπιστευτείς το εργαλείο και μέχρι πού όχι. Η διατύπωση «πρόβλεψη κειμένου» φαίνεται υποτιμητική για ένα σύστημα που αναλύει νομικά κείμενα, αναδιαρθρώνει τεχνικές εκθέσεις και εντοπίζει εσωτερικές αντιφάσεις σε πολυσέλιδο έγγραφο. Είναι όμως ακριβής, και η ακρίβεια αυτή έχει πρακτική αξία, γιατί εξηγεί ταυτόχρονα τις δυνατότητες και τα όρια του μοντέλου χωρίς να απαιτείται γνώση κάθε εξαίρεσης του κανόνα.

Πρώτο όριο – το μοντέλο δεν ανακτά δεδομένα σε πραγματικό χρόνο

Η πιο διαδεδομένη παρανόηση είναι ότι το μοντέλο λειτουργεί ως μηχανή αναζήτησης, σαν το Google. Δεν λειτουργεί έτσι. Εκτός αν έχει ενεργοποιηθεί ρητά η δυνατότητα αναζήτησης ιστού, το μοντέλο δεν πραγματοποιεί αναζήτηση. Δεν συνδέεται σε πραγματικό χρόνο με πηγές, δεν ελέγχει κείμενα, δεν ανοίγει ιστοσελίδες. Αντλεί αποκλειστικά από τα δεδομένα εκπαίδευσής του, τα οποία τερματίστηκαν σε συγκεκριμένη ημερομηνία που διαφέρει ανά μοντέλο.
Τα περισσότερα εμπορικά μοντέλα διαθέτουν πλέον δυνατότητα αναζήτησης στο διαδίκτυο, η οποία όμως απαιτεί ξεχωριστή αξιολόγηση αξιοπιστίας και δεν εξαλείφει τις παγίδες που αναφέρονται παρακάτω. 

Αυτό σημαίνει ότι κείμενα τροποποιημένα ή δημοσιευμένα μετά την ημερομηνία διακοπής εκπαίδευσης δεν εμπίπτουν στη γνωστική βάση του μοντέλου. Το πρόβλημα δεν είναι μόνο η έλλειψη αυτής της γνώσης. Αν ρωτήσεις το μοντέλο για μεταγενέστερη πληροφορία, ενδέχεται να μη σου δηλώσει ότι την αγνοεί. Αντίθετα, μπορεί να σου δώσει μια απάντηση με αυτοπεποίθηση, αναφέροντας κείμενα που ίσχυαν κατά την εκπαίδευσή του και τα οποία μπορεί στο μεταξύ να έχουν τροποποιηθεί ή καταργηθεί. Για τον επιστήμονα αυτό εισάγει σοβαρό κίνδυνο σφάλματος.

Στην πράξη, κάθε παραπομπή που παράγει το μοντέλο σε περιεχόμενο μεταγενέστερο της ημερομηνίας διακοπής εκπαίδευσης απαιτεί διασταύρωση από έγκυρες πρωτογενείς πηγές. Αυτό δεν είναι ζήτημα δυσπιστίας προς το εργαλείο, αλλά κατανόησης του τι μπορεί και τι δεν μπορεί να κάνει. Το μοντέλο μπορεί να σε βοηθήσει να ερμηνεύσεις ένα άρθρο νόμου εφόσον του το ανεβάσεις, αλλά δεν μπορεί να εγγυηθεί ότι το άρθρο αυτό ισχύει και σήμερα.

Δεύτερο όριο – το μοντέλο δεν έχει πρόσβαση σε αρχεία εκτός συνεδρίας

Το μοντέλο λειτουργεί σε μεμονωμένες συνεδρίες χωρίς αυτόνομη πρόσβαση στα αρχεία ή τα email σου, εκτός αν επιλέξεις ρητά να το συνδέσεις με εφαρμογές όπως το Google Drive ή το ηλεκτρονικό σου ταχυδρομείο. Κατά κανόνα, κάθε συζήτηση ξεκινά από μηδενική βάση. Όσες πληροφορίες χρειάζεται να γνωρίζει οφείλεις να του τις δώσεις εντός της τρέχουσας συνεδρίας.

Υπάρχει μία εξαίρεση, τα Projects, στα οποία μπορείς να αποθηκεύεις αρχεία αναφοράς και μόνιμες οδηγίες που ισχύουν για όλες τις νέες συζητήσεις εντός του ίδιου project. Η δυνατότητα αυτή αντιμετωπίζει εν μέρει τον προηγούμενο περιορισμό, αλλά δεν τον αναιρεί. Ακόμα και στο πλαίσιο ενός project, το μοντέλο εργάζεται με όσα του έχουν δοθεί ρητά. Η οργάνωση αρχείων αναφοράς στα projects εξετάζεται αναλυτικά σε επόμενο βήμα.

Στην καθημερινή χρήση, η ποιότητα της απάντησης εξαρτάται ευθέως από την ποιότητα του υλικού που παρέχεις. Ένα μοντέλο χωρίς πλαίσιο, χωρίς υλικό αναφοράς και χωρίς καθορισμένη μορφή εξόδου παράγει γενικόλογες απαντήσεις. Ένα μοντέλο που λειτουργεί εντός πλήρους πλαισίου, με τα κείμενα που πρέπει να επεξεργαστεί, τις απαιτήσεις του έργου και τους περιορισμούς που πρέπει να τηρήσει, παράγει εστιασμένες και χρήσιμες απαντήσεις. Το ζήτημα δεν είναι μόνο το ερώτημα. Είναι η προετοιμασία του πλαισίου.

Τρίτο όριο – η αληθοφανής αλλά λανθασμένη απάντηση

Η πιο επικίνδυνη ιδιότητα του μοντέλου δεν είναι ότι κάνει λάθη. Είναι ότι τα λάθη του δεν είναι ούτε ορατά, ούτε τα παραδέχεται. Το μοντέλο παράγει κείμενα που φαίνονται αξιόπιστα ακόμα και όταν είναι εντελώς λανθασμένα. Όταν το ρωτάς κάτι έξω από το γνωστικό του πλαισίο, δεν θα απαντήσει «νομίζω ότι είναι έτσι αλλά δεν είμαι και σίγουρος». Αντίθετα, θα σου δώσει ένα αληθοφανές κείμενο με αυτοπεποίθηση, ανεξάρτητα αν η απάντηση είναι ακριβής ή επινοημένη. Αν το ρωτήσεις για παραπομπή σε νόμο, θα πάρεις μεν λεπτομερή απάντηση αλλά αν αυτός ο νόμος δεν υπάρχει ή το μοντέλο έχει εκπαιδευτεί με διαφορετικό (ή παρωχημένο) περιεχόμενο, μπορεί να μη σου το επισημάνει στην απάντησή σου. Στην ορολογία των γλωσσικών μοντέλων, το φαινόμενο ονομάζεται «ψευδαίσθηση» (hallucination) και είναι το συχνότερα αναφερόμενο σφάλμα σε επαγγελματική χρήση.

Η ψευδαίσθηση δεν είναι σπάνια περίπτωση. Είναι δομικό χαρακτηριστικό του μοντέλου, το οποίο βελτιστοποιείται ώστε να παράγει πιθανοφανή συνέχεια κειμένου, αλλά όχι και να εγγυάται την αντιστοιχία της προς την πραγματικότητα. Ως σύστημα εκπαιδευμένο να παράγει πιθανοφανείς απαντήσεις, συμπληρώνει τα κενά με ό,τι του φαίνεται λογικό, ακόμη και αν αυτό δεν αντιστοιχεί στην πραγματικότητα. Οι ψευδαισθήσεις προκύπτουν από συνδυασμό ατελών δεδομένων εκπαίδευσης, τάσης του μοντέλου να συμπληρώνει πιθανοφανώς όταν στερείται κρίσιμων πληροφοριών ιδιαίτερα ότι τίθενται ασαφή ή αμφίσημα ερωτήματα από την πλευρά του χρήστη.

Για τον επιστήμονα αυτό σημαίνει ότι η απάντηση σε κρίσιμα ερωτήματα απαιτεί ανεξάρτητο έλεγχο αντίστοιχης κρισιμότητας. Ο έλεγχος αυτός δεν αντικαθίσταται από την εντύπωση ότι η απάντηση εμφανίζεται «σωστή».

Τέταρτο όριο – οι αριθμητικές πράξεις

Σε απλούς υπολογισμούς το μοντέλο κατά κανόνα αποδίδει σωστά. Όμως σε σύνθετες πράξεις ή σε αλυσίδες υπολογισμών με πολλά βήματα και ενδιάμεσα αποτελέσματα, η πιθανότητα σφάλματος αυξάνεται σημαντικά. Η παραγόμενη απάντηση δεν φέρει ορατή ένδειξη λάθους. Το αποτέλεσμα εμφανίζεται με την ίδια πειστικότητα, σωστό ή λανθασμένο. Για κάθε κρίσιμο αριθμητικό αποτέλεσμα η διασταύρωση με εξειδικευμένο λογισμικό είναι υποχρεωτική.

Το μοντέλο δεν αντικαθιστά το Excel, το GIS ή άλλο εξειδικευμένο λογισμικό. Μπορεί να συμπληρώνει τη χρήση τους στα σημεία που αφορούν γλωσσική επεξεργασία, ερμηνεία και δομή κειμένου, όχι όμως σε αριθμητικό υπολογισμό ή σε στατιστική ανάλυση. Ο έλεγχος και η ερμηνεία των αριθμητικών αποτελεσμάτων παραμένει έργο του επιστήμονα.

Συμπέρασμα

Κατανοώντας τα παραπάνω όρια, μπορείς να ξέρεις πού το μοντέλο αποδίδει αξιόπιστα και πού όχι.

• Αποδίδει στη σύνταξη και αναδιάρθρωση κειμένου που του ανεβάζεις.
• Αποδίδει στη βελτίωση γλωσσικής συνέπειας, στον εντοπισμό επαναλήψεων, στην εναρμόνιση ύφους μεταξύ τμημάτων εγγράφου που συνέταξαν διαφορετικά μέλη ομάδας.
• Αποδίδει στη σύγκριση παραγράφων, στον εντοπισμό εσωτερικών αντιφάσεων, στην παραγωγή πρώτης διατύπωσης που εσύ θα ελέγξεις, θα συμπληρώσεις με τα πραγματικά στοιχεία και θα εγκρίνεις.
• Αποδίδει στην ανάλυση κειμένου νόμου ή σύμβασης που του παρέχεις ρητά μέσα στη συζήτηση.
• Δεν αποδίδει αξιόπιστα στην ανάλυση εκ του μηδενός χωρίς παροχή πρωτογενούς και ελεγμένου ως προς τη συνάφεια κειμένου.
• Δεν αποδίδει αξιόπιστα σε αριθμητικούς υπολογισμούς υψηλής κρισιμότητας χωρίς ανεξάρτητο έλεγχο.
• Δεν αποδίδει αξιόπιστα σε ερωτήματα που απαιτούν γνώση πρόσφατων δεδομένων, νομοθετικών τροποποιήσεων ή αποφάσεων που δεν έχεις παράσχει μέσα στη συζήτηση.

Ο ρόλος του επιστήμονα δεν αλλάζει, αλλάζουν τα εργαλεία του

Η κατανόηση των ορίων του μοντέλου οδηγεί σε μία σαφή αρχή: Η επαγγελματική ευθύνη δεν μεταφέρεται στο μοντέλο. Το μοντέλο παράγει προτάσεις, ο επιστήμονας αποφασίζει. Η σχέση αυτή δεν αντιστρέφεται ανεξάρτητα από το πόσο πειστική φαίνεται η απάντηση, ανεξάρτητα αν πληρώνεις 300€ το μήνα για το ακριβότερο μοντέλο. Ο επιστήμονας που αντιμετωπίζει το μοντέλο ως αυτόνομο σύστημα κρίσης, του έχει ήδη παραχωρήσει αρμοδιότητες που δεν είχε κανένα δικαίωμα να παραχωρήσει.

Αντίθετα, ο επιστήμονας που κατανοεί τη φύση του εργαλείου το χρησιμοποιεί ως πρώτη γρήγορη προσέγγιση σε εργασίες γλωσσικής επεξεργασίας, ως φίλτρο εσωτερικής συνέπειας εγγράφου, ως μέσο μείωσης του χρόνου για επαναλαμβανόμενες εργασίες χαμηλής κρίσης. Δεν το χρησιμοποιεί ως πηγή επιστημονικής αλήθειας ούτε ως αντικαταστάτη της κρίσης του στα σημεία όπου η κρίση αυτή είναι το καθαυτό αντικείμενο της επιστημονικής του ευθύνης.

Ο διαχωρισμός αυτός δεν είναι αφηρημένος. Είναι το εργαλείο αξιολόγησης που εφαρμόζεις για κάθε εργασία, πριν αποφασίσεις αν και πώς θα αναθέσεις μέρος της στο μοντέλο. Η συνεχής εφαρμογή του κάνει τη χρήση επαγγελματικά ασφαλή και ταυτόχρονα παραγωγική.

Γιατί αυτό είναι το πρώτο Βήμα και όχι το Παράρτημα

Όλα τα επόμενα βήματα, από τη διατύπωση εντολής ως την οργάνωση των projects και τον έλεγχο των αποτελεσμάτων, προϋποθέτουν ότι ο χρήστης έχει εσωτερικεύσει αυτή τη βάση. Αν δεν έχει εσωτερικευθεί, κάθε επόμενο βήμα εφαρμόζεται λανθασμένα, γιατί βασίζεται σε εσφαλμένη αντίληψη για το τι μπορεί να κάνει το εργαλείο και τι όχι. Ακόμα και η πλέον προσεκτικά διατυπωμένη εντολή αποτυγχάνει, αν ζητάς από το μοντέλο κάτι που δεν μπορεί να απαντήσει αξιόπιστα. Ο πιο οργανωμένος φάκελος project δεν προστατεύει από απάντηση που δεν διασταυρώθηκε ενώ έπρεπε.

Η κατανόηση της φύσης του εργαλείου δεν αναιρεί τη χρησιμότητά του. Την ορίζει. Ένα εργαλείο που χρησιμοποιείται εντός των ορίων του δίνει αποτελέσματα με σταθερότητα και προβλεψιμότητα. Όταν χρησιμοποιείται εκτός των ορίων του, εισάγει κινδύνους ανεξάρτητα από τη δεξιότητα του χρήστη. Στην επιστημονική έρευνα εφαρμόζεις αυτή τη λογική σε κάθε δεδομένο και σε κάθε μέθοδο υπολογισμού. Η ίδια λογική ισχύει και εδώ, χωρίς εξαίρεση. Παράδειγμα: Θέλεις να συντάξεις μια έκθεση σχετικά με διάταξη κάποιου νόμου. Η σωστή χρήση είναι να εντοπίσεις πρώτα το ισχύον ενημερωμένο κείμενο του νόμου από έγκυρη πηγή, να το ενσωματώσεις στη συζήτηση και μετά να ζητήσεις από το μοντέλο να σε βοηθήσει στη διατύπωση ή στον σχολιασμό. Η συνηθέστερη λανθασμένη χρήση είναι να ρωτήσεις βιαστικά «ποια διάταξη νόμου ισχύει για το τάδε θέμα» χωρίς να έχεις μπει στον κόπο να βρεις από νομικές βάσεις πληροφοριών τα σχετικά κείμενα και να τα έχεις ανεβάσει στο μοντέλο πριν ξεκινήσεις τις ερωτήσεις. Αν ξεκινήσεις τις “ξερές” ερωτήσεις, οι απαντήσεις που θα δώσει το μοντέλο θα φαίνονται πλήρεις αλλά δεν μπορείς να ξέρεις αν είναι αξιόπιστες αν δεν ελέγξεις λεπτομερώς τα αποτελέσματα. Στο τέλος της ημέρας, τον χρόνο που νομίζεις ότι εξοικονομείς με βιαστικά ερωτήματα τον χάνεις στο πολλαπλάσιο σε ελέγχους που μετά πρέπει να κάνεις λέξη προς λέξη.

Άνοιξη, 2026
For the Prince