Η αρχή του αποδεικτικού: ο AI που δείχνει τα ρέστα του

Υπάρχει μια φράση που επαναλαμβάνεται σχεδόν σε όλη τη διαφήμιση για τον AI αυτή τη στιγμή: «εμπιστευτείτε μας». Το μοντέλο είναι ασφαλές, εμπιστευτείτε μας. Τα δεδομένα δεν φεύγουν από την Ευρώπη, εμπιστευτείτε μας. Το κόστος είναι λογικό, εμπιστευτείτε μας.

Δεν πιστεύουμε σε αυτή τη φράση. Όχι επειδή οι πάροχοι λένε ψέματα, αλλά γιατί η εμπιστοσύνη δεν είναι επιχείρημα. Είναι μια ελπίδα. Και μια επιχείρηση που πρέπει να λογοδοτήσει σε ένα διοικητικό συμβούλιο, έναν ελεγκτή ή μια εποπτική αρχή δεν μπορεί να παρουσιάσει μια ελπίδα.

Γι’ αυτό χτίζουμε το EuroWork με βάση μια διαφορετική αρχή, αρκετά απλή για να χωρέσει σε ένα απόδειξη. Τη λέμε αρχή του αποδεικτικού:

Κάθε φορά που ο AI κάνει κάτι για σένα, πρέπει να φαίνεται τι έγινε, πού έγινε, τι κόστισε και ποιος είπε ναι.

Όχι σε μια ετήσια έκθεση. Όχι κατόπιν αιτήματος. Απευθείας, στη διεπαφή, ενώ η δουλειά βρίσκεται σε εξέλιξη.

Τι σημαίνει η αρχή του αποδεικτικού στην πράξη

Κάνε μια ερώτηση στο EuroWork και κοίτα κάτω από την απάντηση. Εκεί αναγράφεται ποιο μοντέλο απάντησε και γιατί αυτό, πόσο κόστισε η απάντηση στο νόμισμά σου και πού έγινε η επεξεργασία. Εκτέλεσε μια Βαθιά έρευνα και το αποδεικτικό δείχνει τον αριθμό των αναζητήσεων στο διαδίκτυο. Άφησε τον AI συνάδελφο να εκτελέσει μια επαναλαμβανόμενη εργασία και κάθε εκτέλεση αφήνει το δικό της αποδεικτικό στη λίστα: «κόστισε 4 λεπτά». Το εργαλείο διαχείρισης leads σημειώνει κάθε στοιχείο επικοινωνίας με το αν υπάρχει πραγματικά στην πηγή ή είναι συμπέρασμα, γιατί μια εικασία για μια διεύθυνση email που μοιάζει να βρέθηκε είναι ένα ψέμα σε μορφή πίνακα.

Η ίδια αρχή ισχύει και στα μεγάλα. Ο ιδιοκτήτης του οργανισμού βλέπει το μηνιαίο κόστος ανά κατηγορία και ανά μέλος, θέτει όριο στο δικό του νόμισμα και το όριο σταματά πραγματικά έξοδα, όχι εκτιμήσεις. Αυτό που δημιουργεί ο AI σημειώνεται ως δημιουργία AI σύμφωνα με το άρθρο 50 του Κανονισμού AI. Και πού ανήκει κάθε μέρος της αλυσίδας, μέχρι και ποιος είναι ο ιδιοκτήτης του κέντρου δεδομένων, δηλώνεται ανοιχτά.

Τι απαγορεύει η αρχή του αποδεικτικού

Μια αρχή αξίζει μόνο αν κοστίζει κάτι. Η δική μας απαγορεύει πράγματα που θα ήταν κερδοφόρα.

Απαγορεύει πιστώσεις και «ποτ» κατανάλωσης, γιατί ένα αποδεικτικό σε φανταστικό νόμισμα δεν είναι αποδεικτικό. Απαγορεύει στους προϊσταμένους να βλέπουν τι ρωτούν οι εργαζόμενοι τον AI: οι ιδιοκτήτες βλέπουν αριθμό, ποτέ περιεχόμενο, γιατί η παρακολούθηση είναι το αντίθετο από την ασφάλεια που κάνει τους ανθρώπους να χρησιμοποιούν πραγματικά το εργαλείο. Και απαγορεύει τη σιωπηλή μάθηση: όταν ο AI συνάδελφος θυμάται κάτι που είπες, η γραμμή μνήμης εμφανίζεται σε μια λίστα που μπορείς να διαβάσεις και να διαγράψεις, τίποτα άλλο.

Γιατί τώρα

Ο κλάδος του AI κινείται προς τους πράκτορες: συστήματα που εργάζονται αυτόνομα, επιστρέφουν με βάση το πρόγραμμα και παίρνουν μικρές αποφάσεις στον δρόμο. Χτίζουμε και εμείς κάτι τέτοιο, ο AI συνάδελφός μας αναλαμβάνει εργασίες, θυμάται τι σου άρεσε και ρωτάει όταν δεν είναι σίγουρος. Όμως όσο πιο αυτόνομος γίνεται ο AI, τόσο πιο σημαντικά γίνονται τα αποδεικτικά. Ένας βοηθός που απαντά λάθος κοστίζει μια ενόχληση. Ένας πράκτορας που εργάζεται λάθος σιωπηλά, εβδομάδα με την εβδομάδα, κοστίζει την εμπιστοσύνη σε ολόκληρη την ιδέα.

Έτσι, όταν κάποιος σου δείχνει μια υπηρεσία AI, μην ρωτάς αν είναι καλή. Ρώτα τι κόστισε η τελευταία απάντηση, πού έγινε η επεξεργασία και πώς θα το έδειχνες στον ελεγκτή σου. Αν πάρεις ένα αποδεικτικό, βρήκες το σωστό. Αν πάρεις ένα «εμπιστευτείτε μας», ξέρεις κι εσύ την απάντηση.