Τι είναι μια ψευδαίσθηση της AI;

Μια ψευδαίσθηση συμβαίνει όταν η AI απαντά με αυτοπεποίθηση αλλά λάθος: ένας αριθμός που δεν υπήρξε ποτέ, μια πηγή που δεν υπάρχει, μια παράγραφος σε ένα συμβόλαιο που δεν γράφτηκε ποτέ. Το μοντέλο δεν λέει ψέματα, απλά κάνει αυτό που κάνει πάντα, προβλέπει πιθανό κείμενο, και κάποιες φορές το πιθανό δεν είναι το αληθινό.

Οι ψευδαισθήσεις δεν μπορούν να εξαλειφθούν πλήρως, αλλά μπορούν να μειωθούν σε ό,τι έχει σημασία. Τρία αντίμετρα λειτουργούν: πηγές (άσε την AI να απαντά από ένα καθορισμένο υλικό και να δείχνει πού το βρήκε), επισήμανση (διάκριση ανάμεσα σε ό,τι τεκμηριώνεται από μια πηγή και σε ό,τι είναι συμπέρασμα του μοντέλου), και έλεγχος (τα προσχέδια της AI παραμένουν προσχέδια μέχρι να τα εγκρίνει ένας άνθρωπος).

Γι’ αυτό οι απαντήσεις της EuroWork στη Βαθιά έρευνα συνδέουν τις πηγές τους, γι’ αυτό το Leadsmaskinen επισημαίνει κάθε στοιχείο επικοινωνίας ως «τεκμηριωμένο» ή «επαγωγικό», και γι’ αυτό τα έγγραφα έχουν εκδόσεις και ροή έγκρισης. Μην ρωτάτε μια υπηρεσία AI αν έχει ψευδαισθήσεις, όλες τις έχουν. Ρωτήστε πώς θα καταλάβετε τη διαφορά όταν συμβεί.