Le fondateur à propos de l'IA fantôme : tout le monde le fait, personne n'en parle

Rickard Eriksson est l'homme qui, en 1996, a créé ce qui est devenu LunarStorm, le premier réseau social au monde, avec des millions d'utilisateurs bien avant l'existence de Facebook. Depuis, avec son entreprise, il a impulsé le développement de l'IA dans plus de 7 000 entreprises et organisations publiques scandinaves, et observé de près ce qui se passe lorsque la technologie devance les règles.

Aujourd'hui, il dirige Skräddarsydd AB à Varberg et est le fondateur d'EuroWork. Nous nous sommes assis pour discuter des raisons pour lesquelles il a construit un espace de travail IA pour les organisations européennes, et pourquoi il estime que la fonction la plus importante est celle qui indique le coût d'une réponse.

Tu dis que l'IA fantôme est le vrai problème. Que veux-tu dire par là ?

— Qu'elle est déjà utilisée. Dans chaque lieu de travail que je visite, il y a quelqu'un qui copie-colle un brouillon dans ChatGPT pour le rendre plus présentable. Souvent, ils sont plusieurs. Ils le font avec leur connexion personnelle, parce que c'est celle qu'ils avaient, et ils le font parce qu'ils veulent boucler leur travail. Ce n'est pas de la désobéissance, c'est de l'ambition.

Le problème, c'est que personne ne sait ce qui est sorti. Et quand personne ne sait ce qui est sorti, personne ne peut répondre à la question quand elle arrive.

Qui pose la question ?

— Tôt ou tard, quelqu'un d'autre que toi. Un client qui se demande où sont passées ses données. Un auditeur. Un délégué à la protection des données. Ou un journaliste, si on a vraiment pas de chance. Et ce n'est pas l'employé qui doit répondre, c'est la direction. Répondre « nous avons une politique » ne suffit pas si cette politique est un document que personne n'a lu et qui n'empêche rien.

Mais la plupart ont tout de même une règle, non ?

— Beaucoup ont une règle qui dit non. C'est la pire des solutions, parce que l'utilisation continue, mais elle devient invisible. On a déplacé le problème : d'ingérable, il est devenu ingérable et secret.

Je l'ai vu clairement dans une organisation où l'IA était totalement interdite. Tout le monde l'utilisait quand même. La différence, c'est qu'ils le faisaient sur leur téléphone au lieu de leur ordinateur professionnel, pour que ça ne se voie pas. On avait réussi à rendre la situation aussi risquée et plus difficile à détecter.

Et le mélange entre vie professionnelle et vie privée ?

— Oui, et c'est la partie que les gens sous-estiment. Quand quelqu'un utilise son compte personnel, les documents professionnels se retrouvent dans un compte que l'employeur ne possède pas. La personne change de travail, et les documents suivent. La personne perd son mot de passe, et personne ne peut plus rien récupérer. Et dans cet historique, il y a à la fois l'offre pour le client et la question sur le choix de l'école de l'enfant, dans la même conversation, chez un fournisseur de l'autre côté de l'Atlantique.

Ce n'est pas de la malveillance de la part de qui que ce soit. C'est simplement ce qui arrive quand on ne donne pas aux gens un outil qui est leur outil de travail.

Alors EuroWork est l'alternative ?

— EuroWork est une tentative de faire en sorte que l'alternative légale soit la plus simple. C'est toute l'idée. Si la manière sécurisée est plus compliquée que la manière non sécurisée, la manière sécurisée perdra à chaque fois, dans chaque organisation, peu importe ce que le chef a dit en réunion.

Concrètement, qu'est-ce qui doit rendre les choses plus simples ?

— Que ça ressemble à ce à quoi les gens sont déjà habitués. On pose une question, on obtient une réponse. Personne ne devrait avoir besoin de suivre une formation pour commencer. La différence se situe autour : les réponses sont traitées en Europe par défaut, le contenu n'est jamais utilisé pour entraîner un modèle, et c'est indiqué sous chaque réponse pour éviter d'avoir à chercher dans un contrat.

Et le coût ?

— C'est mon cheval de bataille personnel. Personne d'autre n'affiche le coût d'une réponse. Vous achetez une licence et ensuite, c'est le silence, et ce n'est que le mois suivant que le service comptable voit un montant global.

Chez nous, le prix s'affiche avant que vous n'envoyiez la question. Une réponse équilibrée d'un modèle européen coûte quelques centimes. Si vous choisissez un modèle américain haut de gamme, la même question coûte une quarantaine de centimes. Ce n'est pas une erreur de choisir le plus cher, parfois ça en vaut la peine, mais vous devez le savoir avant, pas après.

Pourquoi est-ce que ce détail t'importe autant ?

— Parce que c'est la version honnête de ce qu'on vend. Tout le monde dit être transparent. Très peu affichent un chiffre qui peut se retourner contre eux. Je veux qu'un directeur financier puisse s'asseoir avec notre service et calculer, pas deviner.

Vous construisez aussi un mode agent. N'est-ce pas l'opposé du contrôle ?

— C'est exactement ce que je craignais. C'est pourquoi le mode par défaut est que l'IA demande avant de faire quoi que ce soit. Vous donnez un objectif, elle propose un plan étape par étape, et vous approuvez une étape à la fois en voyant quel outil sera utilisé et pourquoi. Tout est enregistré dans le journal d'audit.

Je pense que ce commutateur fait toute la différence entre une collectivité qui peut utiliser des agents et une qui ne peut pas. La capacité existe chez tout le monde maintenant. Ce qui manque, c'est la preuve de qui a dit oui.

Qu'est-ce qui est le plus difficile dans la construction de tout cela ?

— Savoir s'abstenir. Chaque semaine, il y a dix choses de plus qui pourraient être construites, et neuf d'entre elles rendent le produit moins bon parce qu'elles le rendent plus difficile à comprendre. Celui qui ajoute tout finit par obtenir quelque chose qui nécessite un consultant pour démarrer, et alors on a construit exactement ce qu'on voulait remplacer.

Qu'espères-tu que quelqu'un dise dans un an ?

— Qu'ils ont arrêté d'y penser. Que la question « puis-je utiliser l'IA pour cela ? » ne se pose plus dans leur lieu de travail, parce que la réponse est visible dans l'outil pendant qu'on travaille. Et que le directeur financier sait ce que ça a coûté, au centime près.

Dernière question : que doit faire celui qui lit ceci aujourd'hui ?

— Demander à ses collègues ce qu'ils utilisent vraiment. Pas dans un cadre formel, juste demander. La réponse est généralement plus que ce qu'on croyait, et c'est toujours mieux de le savoir soi-même que de l'apprendre par quelqu'un d'autre.

---

À propos de Rickard Eriksson

Il a créé en 1996 ce qui est devenu LunarStorm, le premier réseau social au monde, avec des millions d'utilisateurs des années avant le lancement de Facebook. Avec son entreprise, il a formé et développé l'utilisation de l'IA dans plus de 7 000 entreprises et organisations publiques scandinaves. Il dirige aujourd'hui Skräddarsydd AB à Varberg et est le fondateur d'EuroWork.

Le même principe qu'alors : une technologie que les gens ordinaires utilisent vraiment, et ont hâte d'ouvrir chaque matin. L'entreprise derrière LunarStorm s'appelait LunarWorks. Cette construction s'appelle EuroWork.

Joignable à rickard@eurowork.ai.