Le fondateur à propos de l'IA fantôme : tout le monde le fait, personne n'en parle

Rickard Eriksson est l'homme qui, en 1996, a construit ce qui est devenu LunarStorm, le premier réseau social au monde, avec des millions d'utilisateurs bien avant l'existence de Facebook. Depuis, lui et son entreprise ont accéléré le développement de l'IA dans plus de 7 000 entreprises et organisations publiques scandinaves, et ont observé de près ce qui se passe lorsque la technologie précède les règles.

Aujourd'hui, il dirige Skräddarsydd AB à Varberg et est le fondateur d'EuroWork. Nous nous sommes assis pour discuter des raisons pour lesquelles il a construit un espace de travail IA pour les organisations européennes, et pourquoi il estime que la fonction la plus importante est celle qui montre le coût d'une réponse.

Tu dis que l'IA fantôme est le vrai problème. Que veux-tu dire ?

— Qu'elle est déjà utilisée. Dans chaque lieu de travail que je visite, il y a quelqu'un qui copie-colle un brouillon dans ChatGPT pour le rendre plus présentable. Souvent, ils sont plusieurs. Ils le font avec leur connexion personnelle, parce que c'est celle qu'ils avaient, et ils le font parce qu'ils veulent terminer leur travail. Ce n'est pas de la désobéissance, c'est de l'ambition.

Le problème, c'est que personne ne sait ce qui est sorti. Et quand personne ne sait ce qui est sorti, personne ne peut répondre à la question quand elle arrive.

Qui pose la question ?

— Tôt ou tard, quelqu'un d'autre que toi. Un client qui se demande où sont passées ses données. Un auditeur. Un délégué à la protection des données. Ou un journaliste, si on n'a pas de chance. Et ce n'est pas l'employé qui doit répondre, c'est la direction. Répondre « nous avons une politique » ne suffit pas si cette politique est un document que personne n'a lu et qui n'empêche rien.

Mais la plupart ont tout de même une règle, non ?

— Beaucoup ont une règle qui dit non. C'est la pire des solutions, parce que l'utilisation continue, mais elle devient invisible. On a déplacé le problème : au lieu d'être ingérable, il est devenu ingérable et secret.

Je l'ai vu clairement dans un endroit où l'IA était totalement interdite. Tout le monde l'utilisait quand même. La différence, c'est qu'ils le faisaient sur leur téléphone au lieu de leur ordinateur professionnel, pour que ça ne se voie pas. On avait réussi à rendre la situation tout aussi risquée et plus difficile à détecter.

Et le mélange entre vie professionnelle et vie privée ?

— Oui, et c'est la partie que les gens sous-estiment. Quand quelqu'un utilise son compte personnel, les documents professionnels se retrouvent dans un compte que l'employeur ne possède pas. La personne change d'emploi, et les documents suivent. La personne perd son mot de passe, et personne ne peut plus rien récupérer. Et dans cet historique, on trouve à la fois l'offre pour le client et la question sur le choix de l'école de l'enfant, dans la même conversation, chez un fournisseur de l'autre côté de l'Atlantique.

Ce n'est pas de la malveillance de la part de qui que ce soit. C'est simplement ce qui arrive quand on ne donne pas aux gens un outil qui est leur outil de travail.

Donc EuroWork est l'alternative ?

— EuroWork est une tentative de faire en sorte que l'alternative légale soit la plus simple. C'est toute l'idée. Si la manière sécurisée est plus compliquée que la manière non sécurisée, la manière sécurisée perdra, à chaque fois, dans chaque organisation, peu importe ce que le chef a dit lors d'une réunion.

Concrètement, qu'est-ce qui doit rendre les choses plus simples ?

— Que ça ressemble à ce à quoi les gens sont déjà habitués. On pose une question, on obtient une réponse. Personne ne devrait avoir besoin de suivre une formation pour commencer. La différence réside autour : les réponses sont traitées en Europe par défaut, le contenu n'est jamais utilisé pour entraîner un modèle, et c'est indiqué sous chaque réponse pour éviter d'avoir à chercher dans un contrat.

Et le coût ?

— C'est mon cheval de bataille personnel. Personne d'autre ne montre ce que coûte une réponse. Tu achètes une licence et ensuite, c'est le silence, et ce n'est que le mois suivant que le service comptable voit un montant global.

Chez nous, le prix s'affiche avant que tu envoies la question. Une réponse équilibrée d'un modèle européen coûte quelques centimes. Si tu choisis un modèle américain haut de gamme, la même question coûte quarante-quatre centimes. Ce n'est pas une erreur de choisir l'option chère, parfois elle en vaut la peine, mais tu dois le savoir avant, pas après.

Pourquoi te soucies-tu autant de ce détail ?

— Parce que c'est la version honnête de ce qu'on vend. Tout le monde dit être transparent. Très peu montrent un chiffre qui peut être utilisé contre eux. Je veux qu'un directeur financier puisse s'asseoir avec notre service et calculer, pas deviner.

Vous construisez aussi un mode agent. N'est-ce pas l'opposé du contrôle ?

— C'est exactement ce dont j'avais peur. C'est pourquoi le mode par défaut est que l'IA demande avant de faire quoi que ce soit. Tu donnes un objectif, elle propose un plan en étapes, et tu approuves une étape à la fois en voyant quel outil sera utilisé et pourquoi. Tout est enregistré dans le journal d'audit.

Je pense que cet interrupteur fait toute la différence entre une commune qui peut utiliser des agents et une qui ne peut pas. La capacité existe chez tout le monde maintenant. Ce qui manque, c'est la preuve de qui a dit oui.

Qu'est-ce qui est le plus difficile dans la construction de tout cela ?

— De s'abstenir. Chaque semaine, il y a dix choses supplémentaires qui pourraient être construites, et neuf d'entre elles rendent le produit moins bon parce qu'elles le rendent plus difficile à comprendre. Celui qui ajoute tout finit par obtenir quelque chose qui nécessite un consultant pour démarrer, et alors on a construit exactement ce qu'on voulait remplacer.

Que souhaites-tu qu'on dise dans un an ?

— Qu'ils ont arrêté d'y réfléchir. Que la question « puis-je utiliser l'IA pour cela ? » ne se pose plus dans leur lieu de travail, parce que la réponse est visible dans l'outil pendant qu'on travaille. Et que le directeur financier sait ce que ça a coûté, au centime près.

Donne-moi quelque chose de concret. Que font les gens avec, un mardi tout à fait ordinaire ?

— Le plus drôle, c'est que la réponse est rarement celle qu'on imagine. Tout le monde devine « écrire des textes ». Ce qui fait vraiment gagner du temps, c'est de ne pas avoir à lire. Tu reçois un rapport annuel de trois cents pages, tu dis qui tu es, et tu récupères ce qui concerne ton rôle. Ou une demande de marché : joins-la avec ce que vous avez livré précédemment et demande directement si ça vaut trois jours de travail. Nous avons testé avec un document qui ne remplissait pas délibérément deux des critères obligatoires, et la réponse les a précisément identifiés.

— Ensuite, il y a le cas des contrats. Deux versions du même contrat d'achat, où la partie adverse a supprimé une subordonnée sur la responsabilité du personnel et raccourci la durée de la garantie. Les deux modifications ont été repérées. Ce genre de changement échappe à l'œil lors d'une relecture à sept heures du soir.

Et cette histoire de photographier des choses ?

— C'est la fonction dont les gens rient d'abord et qu'ils utilisent le plus ensuite. Photographie le tableau blanc après la réunion, demande un plan de projet avec les responsables. Photographie un document manuscrit de 1897, fais-le interpréter avec les mots incertains marqués. Photographie un manuel en finnois. Ça a l'air d'un gadget jusqu'à ce que tu te retrouves dans un entrepôt avec un objet dont tu ne connais pas le nom et que tu ne peux donc pas rechercher.

Quelle est la déception la plus courante ?

— Que les gens demandent des chiffres sans fournir de matériel. Dans ce cas, le modèle peut inventer une source qui semble tout à fait crédible. Nous avons essayé de demander des contre-arguments à un article de débat, et la réponse s'appuyait sur un rapport qui n'existe pas. Le raisonnement était utile, les chiffres étaient inventés.

— C'est pourquoi je dis toujours la même chose : donne-lui un document. Avec du matériel, les chiffres sont corrects. Sans matériel, c'est une supposition bien formulée. Ce n'est pas un défaut d'EuroWork, ça s'applique à toute l'IA, mais nous avons le devoir de le dire haut et fort au lieu de laisser les gens le découvrir lors d'une réunion de commission.

Dernière question : que doit faire celui qui lit ceci aujourd'hui ?

— Demande à tes collègues ce qu'ils utilisent vraiment. Pas dans un cadre formel, demande simplement. La réponse est généralement plus que ce qu'on pensait, et il est toujours préférable de le savoir soi-même que de l'apprendre par quelqu'un d'autre.

---

À propos de Rickard Eriksson

Il a créé en 1996 ce qui est devenu LunarStorm, le premier réseau social au monde, avec des millions d'utilisateurs des années avant le lancement de Facebook. Avec son entreprise, il a formé et développé l'utilisation de l'IA dans plus de 7 000 entreprises et organisations publiques scandinaves. Il dirige aujourd'hui Skräddarsydd AB à Varberg et est le fondateur d'EuroWork.

Même principe alors qu'aujourd'hui : une technologie que les gens ordinaires utilisent vraiment, et ont hâte d'ouvrir chaque matin. L'entreprise derrière LunarStorm s'appelait LunarWorks. Cette construction s'appelle EuroWork.

Contact : rickard@eurowork.ai.