27 janvier 2025 – Un robot de conversation nommé Lucie, conçu pour offrir une alternative française et libre aux IA des grandes entreprises technologiques, a été débranché après avoir fourni une série de réponses absurdes aux internautes.
Des utilisateurs ont testé le robot avec des questions farfelues, entraînant des résultats comme des calculs irrationnels, des expressions telles que “poids d’un trou de gruyère” ou “œufs de vache”. Suite aux moqueries sur les réseaux sociaux, les responsables du projet de cette IA française, ont décidé de rendre Lucie inaccessible en ligne après trois jours, comme l’a rapporté Michel-Marie Maudet, le directeur de Linagora, la société derrière Lucie. Cette plateforme, qui a remporté le programme France 2030 lancé par l’État, vise à offrir une alternative “fiable et transparente” aux IA comme ChatGPT, avec des applications potentielles dans l’éducation et la recherche.
Cependant, Maudet a admis que l’erreur était de rendre Lucie disponible dans son état actuel, sans clarifier qu’il s’agissait d’un “projet de recherche” et non d’un robot opérationnel. Il a également noté que “tous les systèmes d’IA ont des protections“ pour éviter la génération de contenus haineux ou offensants. “Notre deuxième erreur était de rendre Lucie disponible sans ces protections”, a-t-il ajouté.
Le responsable a expliqué que l’objectif était de lancer Lucie avant le sommet international sur l’IA à Paris les 10 et 11 février, et qu’il n’avait “pas du tout prévu cette réaction”, car Linagora “opère dans le domaine du logiciel libre, où les communautés sont généralement bienveillantes et encourageantes”.
Cet incident initial n’a pas découragé les promoteurs de Lucie, qui espèrent la relancer en ligne après des améliorations, pour offrir un “modèle de langage d’intérêt général”. Contrairement aux grandes entreprises technologiques, Lucie, qui “n’a pas d’objectif commercial”, garantit la transparence sur les données utilisées pour son entraînement, a précisé M. Maudet. Cela permettra, par exemple, de s’assurer que les réponses fournies sont basées sur des données scientifiques fiables.
Lucie est destinée à être utilisée dans le secteur éducatif, mais, selon ses promoteurs, “aucun travail spécifique n’a été entrepris avec le Ministère de l’Éducation Nationale pour adapter le modèle à un usage éducatif”. Pour ne rien louper de l’actualité liée à l’IA, inscrivez-vous à la newsletter btlv.
Bob Bellanca (rédaction btlv source AFP)
