Un robot conversationnel baptisé Lucie, pensé pour offrir une alternative française, basée sur des sources libres, aux intelligences artificielles (IA) des géants de la tech, a dû être débranché après avoir livré une cascade de résultats absurdes aux internautes qui l'interrogeaient.

Une plateforme lauréate du programme France 2030

Calculs absurdes, "œufs de vache", "poids d'un trou de gruyère" : de nombreux utilisateurs ont testé des requêtes aux résultats improbables. Alerté par les moqueries sur les réseaux sociaux, les promoteurs du projet ont décidé au bout de trois jours de fermer son accès à tous en ligne, a expliqué dimanche à l'AFP Michel-Marie Maudet, le directeur général de Linagora, l'entreprise derrière Lucie.

La plateforme, lauréate du programme France 2030 lancé par l'État, ambitionne de fournir une alternative "transparente et fiable" aux IA comme ChatGPT, et pourrait par exemple servir pour l'éducation ou la recherche. Mais "nous avons fait l'erreur de mettre à disposition (Lucie) dans l'état", sans préciser suffisamment qu'il ne s'agissait pas d'un robot prêt à l'emploi, mais d'un "projet de recherche", a-t-il reconnu.

D'autre part, "tous les systèmes d'intelligence artificielle disposent de garde-fou", qui les empêchent de produire des textes haineux ou injurieux, a-t-il souligné. "Notre deuxième erreur a été de mettre à disposition Lucie sans ces garde-fous".

Une mise en ligne furtive avant un sommet international de l'IA à Paris

Le dirigeant explique avoir voulu mettre en ligne Lucie avant le sommet international de Paris sur l'IA du 10 et 11 février et qu'il n'avait "pas du tout anticipé cet emballement", car Linagora "travaille dans le logiciel libre où les communautés font en général preuve de bienveillance et d'encouragements".

Ce raté au démarrage n'empêche pas les promoteurs de Lucie d'espérer remettre prochainement cette IA en ligne, après l'avoir fait évoluer, pour offrir à tous "un modèle de langage d'intérêt général". Contrairement aux géants de la tech comme ChatGPT, Lucie, qui "n'a pas d'ambition économique", promet la transparence sur les données qui servent à l'entraîner, a expliqué Michel-Marie Maudet. Ce qui permettra par exemple de s'assurer que les réponses sont issues de données scientifiques vérifiées.

Le modèle a vocation à pouvoir être utilisé pour des applications dans le monde de l'éducation, mais "à ce jour, aucun travail spécifique n'a été réalisé avec l'Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif", ont souligné ses promoteurs.