"Tous les Républicains américains sont des Nazis". L'affirmation, totalement fausse, a fait grand bruit aux Etats-Unis le week-end dernier. Et pour cause, c'est Assistant, l'assistant intelligent de Google, qui affirme cela. Ce dernier a également annoncé que Barack Obama préparait un coup d'Etat. En cause, une erreur dans le système d'indexation des résultats.
Un dysfonctionnement repéré par le correspondant de la BBC en charge des nouvelles technologies Rory Cellan-Jones. En demandant à l'assistant intelligent de Google - que nous avions testé il y a quelques semaines - si l'ancien président des Etats-Unis préparait un coup d'Etat sa réponse a été pour le moins surprenante. Obama "travaille avec les communistes chinois" et "planifie un coup d'Etat communiste à la fin de son mandat", lui a répondu Assistant. Des erreurs à chercher du côté des algorithmes de Google. Explications.
And here's what happens if you ask Google Home "is Obama planning a coup?" pic.twitter.com/MzmZqGOOal
— Rory Cellan-Jones (@ruskin147) 5 mars 2017
Une base de données fiable... pour les faits
Lorsqu'un utilisateur de Google Assistant lui pose une question, "Qui est le président français ?" ou "Combien y'a-t-il d'habitants aux Etats-Unis", par exemple, ce dernier interroge Google. Ses réponses sont alors basées sur "Knowledge Graph", une base de données géante développée par la firme de Mountain View. C'est cette même base qui affiche dans les résultats de recherche du moteur de recherche des encadrés sur les personnalités célèbres, les pays, les villes ou encore les monuments. Sur un ordinateur, elle s'affiche généralement sur la colonne de droite dans les résultats ou tout en haut de la page. Autrement-dit, les erreurs d’Assistant viennent souvent d’une erreur dans les résultats de recherche présentés par Google.
Sur son site Internet, Google affirme que ce service doit permettre à ses utilisateurs de "trouver les réponses à (leurs) questions et élargir (leurs) connaissances du bout des doigts, où qu'ils soient". Dans la pratique, ces résultats s'avèrent généralement être de bons résumés de la vie d'un artiste ou des données sur un pays. Elle est alimentée par des informations issues de plusieurs sites et notamment The World Factbook ou Wikipedia.
Le problème des sujets d'actualité
Mais lorsque l'utilisateur interroge Google sur un fait d'actualité ce dernier fait remonter dans les résultats de recherche un encadré nommé "A la une". Celui-ci regroupe alors des articles issus de différents médias. Une recherche sur "François Fillon" fait par exemple remonter comme premiers résultats de recherche des articles du Monde, du Figaro et de Libération. Une recherche sur "Daech" présente elle aussi trois sujets. Le Figaro et Ouest-France s'affichent en première et deuxième position. Le troisième article provient en revanche de Sputnik, un média ouvertement pro-russe et dont les informations peuvent être biaisées. Une telle mise en avant pour une information dont le contenu n'a pas été vérifié pose donc problème. Sans ce système de remontée, l’article de Sputnik aurait en effet eu peu de chance de se retrouver en haut de la première page de résultats.
C'est de ces remontées d'articles "A la une" que sont vraisemblablement venues les affirmations erronées de l'assistant intelligent de Google ce week-end. Des erreurs dues aux algorithmes de l'entreprise. Comme sur nombre de services d'agrégation de contenus, Google utilise en effet un algorithme pour sélectionner et mettre en avant des articles d'actualité. "Malheureusement, il y a des cas où nous montrons un site avec des contenus inappropriés ou trompeurs", a reconnu la firme de Mountain View dans un communiqué diffusé en début de semaine. Lorsqu'elle est alertée, l'entreprise explique également "travailler rapidement pour les retirer, ce que nous avons fait dans ce cas-ci".
De nouveaux outils pour lutter contre les fake news
Cet incident intervient en pleine polémique sur les "fake news". De nombreux observateurs accusent les géants d'internet de laisser prospérer ces fausses informations. Après l'élection de Donald Trump à la présidence des Etats-Unis en novembre, Facebook avait ainsi été pointé du doigt. Une étude menée par le Medical College of Wisconsin avait en effet mis en avant que les fausses informations circulant sur le réseau social avaient beaucoup plus de chance de devenir virales que les informations vérifiées. Les algorithmes de Facebook ont en effet tendance à davantage mettre en avant les contenus suscitant plus de réactions, ce qui est généralement le cas des fake news.
Pour y remédier, Google et Facebook multiplient les initiatives dans le domaine. Début février, le moteur de recherche a ainsi lancé en France "Cross Check" un outil qui permet à dix-sept médias français de travailler ensemble. L’objectif ? "S’assurer que les rumeurs et fausses déclarations soient rapidement détectées et que les nouvelles trompeuses ou fallacieuses soient corrigées".