Le PDG de Facebook Mark Zuckerberg a estimé mercredi qu'il serait "sensé" que le réseau social se dote d'une politique spécifique en matière de vidéos "deepfake", aux trucages hyper-réalistes faisant dire à des personnalités des propos qu'elles n'ont jamais tenus.
Comme d'autres contenus, les "'deepfakes' en particulier sont un sujet pour lequel nous sommes en train d'évaluer ce que devrait être la politique" de Facebook, a déclaré Mark Zuckerberg, lui-même récemment victime d'une vidéo de ce type publiée sur sa filiale Instagram, qui ne l'avait pas supprimée. "Il serait vraisemblablement sensé d'avoir une politique différente et de traiter cela différemment de la façon dont nous traitons la désinformation" classique, a-t-il dit, rappelant que Facebook ne souhaitait pas se faire l'arbitre de la vérité. Il s'exprimait lors d'une conférence à Aspen, dans le Colorado, retransmise sur internet.
Une manipulation d'une redoutable efficacité
Les vidéos "deepfakes" se multiplient, rendues de plus en plus réalistes grâce aux avancées et à la démocratisation des outils d'intelligence artificielle, ouvrant la porte à des actions de manipulation d'une redoutable efficacité. Facebook utilise des vérificateurs ("fact-checkers") externes, dont l'AFP, pour étiqueter certains contenus comme "faux" ou trompeurs. Le réseau social modifie alors ses algorithmes pour limiter leur propagation mais refuse de les supprimer. C'est d'ailleurs, a-t-il justifié, ce qui explique que le groupe ait refusé de supprimer récemment une vidéo manipulée de la présidente de la Chambre américaine des représentants Nancy Pelosi, au grand dam de cette dernière.
La vidéo, devenue rapidement virale, n'était pas une "deepfake" mais avait été fortement ralentie de façon à ce que l'élue semble s'exprimer difficilement, comme si elle était saoule. En revanche, "l'erreur de notre part, a été qu'il a fallu à nos systèmes (...) plus d'un jour pour la signaler" comme manipulée aux utilisateurs, a-t-il reconnu, ajoutant que la vidéo s'était donc davantage propagée qu'elle n'aurait dû.