La Commission européenne veut forcer les plateformes et services de messagerie, même cryptées comme WhatsApp, à scanner les messages des utilisateurs pour détecter de possibles contenus pédopornographiques. Cela pourrait être des photos, des vidéos ou encore des conversations de potentiels pédophiles qui solliciteraient des mineurs.
Des inquiétudes quant à l'impact sur la vie privée
En somme, tout ce qui pourrait être délictuel ou criminel. Les plateformes elles-mêmes doivent le repérer, le signaler aux autorités et le supprimer. Sauf que cela impliquerait de surveiller indifféremment des conversations privées de n'importe qui, sans ciblage. Et c'est bien cela qui inquiète l'équivalent de la CNIL européenne : qu'il y ait des erreurs et que des personnes soient accusés à tort à cause de l'intelligence artificielle.
Les défenseurs du projet assurent qu'un nouveau centre européen serait créé pour justement contrôler tout ce qui est signalé par les plateformes avant d'être transmis à la police. La Commission européenne a présenté en mai un projet destiné à éviter et combattre les violences sexuelles sur les enfants, en sévissant contre la multiplication des images et des vidéos pédopornographiques et contre la sollicitation d'enfants par des pédophiles.