C'est un vrai problème qui concerne de nombreux parents : les enfants regardent tranquillement des dessins animés et, parmi les vidéos proposées à la fin programme, ils peuvent tomber sur du contenu qui ne leur est pas du tout destiné, comme des images d’actualité ou certains clips musicaux. Si ces vidéos doivent aujourd'hui être signalées à la main par les modérateurs, cela pourrait changer car toutes les vidéos inappropriées pour les enfants vont être automatiquement filtrées sur YouTube.
Application d'une directive européenne
Alors que la plateforme reçoit plus de 500 heures de vidéo chaque minute, le géant américain du streaming va faire appel à l’intelligence artificielle pour scanner chaque contenu. Et valider si, oui ou non, il peut être diffusé à tout le monde. Si ce n'est pas le cas, il faudra se connecter pour vérifier qu’on a plus de 18 ans. Dans certains cas, on pourra même demander une preuve, comme une carte bancaire ou pièce d’identité. Ce n’était pas le cas jusqu'ici.
Cela n'a rien d’une prise de conscience soudaine de YouTube. Il se trouve qu’une directive européenne oblige les plateformes à protéger les mineurs sur internet (la directive AVMSD). Cette directive a notamment été traduite dans la fameuse loi qui obligera à prouver son âge sur les sites pornographiques.
Des humains en derniers recours
Peut-on être sûr que l’intelligence artificielle ne va pas censurer des contenus totalement bénins ? Il y aura certainement des bugs et YouTube en est conscient. C'est la raison pour laquelle les auteurs seront prévenus et pourront faire appel. À partir de là, il n'y aura plus de machines mais des humains qui valideront que la vidéo peut bien être visionnée par des enfants.