Suite à la prolifération d’actes terroristes revendiqués sur nos territoires ces dernières années, il leur avait en effet été reproché de participer, malgré eux, à l’essor du terrorisme, en laissant l’accès à des outils de communication très puissants et peu surveillés: vidéos de propagande sur Youtube, utilisation de groupes privés sur des réseaux sociaux pour s’organiser… Ce mois de juin a vu ces géants d’internet annoncer leurs actions contre l’apologie et le recrutement terroriste en ligne, et, lundi dernier, Facebook, Twitter, Microsoft et Google ont déclarés leur intention de lancer une initiative commune à ce sujet: le Forum mondial de l’internet contre le terrorisme.
De nouvelles mesures de sécurité pour Facebook et Youtube
C’est Facebook qui a ouvert le bal en publiant leur plan de lutte sur leur propre réseau éponyme, à la suite de la rencontre entre Emmanuel Macron et Theresa May à propos du terrorisme sur internet.
L’objectif de Facebook est d’utiliser une forme d’IA (Intelligence Artificielle) afin de détecter les contenus sensibles dès leur « upload » (leur téléchargement sur les serveurs de la plateforme). Déjà mise en place depuis une quinzaine de jours, Facebook annonce que désormais « la moitié des comptes supprimés […] sont découverts directement par nous ». En effet, auparavant, Facebook ne supprimait des contenus qu’après signalement d’un internaute (qui devait donc avoir été sujet à ces images, parfois choquantes, comme des vidéos d’exécution). Mais cela va plus loin: Facebook utilise une technologie d’ « apprentissage automatique », d’où le terme IA, afin de déceler les textes relevant de l’apologie du terrorisme et ceux qui ne le sont pas. Lourde tâche: séparer l’information de la propagande, l’avertissement de l’invitation, s’avère extrêmement difficile.
De son côté, Google a annoncé 4 mesures, essentiellement concernant Youtube, sa plateforme de vidéos en ligne. Cependant, le caractère flou de certaines d’entre elles les font apparaître plus comme des promesses que comme un véritable plan d’action. « Utiliser davantage la technologie » et « allouer davantage de ressources en ingénierie » sont donc les engagements de la première mesure. Au-delà de ça, Google va financer plus d’ONG qu’auparavant, notamment des ONG spécialistes de la radicalisation et du terrorisme, afin d’étendre son réseau « trusted flaggers », réseau d’utilisateurs ayant accès à un signalement « privilégié », sorte de modérateurs de Youtube. Ce dernier empêchera également la monétisation de vidéos qui ne sont pas directement en train « d’enfreindre les règles » mais portent tout de même un message « religieux ou suprémaciste incendiaire » ou dangereux. Enfin, la firme de Redmond souhaite généraliser le projet « Redirect Method » à l’Europe. Ce projet consiste à afficher, en lieu et place de la publicité, des liens vers des contenus pédagogiques et anti-propagandes, si l’internaute a saisi des mots clés liés à la radicalisation sur Google.
Un Forum pour les trouver tous
En décembre dernier, Google, Facebook, Microsoft et Twitter se réunissaient déjà autour de la base commune « d’empreintes numériques ». Cette dernière leur sert à répertorier les contenus de propagande terroriste afin que les autres entreprises puissent les effacer plus rapidement de leur plateforme (vu qu’en règle générale, ces contenus sont partagés sur toutes les plateformes indistinctement par leurs créateurs). Mais cette fois, ces entreprises ont franchies un nouveau cap avec le Forum mondial de l’internet contre le terrorisme.
En promettant de travailler avec les gouvernements, et des groupes issus de la société civile, le Forum promeut de nouvelles actions. Les principales? Armer les petites entreprises à se doter de technologies pour lutter contre la prolifération des contenus terroristes, lancer des campagnes de sensibilisation, mais surtout se partager les avancées technologiques en matière d’IA « anti-contenu dangereux » sans contrepartie financière.
Voilà un bon pas en avant de fait. Reste à voir avec quelle ferveur ces mesures seront appliquées, quelles performances atteindront ces IA, et surtout… Jusqu’où ces technologies seront utilisées, sous couvert de lutte contre le terrorisme, afin d’exploiter au mieux nos vies privées?
