Instagram floutera les photos intimes pour les personnes mineures

Alors que les réseaux sociaux sont régulièrement accusés de ne pas en faire assez pour protéger les jeunes en ligne, Meta a annoncé jeudi de nouvelles mesures sur Instagram pour les protéger du chantage aux photos intimes.

Le géant américain va ainsi mettre en place un contrôleur de nudité sur Instagram, paramétré par défaut sur les comptes des personnes mineures. L’outil détectera automatiquement les images avec de la nudité reçues sur la messagerie de l'application et les rendra floues.

De cette façon, la ou le destinataire n'est pas exposé de manière non désirée à un contenu intime et a le choix de voir cette image ou non, explique à l'AFP Capucine Tuffier, responsable de la protection de l’enfance de Meta en France.

Des messages de sensibilisation sur le chantage aux photos à caractère sexuel, aussi appelé sextorsion, seront également envoyés à la personne qui les a envoyées et à celle qui les a reçues. Il s’agit d’un rappel que ces contenus sensibles peuvent aboutir à des captures d'écran et à des transferts par des personnes malintentionnées.

Il s'agit de réduire la création et le partage de ce type d'images.

Ces nouvelles mesures seront testées à partir de mai dans une poignée de pays en Amérique centrale et latine avant un déploiement mondial dans les prochains mois.

Meta précise que lorsqu'un compte aura été identifié par ses outils d'intelligence artificielle (IA) comme étant potentiellement à l'origine de ce type de chantage, ses interactions avec des internautes d’âge mineur seront fortement limitées.

Un compte de potentiel malfaiteur ne pourra ainsi pas envoyer de messages privés à un compte d’une personne mineure. Il n'aura pas accès à sa liste complète d’abonnements (les comptes de personnes mineures étant cachés) et les comptes appartenant à des personnes mineures n'apparaîtront plus dans la barre de recherche, d’après ce que détaille Capucine Tuffier.

Meta préviendra aussi les jeunes internautes si une communication est établie avec un potentiel malfrat. La personne mineure sera alors dirigée vers un site dédié Stop Sextorsion (arrêtons la sextorsion) et aura accès à une ligne d'écoute téléphonique en partenariat avec des associations.

Meta accusée d’être en retard

C'est plutôt bien que Meta mette par défaut les moyens de se prémunir de ce type d'agression ou de harcèlement, indique à l'AFP Olivier Ertzscheid, chercheur à l'Université de Nantes en sciences de l'information.

Selon lui, au regard du flux et du volume de contenus photographiques qui circulent sur les plateformes, on est obligé de passer par des automatisations qui relèvent de l'intelligence artificielle.

La question qui se pose, c'est pourquoi ils ne l'ont pas fait avant? s'interroge Olivier Ertzscheid, qui estime que ce genre de technologie existe déjà depuis plusieurs années. Il montre également du doigt le risque de dérives et de faux positifs, et prend l'exemple de photos de femmes en maillot de bain qui, par le passé, ont déjà pris en défaut ces algorithmes.

Ces faux positifs ont un effet parce qu'ils installent de nouvelles formes de normativité.

Pour lui, la modération peut éviter certains de ces écueils, mais toutes ces plateformes sont aujourd'hui en défaut de modération humaine.

Une poignée d’autres mesures

Meta, accusée aux États-Unis et en France de nuire à la santé mentale des ados, avait déjà annoncé en janvier une première salve de mesures pour mieux protéger les jeunes.

Parmi celles-ci, une personne mineure aura désormais besoin de la permission explicite de ses parents pour faire passer son compte de privé à public, accéder à plus de contenus dits sensibles ou avoir la possibilité de recevoir des messages de personnes qu'elle ne suit pas déjà sur la plateforme.

La Commission européenne a lancé des enquêtes séparées sur Meta, Snap (Snapchat), TikTok, YouTube sur les mesures mises en œuvre pour protéger la santé physique et mentale des jeunes.