Instagram se fait Gemini Cricket. Adam Mosseri, à la tête de la filiale de Facebook, géré en France par Susan Taylor, annonçait lundi un nouveau système de prévention. Lorsqu'un utilisateur saisit un commentaire jugé insultant par le système d'intelligence artificielle, il reçoit une notification lui suggérant de repenser le contenu de son commentaire. Pour reprendre les mots de Mosseri, Instagram aurait découvert 'que cela encourage certaines personnes à revenir sur leur commentaire et à partager des mots moins blessants.'

Restaurer une relation de confiance ?

Par ailleurs, le réseau soumettra bientôt à des tests sa fonction 'restrict' (limiter). L'utilisateur victime de harcèlement pourra couper les contacts avec la personne harceleuse dans la plus grande discrétion. Le compte 'limité' ne sera pas notifié de son nouveau statut, ne verra pas si l'utilisateur a lu ses messages ni s'il est actif. Du reste, ces commentaires ne seront plus affichés à l'utilisateur y ayant eu recours. En 2017, le réseau inaugurait une fonction bloquant les commentaires jugés insultants. Fonction qui s'applique, depuis 2018, aux vidéo en direct. En parallèle, Instagram a commencé à traquer les spams dans les commentaires pour les bloquer. 

Du combat aux actions symboliques

En 2018, la traque monte d'un cran, avec un filtre visant les commentaires tenant du harcèlement. La plateforme a également lancé la détection des violences, par machine learning, dans les photos et leurs légendes. Parmi ses innovations plus symboliques, Instagram propose un filtre 'kindness camera effect', diffusant des messages encourageant la bienveillance sur les réseaux sociaux.