Instagram, l’application de partage d’images et de vidéos a annoncé qu’elle s’attaquerait à l’intimidation généralisée sur sa plateforme. Le nouveau responsable d’Instagram, Adam Mosseri, a confirmé dans un article de blog que l’équipe visait à propager le respect et la gentillesse en utilisant une intelligence artificielle, et un apprentissage automatique capables de détecter l’intimidation et le harcèlement. Il souhaite qu’Instagram soit un lieu de créativité et d’expression libre, mais également un lieu où les gens se sentent en sécurité.
L’Intelligence artificielle pour lutter contre l’intimidation
Alors que la confiance du public envers Facebook continue de se dégrader, Instagram reste le point de mire de la gamme de produits de la société. C’est une activité populaire, rentable et qui n’a pas encore été entachée par les scandales qui ont miné Facebook. Dans ce contexte, il est extrêmement important d’utiliser l’intelligence artificielle pour éliminer les contenus choquants, et conserver à Instagram une place de choix pour de bonnes vibrations.
La technologie permet de numériser optiquement des photos comprenant des tactiques d’intimidation, ainsi que les menaces qui pèsent sur le bien-être et la santé d’une personne. Les photos seront ensuite envoyées à une équipe humaine de modérateurs de la communauté pour examen. En mai de cette année, Instagram commençait déjà sa lutte contre le harcèlement en ligne en introduisant un outil qui bloque les commentaires offensants. Les utilisateurs peuvent activer l’option « Masquer les commentaires offensifs » qui pourrait masquer le contenu sexuel explicite, ou le harcèlement pour les publications et la vidéo en direct.
Encore plus, l’année dernière, l’application de partage de photos a introduit une nouvelle intelligence artificielle, qui permet de scanner les commentaires, et de filtrer ceux qui contiennent des mots et des phrases offensants. Ce n’est pas non plus votre système de filtrage typique qui a simplement interdit des mots prédéterminés spécifiques. Au lieu de cela, le système d’apprentissage automatique examine une phrase entière, et prend également en compte le contexte d’une réponse. De cette façon, il pourrait capter plus de mauvais commentaires, tout en évitant le type de faux positifs accidentels générés par les systèmes d’interdiction de mots.
La nouvelle fonctionnalité sera proposée aux utilisateurs dans les semaines à venir, juste à temps pour le Mois national de la prévention de l’intimidation qui se tiendra en octobre aux États-Unis, et juste avant la Semaine de la lutte contre l’intimidation au Royaume-Uni. La même technologie est également ajoutée aux vidéos en direct pour filtrer les commentaires. Une nouvelle fonctionnalité sera aussi ajoutée dans le cadre de la promotion du bien-être. Cette nouveauté est appelée «effet de caméra de gentillesse». Cela remplit l’écran de cœurs en mode selfie, et vous permet de taguer un ami que vous soutenez, ou pour qui vous voulez montrer de l’affection. « Bien qu’il soit important d’arrêter les brimades, nous devons également faire plus pour célébrer et inspirer la gentillesse sur Instagram », a déclaré Mosseri. Avec ses nouvelles fonctionnalités, Instagram sera un des réseaux des plus sécurisés, et surtout sûrs pour tous.
