Instagram veut filtrer les photos de nudité dans vos messages privés

Cela fait des années qu’Instagram entretient un rapport compliqué avec la nudité. Sur les publications publiques, la règle est stricte : pas de photos de sexes, pas de nus, pas de tétons, qu’ils soient féminins ou masculins. La plateforme assume une ligne plutôt sévère sur le sujet. Mais jusqu’ici, tout cela ne concernait que ce qui était posté au vu et au su de tout le monde. Et les messages privés, dans tout ça ?

Là, c’est une autre histoire, et un vrai problème. Beaucoup d’utilisatrices reçoivent des photos de sexes masculins envoyées par de parfaits inconnus, sans rien avoir demandé. Un harcèlement banalisé, glissé directement dans la messagerie, à l’abri des règles qui encadrent le fil public. Instagram a décidé de s’y attaquer.

La parade prend la forme d’un nouvel algorithme. Celui-ci va analyser les photos envoyées en message privé, et s’il détecte de la nudité, un message d’avertissement s’affichera pour prévenir le destinataire avant qu’il n’ouvre l’image. L’idée n’est pas forcément de tout bloquer, mais de redonner la main à la personne qui reçoit : à elle de décider si elle veut voir ou non.

Le vrai défi technique est ailleurs. Les messages privés sont censés rester privés, et Instagram ne doit surtout pas pouvoir consulter leur contenu. L’algorithme doit donc faire son travail directement sur l’appareil, sans que les photos ne remontent jamais vers les serveurs de la plateforme. Détecter de la nudité sans jamais la regarder, c’est tout l’enjeu de ce système.

On ne sait pas encore si les critères d’analyse seront exactement les mêmes que pour les publications publiques. Mais ce genre de détection est aujourd’hui plutôt mature et fiable, donc on peut s’attendre à un outil globalement efficace. Le diable se cachera, comme souvent, dans les détails et dans les éventuels faux positifs.

Sur le principe, la démarche va dans le bon sens. Donner aux utilisatrices un filtre contre les envois non sollicités, sans sacrifier la confidentialité des échanges, c’est exactement le genre d’équilibre qu’on aimerait voir plus souvent. Reste à juger sur pièce, une fois la fonction réellement déployée et confrontée à la créativité sans limite des importuns.

Crédit photo : DR