Meta vient d'étendre à Facebook et à son assistant Meta AI une alerte qui n'existait jusqu'ici que sur Instagram. Le principe : si un adolescent dont le compte est supervisé par un parent cherche à plusieurs reprises, sur une courte période, des termes liés au suicide ou à l'automutilation, le parent reçoit une notification. Pas pour une recherche isolée, mais pour une répétition que l'algorithme juge inquiétante.

L'alerte arrive par le canal que Meta a sous la main : notification dans l'appli, e-mail, SMS, ou même message WhatsApp. Et elle ne concerne pas que les recherches. Les conversations avec Meta AI, le chatbot maison, sont aussi surveillées : si un ado échange avec l'IA sur des idées noires, un signal part vers le parent. Meta précise que ces conversations repérées passent d'abord par une relecture humaine avant tout envoi.

Reste la question qui fâche, celle de la vie privée. Un parent qui reçoit l'alerte ne voit ni les mots-clés exacts tapés par l'ado, ni le contenu de ses discussions avec Meta AI. Il sait juste qu'il y a un motif d'inquiétude. L'ado garde ses prompts et les réponses de l'IA pour lui, même si le parent peut consulter jusqu'à dix grands thèmes abordés avec le chatbot sur les sept derniers jours. Un compromis, donc, entre surveillance et intimité.

Contenu externe hébergé par m.media-amazon.com.

Ouvrir sur le site source

Envie de creuser le débat sur les ados et les réseaux sociaux ?

Faut-il interdire les réseaux sociaux aux jeunes ? → voir sur Amazon

Lien affilié Amazon

Petit détail qui a son importance : tout ça ne fonctionne que si la supervision parentale est activée. Sans compte supervisé, un ado peut chercher ce qu'il veut, aucune alerte ne partira. La fonction ne s'impose à personne, elle se configure.

Par chez nous, l'Union européenne faisait déjà partie des premiers territoires à recevoir l'alerte sur les recherches, aux côtés de l'Inde et du Brésil. L'extension à Facebook et à Meta AI élargit donc un dispositif déjà connu des parents européens. Meta planche aussi, mais ce n'est pas encore en service, sur un système qui préviendrait directement les secours quand une conversation avec son IA laisse craindre un danger immédiat.

On en pense quoi ? L'intention est difficile à critiquer, et filtrer les mots-clés plutôt que les transmettre bruts évite le pire des travers. Reste que confier à un algorithme le soin de repérer la détresse d'un gamin, puis à une relecture humaine le soin de trancher, ça demande une confiance énorme dans la machine. Espérons qu'elle la mérite.

Crédit photo : Meta