par Meta a lancé le 8 septembre son assistant personnel Muse, un agent censé décrocher le téléphone à votre place : prendre un rendez-vous chez le coiffeur, vérifier si un magasin a encore votre taille en rayon, réserver une table. L’appli a filé tout en haut des classements, numéro un des téléchargements gratuits sur l’App Store et le Play Store américains. Sauf que voilà, tout n’était pas aussi automatique que promis.
Reuters a révélé le 22 septembre que ces appels soi-disant passés par une IA étaient, en partie, passés par de vraies personnes. Meta avait ajouté discrètement une couche d’agents humains, installés dans un centre d’appels, pour terminer les conversations que la machine ne savait pas mener seule. En interne, on appelait ça le concierge humain. L’utilisateur, lui, croyait parler à un robot.
Le problème saute aux yeux. Quand vous demandez à un assistant de rappeler une pharmacie ou de réserver chez le médecin, vous lâchez au passage des informations qu’on n’a pas forcément envie de confier à un inconnu au bout du fil. Des salariés de Meta l’avaient signalé : des données sensibles, parfois médicales, pouvaient atterrir entre les mains d’un sous-traitant, sans que personne côté client ne sache qu’il y avait un humain dans la boucle. Un testeur n’a compris qu’après coup que son interlocuteur n’était pas une IA.
Envie de comprendre ce que ces agents IA savent vraiment faire, et où sont leurs limites ? Ce livre décortique leur fonctionnement sans jargon.
Au cœur de l’intelligence artificielle (Axel Cypel) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Et puis il y a eu l’épisode qui a fait déraper l’affaire. Un employé de Meta a utilisé le service pour passer un appel, et le sous-traitant à l’autre bout a lâché une remarque raciste pendant la conversation. Difficile de faire pire pour un test censé rester confidentiel.
Résultat, Meta Superintelligence Labs a reconnu le couac et suspendu l’expérience la semaine dernière. La firme jure que tout ça relevait des tests internes, histoire de mettre au point les garde-fous de confidentialité avant une éventuelle sortie grand public. Une fonction d’appel arrivera quand elle sera prête, avec les avertissements qui vont bien, promet-on du côté de Menlo Park.
Pour le moment, Muse reste réservé aux États-Unis, donc pas de coiffeur réservé par IA interposée en France. On respire un peu. Reste cette question qui traîne : combien d’assistants soi-disant autonomes tournent en réalité sur du travail humain caché, pendant qu’on nous vend de la magie ?
Crédit photo : Meta
