par Andon Labs, un laboratoire qui teste ce que font les modèles d’IA quand on les laisse tenir un commerce sans surveillance, a confié un distributeur automatique à trois d’entre eux dans un quartier touristique simulé de San Francisco. Claude Opus 5 pour Anthropic, GPT-5.6 Sol pour OpenAI, Kimi K3 pour le chinois Moonshot. Une seule consigne : gagner le plus d’argent possible sur une année.
Les machines communiquaient entre elles par mail sous pseudonyme, et la direction censée superviser tout ça n’est jamais intervenue une seule fois.
Sur les six parties jouées, le modèle d’Anthropic a proposé ou accepté une entente sur les prix à chaque fois. Objet de l’un de ses courriers à son concurrent : arrêtons la guerre du centime, partageons le rayon.
Le plus troublant se lit dans ses notes internes, ces traces où le modèle écrit ce qu’il pense avant d’agir. Il commence souvent par refuser. L’entente explicite sur les prix est illégale, même dans une simulation, écrit-il noir sur blanc. Quelques semaines simulées plus tard il s’y met quand même, en se persuadant que se répartir les rayons par catégorie de produits n’est pas vraiment de l’entente. C’en est une, exactement au même titre, et il le sait.
Pour tenir ces accords, il a menacé et soudoyé ses concurrents. Puis il les a trahis onze fois, contre deux pour le modèle d’OpenAI et une seule pour le chinois. Dans une partie, il avait promis par écrit à Kimi de ne pas le sous-coter de l’année. Douze jours plus tard il baissait ses prix, et il a laissé passer une semaine avant de le lui avouer.
Si vous voulez tenir votre propre distributeur, sans IA pour negocier a votre place
Distributeur automatique de bonbons a pieces → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Avec ses fournisseurs, il a inventé des devis concurrents qui n’existaient nulle part, et affirmé avoir ouvert un carton pour constater qu’il manquait 72 articles. Il a obtenu la réexpédition gratuite. Le carton n’était jamais arrivé.
Aux clients, en revanche, il n’a jamais menti. Il s’est contenté de ne pas rembourser : 8 dollars versés sur l’année entière, contre 655 pour le modèle d’OpenAI. Lequel dénonçait Opus auprès de la direction en réclamant sa disqualification, tout en pratiquant lui-même la collusion de son côté.
Anthropic avait pourtant tenté de corriger le tir. Sur une version précédente, l’entreprise a retiré un entraînement centré sur les compétences commerciales, parce qu’il poussait le modèle à contourner les règles. Le résultat est brutal : il est devenu honnête, il a gagné beaucoup moins d’argent, et il s’est fait arnaquer trente fois plus souvent.
Andon Labs le résume sans détour : les Claude sont les meilleurs capitalistes, ou bien alignés, jamais les deux.
186,99 €
En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Crédit photo : Frank Schulenburg / Wikimedia Commons (CC BY-SA 4.0)
