par Derrière chaque réponse de ChatGPT ou de Gemini se cache une facture vertigineuse. Entraîner un grand modèle de langage, c’est mobiliser des milliers de processeurs spécialisés pendant des semaines, voire des mois, et le montant final donne le tournis.
Les chiffres parlent d’eux-mêmes. L’entraînement de GPT-4, le modèle d’OpenAI sorti en 2023, est estimé à plus de cent millions de dollars. Du côté de Google, la première version de Gemini aurait coûté environ 191 millions de dollars, selon des estimations relayées par Epoch AI et Statista. On parle donc de sommes qui dépassent le budget de bien des films à gros budget, pour entraîner un seul modèle.
Et la tendance n’est pas près de s’inverser. Dario Amodei, patron d’Anthropic, prévient que les modèles actuellement en cours d’entraînement coûtent déjà autour d’un milliard de dollars. Ses projections donnent le vertige : dix, voire cent milliards de dollars dans les années à venir. Depuis 2016, le coût d’entraînement aurait été multiplié par 2,4 chaque année. Une inflation continue qui réserve l’accès à cette technologie à une poignée d’acteurs aux poches très profondes.
La raison de ces montants tient en grande partie au matériel. Les processeurs graphiques nécessaires coûtent entre 30 000 et 40 000 dollars pièce, et il en faut des milliers. À cela s’ajoutent les frais d’infrastructure cloud, l’électricité et le refroidissement. Bref, une logistique industrielle lourde, loin de l’image du logiciel qu’on développe dans un garage.
Pour comprendre ce qui se cache vraiment derrière l’IA :
L’Intelligence artificielle Pour les Nuls → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Cette course aux milliards inquiète. David Cahn, du fonds Sequoia Capital, agite le spectre d’une bulle. Selon ses calculs, le secteur devrait générer environ 600 milliards de dollars de revenus annuels pour seulement équilibrer les investissements engagés. On en est encore très loin, et la question de la rentabilité finit par se poser sérieusement.
Il y a aussi un coût qu’on oublie souvent, celui pour la planète. Entre 20 et 50 requêtes adressées à GPT-3 consommeraient l’équivalent d’un demi-litre d’eau, utilisée pour refroidir les serveurs. Les projections pour 2027 évoquent une consommation de 4 à 6,5 milliards de mètres cubes d’eau douce, soit plusieurs fois la consommation annuelle d’un pays comme le Danemark. Et l’entraînement de GPT-3 aurait généré 502 tonnes de CO2, l’équivalent de dizaines d’empreintes carbone annuelles d’un Européen.
On a tendance à percevoir l’intelligence artificielle comme quelque chose d’immatériel, une simple ligne de texte qui apparaît à l’écran. La réalité est tout autre. Derrière la magie apparente, il y a des usines à calcul, des montagnes d’argent et une facture environnementale bien réelle.
Crédit photo : DR
