Tokens IA : maîtrisez vos coûts et optimisez

‍

Il y a une chose que vous ignorez peut-être sur l’IA, et qui change pourtant tout dans la façon de s'en servir.

‍

Quand vous discutez avec une IA, vous avez l'impression d'un échange : vous envoyez un message, elle répond, vous enchaînez. Comme une conversation avec un•e collègue.

‍

Sauf que ce n'est pas du tout ce qui se passe.

‍

Une IA n'a pas de mémoire. À chaque message que vous envoyez, tout l'historique de la conversation lui est renvoyé. Votre premier message, sa réponse, votre deuxième message, sa réponse, et ainsi de suite. Elle relit tout, à chaque nouveau prompt, depuis le début.

‍

Et tout ça se mesure. L'unité s'appelle le "token", par exemple dans :  « Comment créer un site web ? », ça génère une dizaine de tokens. C'est la monnaie dans laquelle tout se compte : ce que vous envoyez, ce que l'IA répond, et tout ce qui est rejoué à chaque tour.

‍

Concrètement, ce "compteur de tokens" fonctionne comme ceci.

‍

Prenons un exemple fictif pour bien comprendre : Vous demandez comment créer un site web. Votre question compte pour 10 tokens, l'IA répond avec 30 nouveaux tokens. Vous enchaînez « et pour ajouter une boutique ? » : votre question ne génère que 12 tokens, mais ce qui part réellement, c'est 12 plus tout ce qui précède, soit 52 tokens en tout ! L'IA répond. Vous demandez le code complet, une phrase de 10 tokens à peine : cette fois, ce qui part, c'est 97 tokens. Le code plante, vous tapez « corrige » : sept lettres, et pourtant le message le plus lourd de toute la conversation génère près de 140 tokens en tout, parce qu'il renvoie tout ce qui précède, y compris le code raté.

‍

Regardez la suite : 10, puis 52, puis 97, puis près de 140 tokens. Pour quatre petits messages. Alors que la même question posée seule, en début de conversation, aurait coûté dix fois moins de tokens.

‍

C'est ça que presque personne ne visualise : chaque discussion pèse plus que le précédent, parce qu'il contient tous les autres. La courbe ne monte pas doucement. Elle s'envole.

‍

Pourquoi c'est important ? Pour deux raisons, une visible et une qui arrive.

‍

La première raison visible : la qualité. En clair, plus une conversation s'allonge, plus il devient difficile pour l'IA de faire le tri et d'y répondre de manière pertinente.. La réponse fausse d'il y a dix messages, pour le système, c'est un bloc comme les autres. Elle reste dans le contexte, elle repart à chaque tour, et elle finit par ressortir. C'est le moment où votre conversation « devient bête ». "Garbage in, garbage out" : si ce qu'on envoie est chargé et confus, la qualité de la réponse sera dégradée..

‍

La deuxième raison, moins visible : le prix. Aujourd'hui, la plupart d'entre nous payons un abonnement, et le compteur de tokens tourne sans qu'on le voie. C'est lui, déjà, qui fait fondre vos quotas plus vite que prévu. On constate que le monde professionnel bascule vers le paiement à la consommation, au token consommé. Des entreprises qui sont passées à ce modèle ont vu des budgets annuels partir en un trimestre, simplement parce que personne n'avait jamais regardé ce compteur. Le jour où votre facture dépendra du nombre de vos tokens consommés, savoir pourquoi une simple requête de correction de quelques mots coûte cher ne sera plus un détail technique. Ce sera une vraie compétence.

‍

La bonne nouvelle : quelques réflexes suffisent pour améliorer vos réponses dès aujourd'hui.

‍

Faites des conversations courtes. Un sujet, une conversation. Et quand une discussion s'étire, demandez « résume-moi l'essentiel et donne-moi un prompt pour repartir sur une conversation neuve ». Vous gardez le fil de la conversation, et vous repartez sur des bases plus claires..

‍

Sélectionnez ce que vous donnez. Charger cinq PDF « au cas où », c'est alourdir chaque message qui suit, puisque tout est renvoyé à chaque tour. Un seul bon document vaut mieux que dix en réserve.

‍

Méfiez-vous aussi de ce qui est branché : outils connectés, consignes permanentes, instructions personnalisées. Utile, souvent, mais gratuit, jamais.

‍

Dernier réflexe, le plus contre-intuitif : n'en mettez pas trop. On vous a longtemps conseillé de donner un rôle à l'IA, de tout détailler. Les modèles n'en ont aujourd'hui plus besoin. Une demande courte et claire suffit, et elle coûte moins de tokens.

‍

Ce petit jeu porte même un nom : le mathématicien Adam Kucharski l'appelle le « tokenminning », l'art d'obtenir un résultat aussi bon avec le minimum de tokens. Certains vont jusqu'à faire répondre leur IA en homme des cavernes pour économiser des mots. « Moi faire site web. Site marcher. » On ne vous conseille pas d'aller jusque-là.

‍

Retenez juste le principe : plus c'est léger, mieux ça répond.
Si vous aviez un doute sur la meilleure manière de communiquer avec l’IA, maintenant vous savez.