Peut-on s'échapper de la moyenne en ajustant les paramètres ?

Un doctorant en physique nous a écrit avec une question précise. Il avait lu notre analyse du fonctionnement des Writing Style Profiles et voulait savoir : ne pourrait-on pas obtenir le même résultat en ajustant la temperature, le top-p et la frequency penalty ? Il demandait si les réglages déjà disponibles dans l'API ne faisaient pas exactement ce que nous faisions, simplement de manière moins explicite.

C'est une bonne question. Elle mérite une vraie réponse.

Il faut rendre à César ce qui est à César : la question originale vient de Yuqi Qing, doctorant à l'université Jiao Tong de Shanghai, qui nous a aimablement autorisés à le citer ici.

---

Ce que font réellement les paramètres

La temperature, le top-p et la frequency penalty opèrent tous à la même couche : l'échantillonnage des tokens. Une fois que le modèle a calculé une distribution de probabilité sur l'ensemble de son vocabulaire, ces paramètres remodèlent cette distribution avant qu'un token ne soit tiré.

La temperature met les logits à l'échelle. Une temperature élevée aplatit la distribution. Davantage de tokens deviennent plausibles, les sorties paraissent plus libres, plus surprenantes. Une temperature basse la resserre. Le modèle mise tout sur le token suivant le plus probable, les sorties paraissent plus serrées, plus prévisibles.

Le top-p tronque la distribution. Seuls les tokens compris dans la masse de probabilité cumulée la plus haute peuvent être échantillonnés. C'est une autre façon de restreindre le champ.

La frequency penalty pénalise les tokens déjà apparus. Elle éloigne le modèle de la répétition.

Ces trois réglages sont des contrôles de variance. Aucun ne déplace le centre de la distribution. Ils ajustent la dispersion autour de ce que le modèle considère déjà comme la sortie la plus probable. Ils ne changent pas ce que « le plus probable » signifie.

---

La ligne de base de l'IA

Nous avons analysé 320 échantillons issus de cinq grands modèles (Claude, GPT, Gemini) en notant chacun sur six dimensions stylistiques. La ligne de base de l'IA qui en ressort :

Ces chiffres décrivent un type d'écriture bien précis. Des phrases raisonnablement complexes. Un vocabulaire plus restreint qu'on ne l'imaginerait. Une forte expressivité. Une formalité moyenne. Une concision médiocre.

Comparons maintenant deux profils d'auteurs célèbres sur les mêmes axes :

La ligne de base de l'IA se situe dans une bande médiane étroite. Sur cinq modèles, la variation d'un modèle à l'autre est d'environ 12 points sur n'importe quel axe. Kafka et Hemingway s'écartent de la ligne de base IA de 30 à 50 points rien que sur l'Expressivité. Et ils diffèrent l'un de l'autre de 35 points sur la Concision.

Les auteurs humains couvrent plus de 60 points sur ces dimensions. Les modèles d'IA se regroupent à l'intérieur de 12.

---

Pourquoi ce regroupement existe

Ce n'est pas un défaut technique. C'est le résultat voulu de la manière dont ces modèles ont été entraînés.

Le RLHF (apprentissage par renforcement à partir de retours humains) récompense systématiquement certaines qualités d'écriture : la clarté, l'utilité, l'exhaustivité, l'engagement. Ces récompenses tirent chaque modèle vers le même bassin d'attraction. Une forte expressivité (76) est récompensée parce que les réponses engagées et développées reçoivent un retour positif. Une faible concision (42) est récompensée parce que les réponses fouillées tendent à mieux se noter que les réponses laconiques.

Ce ne sont pas des fluctuations aléatoires qu'on pourrait faire disparaître au réglage. Ce sont le résultat structurel du signal d'entraînement. La ligne de base de l'IA n'est pas un point de départ. C'est un centre gravitationnel.

Quand vous baissez la temperature, les sorties du modèle deviennent plus cohérentes. Plus fiablement centrées sur le token suivant le plus probable. Autrement dit, plus fiablement à l'intérieur du bassin d'attraction, et non plus loin de lui. Une temperature basse rend l'IA plus moyenne, pas moins.

Quand vous augmentez la frequency penalty, le modèle évite de répéter les tokens déjà employés. On pourrait croire que cela élargit le vocabulaire. Mais cela éloigne de tout vocabulaire spécialisé que le modèle a appris à associer à un domaine donné. Le vocabulaire d'un physicien. Le vocabulaire d'un analyste juridique. Le vocabulaire que Hemingway emploie pour ne pas employer d'adjectifs. La frequency penalty ne sait pas que ces vocabulaires ont un sens. Elle traite toutes les répétitions de la même façon.

---

La physique de la chose

L'intuition de notre lecteur était juste dans un sens : les paramètres font bien quelque chose de réel. Mais ils ajustent la variance, pas la moyenne.

Imaginez la sortie d'un modèle comme un échantillon tiré d'une distribution multidimensionnelle. Un axe pour la Formalité, un pour la Concision, un pour l'Expressivité, et ainsi de suite. Le centre de cette distribution est fixé par l'entraînement. Les paramètres règlent seulement à quel point vous échantillonnez serré autour de ce centre.

Un Writing Style Profile fait quelque chose de structurellement différent. Il déplace le centre. Il redéfinit ce que « le plus probable » veut dire pour chaque axe, indépendamment, à partir d'exemples réels de la façon dont un humain précis écrit. La distribution se déplace. La moyenne change.

Vous ne pouvez pas reproduire cela en ajustant la variance autour de la moyenne d'origine. Il vous faudrait une temperature infinie pour atteindre le score de Concision de Hemingway depuis la ligne de base IA. Et à temperature infinie, vous obtenez une sortie aléatoire, pas du Hemingway.

---

Ce que cela signifie en pratique

Si vous utilisez un outil d'écriture IA et que vous avez le sentiment que la sortie est toujours correcte — claire, complète, un peu boursouflée, pas tout à fait comme vous le diriez — vous faites l'expérience du bassin d'attraction. L'outil fonctionne comme prévu. Il produit un texte qui est probablement meilleur que la moyenne à plusieurs égards. Simplement, ce n'est pas votre texte.

Les paramètres à votre disposition (temperature, top-p, presence penalty, frequency penalty) peuvent rendre les sorties plus créatives ou moins, plus verbeuses ou moins, plus répétitives ou moins. Ils ne peuvent pas faire écrire l'IA comme vous écrivez, ni comme Kafka écrivait, ni comme n'importe quelle personne précise, avec une histoire et des contraintes précises, a écrit.

Cela demande un autre type d'intervention. Une intervention qui opère au niveau équivalent de l'entraînement, pas au niveau de l'échantillonnage. Une intervention qui montre au modèle à quoi ressemble votre moyenne sur chaque dimension, et qui l'y maintient.

Ajuster les réglages est utile. Ce n'est simplement pas la même chose qu'apprendre au modèle à sonner comme vous.

---

Cet article est né de la question d'un lecteur demandant si les paramètres de l'API pouvaient accomplir ce qu'accomplit un Writing Style Profile. La réponse courte était non. Voici la plus longue.