Accueil / Ce qu'est un modèle de langue, sans jargon

Le sens sans dictionnaire, et pourquoi l'ordre compte

Claude n'ouvre aucun dictionnaire, il associe chaque mot à des mots de sens proche et évalue chacun par rapport à tous les autres au moment de répondre, ce qui fait que la place d'une consigne dans le message change son poids réel dans la réponse.

Claude ne consulte aucun dictionnaire pour comprendre un mot. Il associe chaque mot aux mots de sens proche rencontrés pendant son entraînement, puis, au moment de répondre, il évalue chaque mot du message par rapport à tous les autres pour décider de ce qui compte le plus. Cette évaluation n'est pas uniforme sur toute la longueur du message, la position d'une information change le poids réel qu'elle reçoit.

Le début et la fin retiennent mieux que le milieu

Anthropic a publié une étude sur ce point précis, menée sur des messages très longs. Le résultat central tient en une phrase, placer une consigne tout à la fin du message augmente les chances que Claude s'en souvienne au moment de répondre, parce que la fin du message pèse plus lourd dans le calcul final. La même étude précise que ce constat n'est pas une loi universelle, sur un autre modèle testé, la relation observée dessinait plutôt une courbe en creux, avec un début et une fin également bien retenus, et certaines techniques de rédaction, comme fournir des exemples ou demander un raisonnement écrit avant la réponse, peuvent au contraire desservir une information placée tout au bout d'un document très long.

Déplacer la consigne qui compte vraiment

La règle pratique qui en découle reste simple malgré la nuance, quand un message dépasse quelques phrases, la consigne la plus importante gagne à se trouver au tout début ou tout à la fin, jamais noyée au milieu d'un long paragraphe de contexte. Voici le même message, avant et après ce déplacement.

Avant : voici le compte rendu de la réunion, dix paragraphes de notes en vrac,
résume ce compte rendu en trois points pour les adhérents absents, puis les annexes.

Après : résume ce compte rendu en trois points pour les adhérents absents.
Voici le compte rendu, dix paragraphes de notes en vrac, puis les annexes.

Dans la seconde version, la consigne ouvre le message, elle n'attend pas d'être retrouvée après dix paragraphes de contexte.

Le principe vu dans la leçon précédente, un modèle plus profond ne répare pas une mauvaise structure, s'applique aussi ici, l'ordre des mots agit sur un levier distinct du choix du modèle, à l'intérieur d'un même message.