Dans cette leçon
L’entraînement, la machine qui corrige ses nombres
Perte, gradient, petit pas, recommencer. Libérez exactement deux nombres, regardez la descente de gradient traîner une ligne de la carte, et voyez basculer le pari absurde du chapitre 6.
À la fin, vous saurez
- Expliquer l’entraînement comme une mesure de perte, un calcul de gradient et de petites mises à jour répétées.
- Expliquer pourquoi la géométrie apprise sert la prédiction plutôt que l’intuition humaine.
Avant de commencer : Logits, température et le token qui sort
Personne n’a écrit les nombres d’un vrai modèle de langage. Ni la table d’embeddings, ni les projections Q, K, V, ni le MLP - pas un seul des milliards. Le chapitre 6 s’est terminé sur la preuve que cela compte : notre tour soigneusement fabriquée à la main, devant « manger un », pariait 46 % sur chat. Ce chapitre montre le mécanisme qui écrit les nombres : mesurer à quel point on se trompe, calculer la direction qui trompe moins, faire un petit pas, recommencer. À la fin, le même pari se pose sur avocat - et vous aurez regardé chaque étape de la réparation.
Observez ce qui a le droit de bouger
Le véritable entraînement ajuste tous les paramètres à la fois, ce qui est impossible à regarder. Ce laboratoire gèle donc la tour entière et libère exactement deux nombres : les coordonnées de la ligne d’avocat dans la table du chapitre 3 - celle-là même que vous traîniez à la main. Le vecteur de contexte h de « manger un » reste fixe ; la seule question est de savoir où la machine traînera cette ligne, et elle y répond avec trois gestes : une perte qui note le pari actuel, un gradient qui pointe vers le haut, et un petit pas dans l’autre sens.
Prédisez la forme de l’apprentissage
La perte démarre à 6,8 - le prix d’avoir donné 0,1 % de chances à la bonne réponse.
Votre pari
Au taux d’apprentissage 0,1, à quoi ressemblera la courbe de perte pendant l’entraînement ?
Personne ne corrige. Engagez-vous, l’instrument tranchera.
Toute la tour est gelée sauf deux nombres : la ligne d’avocat dans la table du chapitre 3. Regardez la descente de gradient la traîner.
Le pari du modèle
| Mot | Part |
|---|---|
| chat | 46,1 % |
| chien | 31,8 % |
| reine | 10,9 % |
- Perte −log p(cible)
- 6.804
- p(cible)
- 0,1 %
Le modèle parie encore de travers. Continuez à entraîner.
Courbe de perte
0 → 6.804
La carte, pendant l’entraînement
Sept lignes restent fixes ; la ligne d’avocat (en orange) est traînée pas à pas. Le trait montre son trajet.
Inspecter le gradient
| Vecteur de contexte h (gelé) | [3.659, 1.933] |
|---|---|
| Force de traction (1 − p) | 0.999 |
| Gradient actuel | [-3.655, -1.931] |
| Ligne d’avocat actuelle | [-0.680, 0.440] |
gradient = −(1 − p(cible)) × h ; mise à jour : ligne ← ligne − pas × gradient
Manipulez la descente
Entraînez pas à pas et regardez trois affichages bouger ensemble : la perte tombe, p(avocat) grimpe, et sur la carte, la ligne d’avocat glisse physiquement - la descente de gradient est un glisser-déposer exécuté par le calcul différentiel. Au taux 0,1, le pari bascule au pas 4. Réinitialisez au taux 0,01 : même destination, trente-huit pas de reptation. Le taux 1 traverse d’une seule enjambée. Dans cette cuvette à deux paramètres, plus grand veut simplement dire plus vite ; gardez cette idée pour l’aparté ci-dessous, car elle est fausse à grande échelle.
Défi Deux missions. Un : après le basculement, continuez d’entraîner et surveillez la force de traction (1 − p) dans l’inspecteur. Expliquez pourquoi l’entraînement se freine tout seul à mesure que le modèle réussit. Deux : regardez où la ligne d’avocat finit sur la carte - juste à côté de chat. Vérifiez les voisins qu’elle a quittés. Quelque chose de la carte du chapitre 3 a été sacrifié en silence ; nommez-le.
Expliquez la boucle en trois gestes
La perte est l’entropie croisée : −log p(cible). Elle est brutale envers les erreurs sûres d’elles - parier 0,1 % sur la vérité coûte environ 7 ; parier 90 % coûte 0,1 - et c’est exactement la pression qui force un modèle à se calibrer.
Le gradient, pour cette tête softmax, a une forme fermée qui mérite d’être lue à voix haute :
gradient = −(1 − p(cible)) × h
Tirer la ligne de la cible vers le vecteur de contexte, avec une force proportionnelle à la surprise. Quand p(cible) est minuscule, la traction est féroce ; à mesure que le modèle réussit, elle s’éteint. L’entraînement s’auto-éteint - la première mission du défi le montre en direct. Et la mise à jour tient en une ligne, tout le rituel de l’IA moderne : ligne ← ligne − pas × gradient.
- Mesurerperte = −log p(avocat)
- Dérivergradient = −(1 − p) × h
- Avancer, recommencerligne ← ligne − pas × gradient
Agrandissez maintenant l’image honnêtement. Un vrai modèle calcule ce même gradient pour chaque paramètre en même temps - lignes d’embeddings, Q, K, V, poids du MLP, tous - grâce à la rétropropagation, qui n’est que la règle de dérivation en chaîne appliquée à toute la tour. Il le fait sur des milliards de phrases, pas sur une. Et votre seconde mission a trouvé le prix de notre raccourci : pour gagner un seul pari, la machine a traîné avocat dans le voisinage de chat - leur cosinus est passé de −0,27 à 0,998. La carte sert désormais la prédiction et horrifierait un lexicographe. C’est la leçon la plus profonde de ce jouet : la géométrie apprise obéit à la perte, pas à la taxonomie humaine. Les vrais modèles équilibrent des milliards de phrases, alors leur géométrie finit utile pour d’innombrables paris à la fois - mais elle obéit au même maître.
Ce que la cuvette ne peut pas montrer. Deux paramètres libres forment une cuvette convexe, où un pas géant est simplement efficace. Le paysage de perte d’un modèle à milliards de paramètres n’a rien d’une cuvette, et les pas trop grands y détruisent réellement des entraînements - cette affirmation repose sur la littérature d’optimisation, pas sur ce laboratoire. Et rappelez-vous : l’entraînement n’a inséré ni fait ni compréhension. Il a fait baisser un nombre. La grammaire, le calcul, le « savoir » et les biais des données entrent tous dans un vrai modèle par la même porte : tout ce qui aide ce nombre à baisser.
Réfléchissez à ce que dit le gradient
Point de contrôle
Le gradient vaut ici −(1 − p(cible)) × h. Que dit-il littéralement à la machine ?
Reliez la machine réparée aux vraies
Le jouet complète désormais « manger un » par avocat. Chaque étape de la carte du modèle est construite, et le seul mystère que laissait le chapitre 6 - d’où viennent les bons nombres - est devenu un mécanisme lui aussi : l’erreur, mesurée ; la direction, calculée ; les pas, répétés. Portez cela à des milliards de paramètres et à des océans de texte, et vous obtenez ce que les praticiens appellent un modèle de base : un magnifique continuateur de texte, et rien d’autre. Il complète ; il ne répond pas, ne refuse pas, ne suit pas de consignes. La courte distance entre ce continuateur brut et l’assistant à qui vous parlez tous les jours, c’est le dernier chapitre de ce cours.
Sources et périmètre
- Rumelhart, Hinton et Williams (1986) introduisent la rétropropagation - la machinerie de dérivation en chaîne qui calcule ces mêmes gradients à travers toutes les couches d’un vrai réseau.
- Bengio, Ducharme, Vincent et Jauvin (2003) entraînent des lignes d’embeddings exactement ainsi - par descente de gradient sur l’entropie croisée du token suivant - à l’échelle réelle.
- Ce laboratoire dérive deux paramètres libres analytiquement ; aucune rétropropagation à travers la tour n’est effectuée, et le comportement des taux dans cette cuvette convexe ne se généralise pas aux vrais paysages de perte.
- Contenu et affirmations relus le 18 juillet 2026.