verbatome
Verbatome / 2026Du texte à l’assistant

Anatomie
d’un LLM

Les mécanismes essentiels des modèles de langage deviennent des objets à observer, tester et modifier.

01-08

Un parcours progressif, du texte brut à l’assistant. Aucun prérequis en IA. Nul besoin d’être mathématicien.

Commencer le parcours

Essayez maintenant

Cassez une phrase.

Tapez pour voir les unités produites par notre tokeniseur pédagogique.
42 / 240 caractères
Un␣modèle␣reçoit␣des␣tokens,␣pas␣des␣mots.

25 tokens

Notre manière d’apprendre

Comprendre avec les mains.

  1. 01

    Manipuler avant de nommer

    Vous observez un cas concret, prenez le risque d’une prédiction, puis manipulez le mécanisme. La théorie vient éclairer ce que vous avez vu.

  2. 02

    Construire sans boîte noire

    Chaque leçon reprend le résultat de la précédente : texte, tokens, vecteurs, contexte, blocs, prédiction, entraînement, puis assistant.

  3. 03

    Voir le calcul se construire

    Tokens, vecteurs, poids et probabilités restent visibles pendant que vous les manipulez.

Index / 08

Le parcours

Un parcours progressif, du texte brut à l’assistant. Aucun prérequis en IA. Nul besoin d’être mathématicien.

01

Texte → prédiction

  1. Le jeu que joue un modèle de langage

    Aucun neurone ici : comptez ce qui suit chaque mot et jouez vous-même la boucle de génération.

02

Texte → tokens

  1. La tokenisation, ou comment un modèle lit

    Caractères, mots ou sous-mots : trois façons de casser une phrase, trois factures différentes.

03

Tokens → vecteurs

  1. Les embeddings : le sens devient géométrie

    Faites glisser des mots sur une carte jouet et regardez la ressemblance devenir un angle.

04

Vecteurs → contexte

  1. L’attention, le moment où les tokens se parlent

    Même mot, deux phrases : regardez l’attention fabriquer deux vecteurs différents.

05

Contexte → bloc

  1. Le bloc Transformer, l’étage que l’on empile

    Positions, normalisation, MLP, résidus : suivez un vecteur à travers un étage complet.

06

Bloc → token suivant

  1. Logits, température et le token qui sort

    Le vecteur final devient un pari sur tout le vocabulaire - et le jouet non entraîné garde une surprise en réserve.

07

Erreur → apprentissage

  1. L’entraînement, la machine qui corrige ses nombres

    Perte, gradient, petit pas, recommencer : regardez le pari absurde du chapitre 6 basculer.

08

Modèle → assistant

  1. Du continuateur brut à l’assistant

    Même tour, trois écoles : base, dialogues exemplaires, préférences humaines - et leurs limites.

Entrez dans la machine.

Ouvrir le premier chapitre