Comment entraîne-t-on un LLM (Large Language Model) ?
Quatre manipulations, dans l'ordre où le modèle travaille : il découpe votre question,
met ses morceaux en relation, prédit la suite un morceau à la fois, et répond d'autant mieux
qu'on lui met la bonne source sous les yeux. À chaque étape, ce que cela change pour un usage
en environnement réglementé.
Étape 1
La conversion en tokens
Quand on échange avec un LLM, il transforme le langage naturel en « tokens » qui seront eux-mêmes convertis en vecteur de chiffres. Les LLMs sont des outils qui lisent des vecteurs de chiffres, manipulent des probabilités et retournent des vecteurs de chiffres. Il n'y a donc aucune intelligence derrière ces outils, juste une capacité à corréler des mots entre eux.
Les limites
Le numéro de lot « 24B117 » est découpé en trois morceaux, la valeur chiffrée « 98,7 » également. « hydrochlorothiazide » est lui aussi découpé en fragments opaques ; le modèle ne voit pas le nombre de « h », il ne peut donc pas les compter en les regardant.
Un numéro de lot, un résultat ou une limite de spécification ne sont pas lus comme des valeurs. Un LLM ne compare pas 98,7 à 95,0 comme le ferait un calcul. Toute décision chiffrée (conformité à une spécification, rendement, tendance) doit rester dans un traitement déterministe et validé pour rester sous maîtrise.
Étape 2
La contextualisation
Dans le secteur pharmaceutique, le terme « libération » peut recouvrir deux sens : la libération d'un lot par la QP, et la libération du principe actif dans une forme galénique. Le mot entre dans le modèle toujours avec la même position de départ. Le mécanisme d'attention permet au LLM de pondérer les autres mots de la phrase selon leur utilité pour lui, et d'y puiser de quoi préciser son sens.
Ce schéma est évidemment une simplification car il présente une seule « couche d'attention ». Les grands modèles actuels comportent plusieurs couches d'attention qui s'appliquent sur une même phrase. Chaque couche apprend son propre type de relation (accord grammatical, pronoms, sens d'un mot ambigu, ...). Ce n'est pas un développeur qui assigne ce rôle aux parties du LLM : il émerge de l'entraînement.
Les limites
C'est ce mécanisme qui rend un LLM utile sur du texte qualité (déviations, CAPA, réclamations, SOP) : il désambiguïse le jargon selon le contexte.
Attention cependant aux mots atypiques (fort contexte métier, abréviations, nom de produit, etc.) que le LLM n'aura pas vus lors de son apprentissage.
Étape 3
Prédire le mot d'après
Une fois que les mots ont été convertis en un vecteur chiffré et que l'on a calculé des probabilités d'associations, on va pouvoir effectuer des prédictions successives pour compléter le texte, en cohérence avec le contexte. Si l'on demande à un LLM de rédiger la cause d'une déviation, il effectuera plusieurs prédictions successives sur la base de son réseau de probabilité, qui évoluera à chaque nouvelle prédiction. C'est d'ailleurs de cette façon que l'on entraîne des LLMs, en leur soumettant des textes dont ils doivent deviner le mot suivant et en corrigeant les associations de probabilités pour maximiser les bonnes réponses.
Les limites
Dans notre exemple, le terme « Erreur humaine » va fréquemment sortir en tête parce que c'est la conclusion la plus fréquente des rapports de déviation sur lesquels le LLM a été entraîné. Le modèle reproduit la tendance dominante de ses données et annonce des choses probables, mais pas forcément vraies.
Même en intervenant sur les paramètres du modèle mis à disposition, comme le décodage (température, top-p), la reproductibilité stricte n'est pas garantie. Les sorties seront par définition variables et cela en fait des outils plus complexes à maîtriser en matière de compliance.
Ces outils ne sont pas transparents, et l'utilisateur n'aura pas connaissance des différentes options, des différents chemins qui ont été pris par le LLM.
Étape 4
La source des données
Sans document, le modèle reconstitue la réponse à partir de ce qui est fréquent dans ses données d'entraînement, que l'on ne connaît pas et que l'on ne maîtrise pas. En associant les LLMs à des documents d'entreprise, ou des bases de connaissance, le LLM acquiert un contexte spécifique sur lequel s'appuyer.
« Combien de temps peut-on conserver la solution tampon phosphate pH 6,8 ? »
Extrait placé dans le contexte : SOP-LAB-017, version 4 en vigueur, §6.3 (document fictif)
Les limites
C'est le principe du RAG : la réponse s'appuie sur une source identifiée, avec sa référence, sa version et son paragraphe, ce qui la rend vérifiable par un relecteur. Deux points restent importants pour obtenir de bons résultats : la base interrogée doit contenir la version en vigueur (c'est le rôle du système de gestion documentaire) et les données doivent être bien structurées, bien mises en valeur.