En IA, nous utilisons souvent 2 termes : entraînement et inférence. Trop souvent, ils sont confondus alors qu'ils répondent à des contextes très précis. Cloudflare les définit ainsi :

• L'entraînement constitue la première phase d'un modèle d'IA. Il peut s'effectuer selon une série d'essais et d'erreurs, ou selon un processus consistant à montrer au modèle des exemples d'entrées et de sorties souhaitées, ou associer les deux méthodes.
• L'inférence correspond au processus suivant l'entraînement de l'IA. Plus un modèle est entraîné et affiné, meilleures seront ses inférences, sans aucune garantie toutefois qu'elles soient parfaites.

Quand on parle de LLM / SLM / TLM, on dit qu'ils sont pré-entraîné. Cela signifie que les modèles sont entraînés durant plusieurs mois en injectant des données pour les "former" à leur usage final. Cette phase est cruciale pour la qualité du modèle et les réponses qui seront générées. Cette phase est longue et exige beaucoup de puissance de calcul surtout pour les très grands modèles. 

L'inférence n'est pas un entraînement du modèle. Il s'agit des réponses générées par le modèle. Quand nous faisons une requête (via un agent, un chat, un prompt), la question est traitée par le service IA s'appuyant sur un modèle. Ce traitement au niveau du modèle est l'inférence. Il doit être rapide et le plus précis possible (la précision et la qualité dépendent du modèle). 

"L’inférence en intelligence artificielle désigne le processus par lequel un modèle préalablement entraîné génère une réponse à une requête utilisateur. Contrairement à l’entraînement, qui mobilise d’importantes ressources de calcul sur une longue période, l’inférence doit être rapide, efficace et répétée des millions de fois en production". (définition de FrenchWeb.fr)

Résumons :

- entraînement : apprendre aux modèles à partir des données, selon prend des mois ou des semaines, beaucoup de compute, il est ponctuel (par exemple : à chaque version du modèle)

- inférence : générer les réponses, rapidité de la réponse, nécessite moins de puissance. Elle est constante pour réagir à chaque demande