Petits modèles de langage

Cet outil technologique est une version compacte des modèles d’intelligence artificielle traditionnels LLM (large Language Model). Il s’agit d’un système d’IA avancé conçu pour comprendre, traiter et générer naturellement le langage humain. Ils constituent le moteur qui propulse les assistants IA, comme ChatGPT, Claude ou Gemini.

Le SLM (Small Language Model) a émergé dans les années 2023-2024, lorsque des modèles plus petits et spécialisés ont pu égaler ou surpasser les grands modèles dans des tâches spécifiques. Microsoft, Google et Meta ont montré que des milliards de paramètres ne sont pas toujours nécessaires.

Selon la société Hugging Face, les SLM sont des modèles de langage avec une gamme de 1 à 10 milliards de paramètres, avec une efficacité et des performances élevées dans des tâches spécifiques, capables de fonctionner sur du matériel grand public, tout en maintenant des capacités compétitives pour des cas d’utilisation définis.

Les SLM ont été conçus pour être plus efficaces, plus économiques et plus rapides, car, en raison de leur faible densité de paramètres, ils sont optimisés pour fonctionner localement sur des appareils mobiles, des ordinateurs de bureau ou fonctionner sans connexion Internet.

Parmi ses avantages figurent sa plus grande vitesse et sa latence plus faible, ce qui signifie que l’IA nécessite moins de ressources de calcul et renvoie par conséquent des réponses presque immédiatement.

Un autre avantage de SLM est sa capacité à préserver la confidentialité et l’utilisation hors ligne, puisqu’il fonctionne directement sur l’appareil Edge IA, permettant de traiter les données sensibles sans les envoyer vers le cloud.

Par conséquent, les SLM génèrent des économies significatives, car ils sont nettement moins chers à exploiter et à former, ce qui les rend idéaux pour les flux de travail récurrents.

De plus, les SLM sont hautement spécialisés et peuvent être ajustés (réglage fin) pour maîtriser des domaines spécifiques, obtenant ainsi d’excellentes performances dans des tâches spécifiques.

Le marché propose des modèles SLM largement acceptés avec des avantages open source et d’utilisation gratuite, tels que : la famille Phi-3.5/Phi-4, pour les processus avancés dans les petits appareils ; Appelez 3.1 8B, avec un équilibre remarquable entre taille et capacité ; Gemma 2, avec des modèles légers pour une grande variété de plates-formes ; le Smol LM3 (Hugging Face), très transparent et efficace à l’échelle de 3 milliards de paramètres ; et Qwen 2.5, hautes performances pour les tâches de programmation multilingues et à petite échelle.