Les grands modèles de langage (LLM) open source sont des modèles d’IA qui utilisent du texte en langage naturel et des données de code de programmes logiciels disponibles publiquement, pour apprendre, comprendre et reproduire le langage humain.
Les LLM open source constituent une forme d’IA open source. Ils peuvent être librement modifiés et partagés, ce qui permet une collaboration et une personnalisation sans frais de licence. Cette ouverture favorise la transparence, la sécurité, la concurrence et la diversification des applications dans tous les secteurs. En tant que sorte d’IA open source, avec une liberté de partage et de modification, les LLM permettent une collaboration et une personnalisation à toutes fins imaginables, sans autorisation ni frais de licence. Cela favorise la transparence et la sécurité, la concurrence et la multiculture, et diverses applications.
Les grands modèles de langage constituent le fondement des interfaces utilisateur modernes basées sur l’intelligence artificielle. Entraînés avec des ensembles de données massifs et des architectures de réseau neuronal avancées, ils permettent aux humains d’interagir avec les applications de manière naturelle. La valeur des LLM réside dans leur capacité à effectuer des tâches langagières nuancées, telles que résumer de longs passages de texte ou, au contraire, générer de grands corps de texte en réponse aux instructions d’un utilisateur humain. Dans des domaines très divers, comme le service client, la recherche, la création de contenu et l’éducation, les LLM permettent aux utilisateurs de formuler des requêtes et fournir des instructions complexes, et à l’IA de répondre de manière à ce que même les utilisateurs inexpérimentés puissent comprendre, dans certains cas, comme s’ils étaient des experts.
Mais bien que ces modèles permettent des interactions conviviales, ils sont extrêmement complexes, souvent basés sur des données propriétaires qui réduisent la visibilité sur leur structure et leurs capacités internes. Même si les LLM open source offrent généralement une alternative plus accessible, leurs degrés d’ouverture varient. Alors que certains grands modèles de langage lèvent le voile sur le code et les données d’entraînement sous-jacents, permettant à tout le monde de les utiliser, de les modifier ou de les distribuer, d’autres peuvent uniquement publier le modèle et limiter les artefacts associés, rendant presque impossible l’audit de la chaîne d’approvisionnement du modèle en amont. En démocratisant l’accès à de puissants outils d’IA, les LLM open source donnent à un plus large éventail de développeurs la possibilité d’innover et de personnaliser les solutions d’IA en fonction de leurs besoins spécifiques.
Toute discussion sur les LLM open source soulève la question suivante : en quoi sont-ils différents des LLM propriétaires ? Les LLM open source et les LLM propriétaires diffèrent considérablement en termes de transparence, d’accessibilité, d’adaptabilité et d’engagement communautaire.
Les LLM open source peuvent être utilisés et modifiés librement selon les besoins de l’utilisateur et partagés (notamment avec leurs modifications) avec d’autres personnes. Cela favorise une approche collaborative de l’innovation en aval, permettant aux développeurs de personnaliser ces modèles pour répondre à des besoins spécifiques tout en contribuant à un écosystème dynamique où des améliorations et de nouvelles applications émergent en permanence. Chaque développeur qui améliore le modèle de base et offre son modèle fini en open source devient ainsi un membre de l’écosystème d’IA de cette communauté.
Pour que cela soit possible, les LLM open source reposent fortement sur la transparence de l’architecture, de l’entraînement et de l’utilisation prévue. Pour optimiser l’adoption par la communauté et les entreprises, les données utilisées pour le pré-entraînement et l’évaluation, les ressources impliquées et le code sous-jacent lui-même doivent pouvoir être entièrement examinés. Il s’agit d’un facteur de différenciation majeur des LLM open source, car les LLM propriétaires offrent généralement moins de visibilité sur leur fonctionnement interne.
Les LLM open source confèrent davantage de flexibilité et donc plus de liberté. Les entreprises peuvent adapter le LLM à leurs spécifications uniques. D’un autre côté, les modifications introduites dans le LLM dérivé peuvent affaiblir la sécurité. Il est donc important de sélectionner des LLM open source conçus selon des pratiques robustes de gouvernance des données et des modèles, pour s’assurer que les nouveaux modèles répondent aux attentes des utilisateurs en aval en matière de sécurité et de performances. Travailler avec une solution open source peut impliquer des coûts élevés : embauche, formation, frais juridiques initiaux, mises à niveau des fonctionnalités, conformité de la sécurité, support, fidélisation des talents, gestion continue du cycle de vie des logiciels, etc.
Les LLM propriétaires sont contrôlés et détenus par des entités individuelles, leur accès étant généralement soumis à des licences et des frais. Des entreprises telles qu’OpenAI et Google proposent de puissants LLM, mais leur utilisation est souvent limitée à des interfaces de programmation d’applications (API) prédéfinies ou à des applications spécifiques imposées par les fournisseurs. Cette approche fermée peut limiter la personnalisation et l’adaptation, augmentant potentiellement les coûts et limitant l’accès à l’infrastructure informatique du cloud d’inférence, qui ne se trouve pas toujours dans la même région que l’utilisateur final. En outre, les LLM propriétaires peuvent s’appuyer sur des versions affinées de modèles open source, les entreprises y ajoutant des améliorations uniques ou un « ingrédient secret », comme des performances améliorées ou des fonctionnalités spécialisées, qui rendent ces versions privées. Les offres Now LLM en sont un exemple, car leurs améliorations sur mesure les distinguent des alternatives open source.
Toutefois, travailler avec des solutions LLM propriétaires présente certains avantages. Les LLM propriétaires et sous licence offrent généralement une sécurité renforcée, sont plus conviviaux et s’accompagnent généralement d’une assistance fournie par l’entreprise propriétaire en cas de besoin.
Les logiciels open source n’ont rien de nouveau. Certains des premiers logiciels s’échangeaient librement entre les utilisateurs d’ordinateurs. Mais avec l’avènement relativement récent de l’intelligence artificielle, le concept de l’open source s’est étendu à l’IA. Cependant, bien que logiciels et IA open source partagent des principes fondamentaux de transparence, de collaboration et d’accessibilité, il existe également des différences notables entre les deux :
Les logiciels open source désignent les programmes ou systèmes dont le code source est mis à disposition de quiconque souhaitant l’utiliser, le modifier et le partager. Ils sont régis par des licences telles que la Licence publique générale GNU (GPL) ou la Licence Apache, qui décrivent les conditions d’utilisation et de redistribution. Linux, Apache HTTP Server et Mozilla Firefox sont des exemples populaires, qui continuent d’évoluer grâce aux contributions de communautés de développeurs internationales.
Avec l’essor de l’intelligence artificielle, les principes des logiciels open source ont été adaptés à l’IA. Cela a donné l’IA open source. Open Source Initiative définit l’IA open source comme suit. « Un système d’IA mis à disposition selon des conditions et de manière à offrir la liberté :
Ces libertés s’appliquent à la fois au système fonctionnel entier et aux éléments indépendants du système. Pour pouvoir en profiter, il est nécessaire d’avoir accès au format qui convient pour apporter des modifications au système. »
- d’utiliser le système à quelque fin que ce soit et sans avoir à demander l’autorisation,
- d’étudier le fonctionnement du système et d’en inspecter les composants,
- de modifier le système à n’importe quelle fin, y compris pour en modifier la sortie,
- de partager le système pour que d’autres personnes l’utilisent avec ou sans modification, à quelque fin que ce soit.
Ces libertés s’appliquent à la fois au système fonctionnel entier et aux éléments indépendants du système. Pour pouvoir en profiter, il est nécessaire d’avoir accès au format qui convient pour apporter des modifications au système. »
Comme les logiciels open source, l’IA open source favorise la transparence et la collaboration en permettant aux développeurs d’accéder directement au code de l’IA. Les licences open source jouent un rôle central dans cet écosystème. Ces licences (telles que la Blue Oak Model License) décrivent les termes et conditions associés à l’utilisation de l’IA. Ces cadres juridiques aident à maintenir l’IA open source accessible tout en dégageant les contributeurs de toute responsabilité.
Les LLM open source utilisent des IA open source sous licence pour permettre aux développeurs de personnaliser et d’adapter de grands modèles de langage à leurs besoins spécifiques, sans les contraintes des systèmes propriétaires.
Il existe de nombreuses options pour les entreprises qui souhaitent travailler avec des LLM open source. Voici quelques-uns des modèles de langage open source les plus transparents actuellement disponibles :
StarCoder, développé dans le cadre du projet BigCode, une collaboration scientifique ouverte menée par Hugging Face et ServiceNow, est un LLM open source conçu pour la génération de code. Entraîné sur plus de 80 langages de programmation, il excelle dans la génération de code, la génération de workflow et même les tâches de synthèse de texte. StarCoder dispose d’un contexte étendu et fournit des fonctionnalités uniques, notamment des options de remplissage idéales pour les modèles de base. Il est concédé sous licence OpenRAIL-M, qui permet un usage commercial gratuit avec des restrictions éthiques et responsables en matière d’utilisation de l’IA.
Créé par la start-up allemande spécialisée dans l’IA Aleph Alpha, Luminous fournit des options avancées de compréhension et de génération du langage naturel. Il est conçu pour concurrencer les LLM avancés (comme les versions récentes de ChatGPT) tout en étant transparent et éthique. Luminous se compose de 13 milliards de paramètres et est disponible pour des tâches allant des petites aux grandes applications de langage.
Les modèles Granite d’IBM sont des LLM open source conçus pour les applications professionnelles. Entraînés sur 116 langages de programmation, ils permettent de générer du code et de corriger des bugs, ainsi que de produire des résumés et des explications plus traditionnels. Ils sont publiés sous licence Apache 2.0 et sont donc adaptés à la recherche et à un usage commercial.
Phi-2, développé par Microsoft Research, est un modèle léger de 2,7 milliards de paramètres, capable de concurrencer de nombreux modèles plus importants en termes de performances. Phi-2 peut effectuer des tâches complexes, notamment de raisonnement logique, de codage, de mathématiques et de compréhension du langage. Disponible dans Azure AI Studio, il offre une taille compacte idéale pour une expérimentation efficace.
S’appuyant sur le succès du cadre Stable Diffusion, Stable Video Diffusion est un modèle open source axé sur la génération et le montage vidéo. Il exploite l’IA pour créer des contenus visuels dynamiques, et offre des outils puissants pour les secteurs du divertissement et de la publicité, entre autres.
Llama 3 de Meta (3.1 étant la version la plus récente) est le dernier-né de la famille des modèles Llama. Avec entre 8 milliards et 405 milliards de paramètres, les modèles Llama 3 s’appuient sur l’architecture de leurs prédécesseurs. Llama 3 fonctionne bien pour le raisonnement, le codage et les tâches multilingues, et dispose d’outils de sécurité étendus pour détecter le code non sécurisé.
Développé par Google, BERT (Bidirectional Encoder Representations from Transformers) est un modèle de transformeur à encodeur seul, conçu pour comprendre et générer du langage humain. Depuis sa sortie en 2018, BERT a été largement adopté pour diverses tâches de traitement du langage naturel (NLP), telles que la classification de texte, la réponse aux questions et l’analyse des sentiments. Malgré sa relative ancienneté, il continue d’influencer le NLP moderne.
Polyvalents et accessibles, les LLM open source offrent un large éventail d’applications dans de nombreux secteurs. En voici quelques exemples :
Les LLM open source peuvent être utilisés pour transformer facilement des PDF en fichiers audio engageants de type podcast. En implémentant un workflow LLM composé, vous pouvez convertir le texte d’un PDF en script conversationnel, puis réaliser la narration à l’aide d’une technologie avancée de synthèse vocale. Cette fonctionnalité est idéale pour créer des contenus accessibles, des supports pédagogiques ou simplement donner vie à vos documents dans un nouveau format.
Il peut être difficile d’évaluer l’émotion qui se cache derrière les commentaires des clients. Les LLM open source peuvent être entraînés pour analyser le texte afin de déterminer le sentiment général exprimé : positif, négatif ou neutre. Cela permet aux entreprises de mieux comprendre les réponses des clients afin d’améliorer leurs produits et services. L’analyse des sentiments est un outil essentiel pour surveiller les réseaux sociaux et obtenir des informations sur les clients.
De nombreux modèles LLM open source peuvent aider les développeurs en suggérant du code, en écrivant des algorithmes complexes, en corrigeant les bugs et même en documentant le code. Ils peuvent générer des extraits de code à partir de descriptions en langage naturel, ce qui permet aux utilisateurs d’indiquer ce qu’ils souhaitent faire avec leur code, en langage simple.
Les LLM sont largement utilisés pour générer des textes cohérents et pertinents en contexte. Cela inclut la création d’articles, de témoignages et de dialogues pour les assistants virtuels. C’est une part importante de l’IA générative (GenAI), avec des applications dans pratiquement tous les domaines.
Les LLM open source peuvent automatiser la création de contenus et générer des résumés de longs documents, ce qui permet aux utilisateurs de saisir rapidement les principaux points de textes volumineux. Cela est particulièrement utile pour les professionnels qui ont besoin de traiter d’importants volumes d’informations.
Les LLM aident à faire tomber les barrières linguistiques. Grâce à leurs options multilingues, de nombreux LLM open source peuvent traduire du texte dans plusieurs langues, ce qui permet une communication claire avec un public international. Ces modèles sont entraînés sur des ensembles de données linguistiques variés, ce qui garantit des traductions précises en fonction du contexte, qui vont bien au-delà des simples traductions mot par mot.
Les LLM open source alimentent les chatbots IA et les assistants virtuels, améliorant ainsi l’assistance clientèle grâce à des réponses rapides et précises aux requêtes. Lorsqu’ils sont conçus pour des tâches conversationnelles, les LLM peuvent gérer les interactions avec les clients de manière efficace et naturelle pour l’utilisateur. Et si le LLM n’est pas en mesure de résoudre un problème, il peut être automatisé pour le faire remonter à un agent humain.
Les LLM peuvent être intégrés aux plateformes pédagogiques pour offrir des expériences d’apprentissage personnalisées. Ils peuvent adapter le contenu au style d’apprentissage de chacun, proposer des explications et générer des problèmes pratiques spécifiquement adaptés aux besoins et aux capacités de chaque utilisateur.
- Santé
Les solutions IA de télémédecine basées sur des LLM mettent à disposition des soignants virtuels en permanence, capables de diagnostiquer, de donner des informations et d’organiser les données sur les patients. Tout comme les chatbots et les agents virtuels, ces programmes sont conçus pour évaluer les problèmes des patients à partir d’informations issues de vastes ensembles de données, afin de savoir quand fournir de l’aide par eux-mêmes et quand alerter les équipes médicales humaines.
- Finance
Dans le secteur financier, les LLM open source améliorent la détection des fraudes, automatisent l’assistance clientèle et effectuent une analyse des sentiments pour identifier les tendances émergentes. Ces modèles analysent les documents financiers et d’autres données pour fournir des informations en temps réel sur le marché.
- Journalisme et actualités
Les journalistes et les agences de presse ont recours à des LLM open source à des fins de synthèse et de traduction. Les LLM peuvent être utilisés en interne pour analyser des informations sans partager de données propriétaires hors de la salle de rédaction. De plus, lorsque les circonstances exigent une réaction immédiate, les agences de presse peuvent orienter les LLM open source pour générer du contenu pertinent et informatif qui s’adresse à leur public cible.
- Industries scientifiques
Les LLM soutiennent la recherche scientifique en automatisant les révisions de littérature, l’analyse de données et la génération d’hypothèses, et bien plus. L’extrême flexibilité de ces modèles permet aux scientifiques de les adapter à tout type de recherche, de la lutte contre le changement climatique à l’analyse des séquences d’ADN, en passant par la modélisation des phénomènes astrophysiques.
Ce sont des systèmes autonomes personnalisables capables de suivre des directives en langage humain et d’y répondre de la même manière. Il n’est pas difficile d’imaginer les avantages que ces modèles peuvent apporter aux entreprises. L’exploitation professionnelle des LLM open source présente les avantages suivants :
Bien que les LLM open source offrent de nombreux avantages, ils peuvent également présenter certains risques. Il est important de comprendre les défis suivants et de savoir les surmonter pour garantir une utilisation responsable et efficace :
En raison de leur accès illimité, les LLM open source peuvent être utilisés à des fins aussi nuisibles que bénéfiques. Désinformation, violation de la vie privée, accès à des informations confidentielles ou exclusives : l’IA peut être exploitée de bien des manières. Pour garantir une utilisation éthique, il faut mettre en place une gouvernance proactive de la communauté et des directives claires pour trouver le juste équilibre entre innovation, sécurité et responsabilité.
La qualité des contributions de la communauté aux LLM open source peut varier, ce qui entraîne des résultats incohérents. Sans surveillance standardisée, ces modèles peuvent produire des résultats peu fiables, en particulier dans les applications où la précision est essentielle. Maintenir des normes élevées implique de garder un œil sur toutes les contributions au code et de les affiner si nécessaire. Mais lorsque vous travaillez avec des codes open source, cela peut représenter énormément de travail.
La qualité de l’IA dépend de celle des informations dont elle se nourrit. Lorsque ces informations comprennent des opinions préjudiciables ou des hypothèses non justifiées, l’IA risque de les perpétuer. Les LLM peuvent être influencés par les biais présents dans leurs données d’entraînement, ce qui entraîne des résultats partiaux et injustes. Une surveillance attentive et une diversification des sources de données sont essentielles pour atténuer les biais et garantir l’équité et l’inclusion dans le contenu et les décisions générés par l’IA.
Lors de la sélection d’un grand modèle de langage (LLM) open source, les entreprises doivent tenir compte de plusieurs facteurs pour choisir le plus adapté à leurs besoins. Quels sont les plus importants ?
- Objectifs
Identifiez l’objectif principal du LLM. Qu’est-ce qu’il doit apporter à l’entreprise ? Sur quoi va-t-il se concentrer ? Certains modèles sont conçus pour la recherche, tandis que d’autres sont adaptés à un usage commercial. Assurez-vous que le LLM est aligné sur des objectifs spécifiques.
- Précision
Évaluez la précision du modèle pour les tâches qu’il devra accomplir. Même en offrant un accès au code pour le personnaliser, certains LLM sont mieux adaptés à certains usages.
- Coût
Bien que les LLM open source soient gratuits, tenez compte des coûts d’hébergement, d’entraînement et de maintenance. Les modèles plus volumineux nécessitent plus de ressources, ce qui peut augmenter les dépenses d’infrastructure et d’exploitation.
- Performances
Évaluez la maîtrise du langage, la cohérence et la compréhension du contexte du LLM. Des performances élevées dans ces domaines améliorent l’expérience utilisateur et l’efficacité des tâches.
- Sécurité des données
Assurez-vous que le LLM peut traiter en toute sécurité des données sensibles, en particulier lorsqu’il s’agit d’informations personnelles ou propriétaires.
- Qualité des données d’entraînement
Vérifiez la qualité des données d’entraînement d’origine utilisées par le LLM. Des données de haute qualité permettent d’obtenir de meilleurs résultats. Si nécessaire, utilisez des données personnalisées pour affiner le modèle.
- Compétences disponibles
Les LLM complexes nécessitent des compétences avancées en science des données, en opérations d’apprentissage machine (MLOps) et en NLP. Assurez-vous donc que l’équipe qui travaillera le plus avec le LLM dispose de l’expérience requise. Si ce n’est pas le cas, prévoyez de former vos employés ou d’embaucher pour combler ce manque de compétences.
ServiceNow fournit des modèles de langage propriétaires de premier ordre via le service Now LLM, ce qui permet d’utiliser des fonctionnalités avancées guidées par l’IA telles que la synthèse des discussions et des enregistrements des agents, la recherche améliorée par IA, la traduction dynamique et les flux conversationnels fluides. Ces fonctionnalités reposent sur l’innovation open source : ServiceNow entraîne ouvertement des modèles de base, tels que StarCoder, dans le cadre de ses initiatives. Ces modèles sont ensuite affinés pour créer des Now LLM propriétaires, spécialement conçus pour optimiser la productivité de toute l’entreprise et offrir des expériences d’IA générative exceptionnelles.
Cette base open source, renforcée par la collaboration avec des partenaires tels que Hugging Face et NVIDIA, permet à ServiceNow de faire progresser l’IA de manière responsable tout en partageant de précieuses innovations avec la communauté. Grâce à cette approche, les entreprises bénéficient de puissantes compétences en IA, des recommandations de workflow automatisées à la conversion précise de texte en code. De plus, les Now LLM font désormais partie de la Now Platform® entièrement intégrée. Ils améliorent donc de manière transparente les workflows et applications existants pour booster l’efficacité de tous les départements.
Découvrez ServiceNow en action pour voir comment l’IA et les LLM peuvent améliorer vos opérations. Planifiez une démo dès aujourd’hui !