La précision, la pertinence et la rapidité d’un agent d’IA sont une réflexion des données qui l’alimentent.
Les microservices NVIDIA NeMo, désormais disponibles au public, aident les services informatiques des entreprises à créer rapidement des équipes d’IA qui exploitent les volants de données pour accroître la productivité des employés. Les microservices fournissent une plateforme de développement de bout en bout permettant de créer des systèmes d’IA agentique de pointe et de les optimiser en permanence à l’aide de volants de données alimentés par des données d’inférence et des données métier, ainsi que les préférences des utilisateurs.
Un volant de données permet à un service informatique d’entreprise d’intégrer des agents d’IA sous forme de partenaires numériques. Ces agents peuvent exploiter les interactions des utilisateurs et les données générées pendant l’inférence de l’IA pour améliorer en permanence les performances du modèle et transformer l’utilisation en éclairages et les éclairages en actions.
Développer de puissants volants de données pour l’IA agentique
Sans un flux constant d’entrées de haute qualité, qu’il s’agisse de bases de données, d’interactions des utilisateurs ou de signaux concrets, la compréhension d’un agent peut s’affaiblir, ce qui nuit à la fiabilité des réponses et à la productivité des agents.
La maintenance et l’amélioration des modèles qui sous-tendent les agents d’IA en production nécessitent trois types de données : des données d’inférence pour recueillir des informations et s’adapter à l’évolution des schémas de données, des données métier à jour pour fournir des éclairages, et des données de retour des utilisateurs pour savoir si le modèle et l’application fonctionnent comme prévu. Les microservices NeMo aident les développeurs à exploiter ces trois types de données.
Les microservices NeMo accélèrent le développement des agents d’IA grâce à des outils de bout en bout qui permettent d’organiser, de personnaliser, d’évaluer et d’encadrer les modèles qui contrôlent leurs agents.
Les microservices NVIDIA NeMo, notamment NeMo Customizer, NeMo Evaluator et NeMo Guardrails, peuvent être utilisés aux côtés de NeMo Retriever et de NeMo Curator pour faciliter l’expérience des entreprises dans la création, l’optimisation et la mise à l’échelle d’agents d’IA à l’aide de volants de données d’entreprise personnalisés. Par exemple :
- NeMo Customizer accélère le réglage fin des grands modèles de langage et offre un débit d’entraînement jusqu’à 1,8 fois supérieur. Ce microservice hautes performances et évolutif utilise des techniques de post-entraînement populaires, telles que le réglage fin supervisé et l’adaptation low-rank (LoRA).
- NeMo Evaluator simplifie l’évaluation de modèles et de workflows d’IA sur des benchmarks personnalisés et industriels grâce à seulement cinq appels à l’interface de programmation d’applications (API).
- NeMo Guardrails peut améliorer la protection de la conformité jusqu’à 1,4 fois avec une latence supplémentaire de seulement une demi-seconde, aidant ainsi les entreprises à mettre en œuvre des mesures de sécurité robustes conformes à leurs politiques et directives.
Grâce aux microservices NeMo, les développeurs peuvent créer des volants de données qui améliorent la précision et l’efficacité des agents d’IA. Déployés par le biais de la plateforme logicielle NVIDIA AI Enterprise, les microservices NeMo sont faciles à utiliser et peuvent s’exécuter sur n’importe quelle infrastructure de calcul accéléré, sur site ou dans le Cloud, tout en bénéficiant d’une sécurité, d’une stabilité et d’une assistance de niveau entreprise.
Les microservices sont devenus largement disponibles au moment où les entreprises développent des systèmes multi-agents à grande échelle, dans lesquels des centaines d’agents spécialisés, ayant des objectifs et des workflows distincts, collaborent pour effectuer des tâches complexes en tant que partenaires numériques, travaillant aux côtés des employés pour assister, améliorer et accélérer le travail dans toutes les fonctions.
Cet impact à l’échelle de l’entreprise positionne les agents d’IA comme une opportunité valorisée à un billion (mille milliards) de dollars, avec des applications s’étendant de la détection automatisée des fraudes aux assistants d’achat, en passant par la maintenance prédictive des machines et la révision de documents, et souligne le rôle essentiel des volants de données dans la transformation des données d’entreprise en informations exploitables.
Les pionniers de l’industrie améliorent la précision des agents d’IA grâce aux microservices NeMo
Les partenaires de NVIDIA et les pionniers de l’industrie utilisent les microservices NeMo pour développer des plateformes d’agents d’IA réactifs afin que les assistants numériques puissent les aider à accroître la productivité.
AT&T a travaillé avec Arize et Quantiphi pour développer un agent avancé basé sur l’IA utilisant NVIDIA NeMo, conçu pour traiter une base de connaissances de près de 10 000 documents actualisée chaque semaine. Cet agent d’IA évolutif hautes performances a été affiné en fonction de trois priorités métier clés : la vitesse, la rentabilité et la précision, des caractéristiques de plus en plus essentielles à mesure que l’adoption s’étend.
AT&T a augmenté à hauteur de 40 % la précision de ses agents d’IA grâce à NeMo Customizer et Evaluator en affinant un modèle Mistral 7B afin de fournir des services personnalisés, de prévenir la fraude et d’optimiser les performances réseau.
BlackRock s’appuie sur les microservices NeMo pour développer les capacités d’IA agentique de sa plateforme technologique Aladdin qui unifie le processus de gestion des investissements grâce à un langage de données commun.
L’équipe Outshift de Cisco collabore avec Galileo et utilise les microservices NVIDIA NeMo pour alimenter un assistant de codage qui génère 40 % d’erreurs de sélection d’outils en moins et offre des temps de réponse jusqu’à 10 fois plus rapidement.
Nasdaq accélère sa plateforme Nasdaq Gen AI grâce aux microservices NeMo Retriever et aux microservices NVIDIA NIM. NeMo Retriever a renforcé les capacités de recherche de la plateforme, accroissant ainsi à hauteur de 30 % la précision et les temps de réponse, tout en réduisant les coûts.
Les microservices NeMo bénéficient de la prise en charge d’une gamme de modèles étendue et d’un écosystème de partenaires
Les microservices NeMo prennent en charge une gamme étendue de modèles ouverts populaires, notamment Llama, la famille de petits modèles de langage Microsoft Phi, Google Gemma, Mistral et Llama Nemotron Ultra, actuellement le meilleur modèle ouvert en matière de raisonnement scientifique, de codage et de benchmarks mathématiques complexes.
Meta exploite les microservices NVIDIA NeMo dans de nouveaux connecteurs pour Meta Llamastack. Les utilisateurs peuvent accéder aux mêmes fonctionnalités, notamment Customizer, Evaluator et Guardrails, par le biais d’API, ce qui leur permet d’exécuter toute la gamme de workflows de création d’agents dans leur environnement.
« Grâce à l’intégration de Llamastack, les concepteurs d’agents peuvent mettre en œuvre des volants de données basés sur les microservices NeMo », explique Raghotham Murthy, ingénieur logiciel pour GenAI chez Meta. « Cela leur permet d’optimiser en permanence leurs modèles et d’améliorer la précision, d’accroître l’efficacité et de réduire le coût total de possession. »
Les principaux fournisseurs de logiciels d’IA tels que Cloudera, Datadog, Dataiku, DataRobot, DataStax, SuperAnnotate, Weights &; Biases, entre autres, ont intégré les microservices NeMo à leurs plateformes. Les développeurs peuvent utiliser les microservices NeMo dans des frameworks d’IA populaires, tels que CrewAI, Haystack by deepset, LangChain, LlamaIndex et Llamastack.
Les entreprises peuvent développer des volants de données avec des microservices NeMo Retriever utilisant les offres de la plateforme de données NVIDIA AI de partenaires de stockage certifiés NVIDIA, tels que DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data et WEKA.
Les principales plateformes d’entreprise telles que Amdocs, Cadence, Cohesity, SAP, ServiceNow et Synopsys utilisent les microservices NeMo Retriever dans leurs solutions d’agents d’IA.
Les entreprises peuvent exécuter des agents d’IA sur une infrastructure, un réseau et des logiciels accélérés par NVIDIA offerts par de grands fournisseurs de systèmes tels que Cisco, Dell, Hewlett Packard Enterprise et Lenovo.
Des géants du conseil tels que Accenture, Deloitte et EY développent des plateformes d’agents d’IA pour les entreprises à l’aide des microservices NeMo.
Les développeurs peuvent télécharger les microservices NeMo à partir du catalogue NVIDIA NGC. Les microservices peuvent être déployés dans le cadre de NVIDIA AI Enterprise avec des logiciels à durée de vie étendue, offrant des API d’une grande stabilité, une résolution proactive de la sécurité et une assistance de niveau entreprise.