Présentation de la Dell AI Data Platform : Ses atouts pour la RAG d’entreprise, les agents IA et l’IA générative en production

La plateforme Dell AI Data Platform allie des capacités de stockage, de métadonnées, de préparation des données et de récupération afin d’aider les entreprises à exploiter leurs données distribuées pour la génération augmentée de récupération (RAG), les agents IA et l’IA générative en production.

Points clés

• La Dell AI Data Platform combine des moteurs de stockage, de données et d’orchestration au sein d’une architecture modulaire qui fait office de couche contextuelle à l’échelle de l’entreprise pour les charges de travail d’IA.
• L’approche fédérée de Dell permet de réduire les transferts de données superflus au sein des environnements hybrides.
• NVIDIA certifie certaines configurations de la plateforme Dell PowerScale F710 dans plusieurs catégories de certification.

Les projets d’IA d’entreprise se heurtent souvent à un problème de données avant même de rencontrer un problème de modèle. Les informations nécessaires à la génération augmentée de récupération (RAG), aux agents IA et à d’autres applications d’IA générative sont souvent dispersées au sein de l’organisation. Avant que ces données puissent traiter les charges de travail de production, les équipes doivent trouver les sources adéquates, les rendre exploitables et en contrôler l’accès sans créer de copies inutiles.

La Dell AI Data Platform constitue la couche de données au sein de Dell AI Factory avec NVIDIA. Elle réunit des capacités de stockage, de métadonnées, d’ingestion, de recherche, de récupération et d’orchestration afin d’aider les entreprises à exploiter des données distribuées pour la RAG, les agents IA et l’IA générative en production.

Selon Gartner, le manque de maturité des données constitue un obstacle majeur à l’adoption de l’IA par les entreprises, ce qui pousse plus de 75 % des organisations à donner la priorité aux investissements dans des données prêtes pour l’IA. Gartner recommande également la gestion des métadonnées et la mise en place de couches sémantiques afin d’ajouter du contexte aux données prêtes pour l’IA.

Les grandes lignes de la Dell AI Data Platform

La plateforme de données Dell AI Data Platform regroupe les capacités de gestion des données utilisées au sein de Dell AI Factory en collaboration avec NVIDIA, mais il ne s’agit pas d’un produit de stockage unique. Différents composants gèrent le stockage, les métadonnées, l’ingestion, la recherche et l’extraction, tandis qu’Elastic et NVIDIA fournissent des capacités supplémentaires de RAG et de recherche accélérée. 

L’architecture est modulaire : les moteurs de stockage (Storage Engines) fournissent les bases pour les fichiers, les objets et les fichiers parallèles ; les moteurs de données (Data Engines) assurent l’analyse, le traitement, la recherche et la récupération ; et le moteur d’orchestration des données (Data Orchestration Engine) coordonne les pipelines, les modèles et les sources de données tout au long du cycle de vie de l’IA. Ensemble, ces moteurs fonctionnent comme une couche contextuelle à l’échelle de l’entreprise, assurant la gestion des métadonnées et une structure cohérente pour l’ensemble des données distribuées, afin que les systèmes RAG, les agents et autres charges de travail d’IA puissent récupérer les informations avec le contexte dont ils ont besoin, quel que soit leur emplacement.

Le tableau ci-dessous met en correspondance chaque moteur avec l’architecture modulaire décrite ci-dessus.

Comment la Dell AI Data Platform prend en charge la RAG d’entreprise

La régénération augmentée de récupération d’entreprise repose sur un processus fiable d’identification, de préparation, d’indexation et de récupération du contenu, tout en garantissant l’actualité des données sources et la gouvernance des accès. PowerScale, ObjectScale, MetadataIQ, le PowerScale RAG Connector, les Dell Data Engines, le Dell Orchestration Engine et les technologies de récupération NVIDIA prennent chacun en charge différentes étapes de ce flux de travail. Le Data Orchestration Engine peut coordonner ces étapes lorsqu’il est inclus dans le déploiement sélectionné.

1. Connecter et identifier les données d’entreprise

PowerScale offre un accès unifié aux fichiers et aux objets pour les données d’entreprise non structurées, y compris les protocoles de fichiers et S3 dans les configurations prises en charge. ObjectScale fournit un stockage S3/objet d’entreprise optimisé pour les charges de travail axées sur les objets, notamment les lacs de données d’IA, les données d’entraînement, les points de contrôle de modèles, la sauvegarde, l’archivage et les données distribuées dans le monde entier à grande échelle. Selon Dell, MetadataIQ enregistre les métadonnées du système de fichiers PowerScale dans une base de données Elasticsearch externe afin que le flux de travail puisse suivre les fichiers qui ont déjà été traités.

2. Traiter les contenus nouveaux et mis à jour

Le PowerScale RAG Connector, une solution open source, ne renvoie au framework RAG que les fichiers nouveaux ou modifiés, ce qui contribue à réduire les traitements redondants sur les ressources de calcul, de réseau et de stockage.

3. Préparer, indexer et rechercher du contenu

Les fichiers peuvent être fragmentés et intégrés à l’aide de méthodes standard ou de NVIDIA NeMo Retriever. Selon Dell, le Data Search Engine utilise NVIDIA CUDA Vector Search (cuVS) pour la recherche vectorielle accélérée par GPU, tandis qu’ObjectScale fournit une mémoire vectorielle S3. Les équipes qui ont besoin d’une recherche par mot-clé ou hybride doivent vérifier la prise en charge de leur configuration qu’elles prévoient.

4. Récupérer un contexte contrôlé

Dell décrit la récupération sur plusieurs backends de stockage et de bases de données avec une sécurité au niveau des documents, ce qui permet de limiter les résultats aux informations auxquelles l’utilisateur est autorisé à accéder. L’entreprise documente également un workflow RAG d’entreprise NVIDIA AI-Q fonctionnant de bout en bout sur la Dell AI Data Platform sur site. Elastic alimente le Data Search Engine, tandis que NeMo Retriever, NVIDIA Inference Microservices (NIM), et cuVS sont des intégrations NVIDIA.

Prise en charge des agents IA à grande échelle

La Dell AI Data Platform permet de prendre en charge les agents IA à grande échelle en leur offrant un accès fiable à des données à jour et gérées. À mesure que l’utilisation augmente, les équipes doivent également tenir compte des performances de récupération, de la concurrence et de l’infrastructure nécessaire pour prendre en charge des charges de travail plus exigeantes.

PowerScale et ObjectScale fournissent la base de stockage, tandis que le RAG Connector contribue à maintenir le contenu source à jour en traitant les fichiers modifiés. Les Dell Data Engines prennent en charge la recherche, la récupération et le contexte structuré de ce contenu, tandis que la sécurité au niveau des documents permet de contrôler l’accès aux backends lorsque les intégrations applicables sont configurées et validées. À mesure que les flux de travail des agents gagnent en complexité, le Data Orchestration Engine peut aider à coordonner les pipelines et les sources de données sur lesquels s’appuient plusieurs agents, lorsqu’il est inclus dans le déploiement sélectionné. La planification de la capacité doit également tenir compte à la fois de la charge de travail prévue et des exigences de performances qui y sont associées.

Comment la Dell AI Data Platform s’intègre aux environnements de stockage et de données existants

Selon Dell, ses Data Engines peuvent se connecter à des bases de données, des lacs de données, des stockages d’objets et des systèmes de fichiers, ce qui permet aux entreprises d’exploiter leurs environnements de données existants sans avoir à centraliser au préalable toutes les sources.  MetadataIQ permet d’exposer les métadonnées des fichiers sans déplacer le contenu PowerScale sous-jacent.

PowerScale pour Azure prend en charge les protocoles NFS, SMB et S3 avec des autorisations unifiées, ce qui permet aux flux de travail d’IA et aux applications existantes de se connecter via des protocoles de stockage standard. Les entreprises doivent toutefois vérifier les exigences spécifiques en matière d’intégrations, de contrôles d’identité, de licences et d’architecture.

Comment la Dell AI Data Platform facilite le passage de l’IA générative du stade pilote à celui de la production

Le passage de l’IA générative du stade pilote à celui de la production modifie les exigences imposées à l’environnement de données. Les données de récupération doivent rester à jour, leur préparation doit devenir reproductible, et les équipes ont besoin d’un moyen fiable de gérer et d’exploiter la charge de travail à grande échelle. La plateforme Dell AI Data Platform peut faciliter cette transition en garantissant l’actualité des données de récupération et en coordonnant la préparation des données tout au long du cycle de vie de l’IA. Le PowerScale RAG Connector permet de maintenir à jour le contenu RAG. Les charges de travail en production étant tributaires de la couche contextuelle décrite précédemment, le Data Orchestration Engine assure la coordination des pipelines, des modèles et des sources de données à mesure que l’IA générative passe de la phase pilote à la mise à l’échelle.

Les Dell Data Management Services peuvent aider les organisations à normaliser, gouverner et opérationnaliser les données. La surveillance, l’optimisation de l’infrastructure et la gestion continue du cycle de vie s’inscrivent dans l’écosystème plus large de Dell AI Factory via Dell Services et Dell AIOps, plutôt que dans la seule plateforme de données.

Comment évaluer la Dell AI Data Platform

Avant d’adopter la plateforme, les équipes doivent examiner trois aspects :

1. Données et emplacement : identifier où se situent les données structurées et non structurées, ce qui peut être déplacé et ce qui doit rester en place pour des raisons de sécurité, de résidence ou de latence.
2. Exigences en matière de charge de travail : estimer le volume d’ingestion, la latence de récupération, la croissance des données, le nombre prévu d’agents ou d’utilisateurs, ainsi que la capacité de calcul requise pour la plateforme de données.
3. Intégration et opérations : vérifier les intégrations avec les bases de données, les catalogues, le cloud et les outils d’IA, ainsi que les exigences en matière de gouvernance, les licences, l’expertise opérationnelle et les certifications ou validations NVIDIA pertinentes.

Certification et architectures de référence Dell et NVIDIA

Architecture de référence NVIDIA AI-Q de Dell

Dell fait partie des fournisseurs de plateformes d’IA d’entreprise qui publient une architecture de référence validée en collaboration avec NVIDIA. Sa conception RAG d’entreprise NVIDIA AI-Q fonctionne sur site, les données d’entreprise restant dans l’environnement du client. Cette conception illustre comment les technologies Dell de stockage, de récupération et d’orchestration peuvent s’associer aux technologies NVIDIA pour la RAG d’entreprise.

Stockage Dell certifié NVIDIA

NVIDIA inclut la plateforme Dell PowerScale F710 parmi ses systèmes de stockage certifiés NVIDIA aux niveaux Foundation et Enterprise. La PowerScale F710 est également certifiée pour les déploiements NVIDIA Cloud Partner et les appliances DGX SuperPOD.

La certification s’applique aux configurations F710 répertoriées. Les intégrations NVIDIA telles que cuVS ou NIM sont distinctes du statut de stockage certifié NVIDIA et ne doivent pas être étendues à tous les composants de la Dell AI Data Platform.