Un des enjeux de l'IA est le hardware et particulièrement les processeurs dédiés déployés dans les datacenters. NVIDIA est le leader des GPU mais possède aussi une solide gamme de processeurs spécifiques tels que BlueFiled, un DPU, Data Processing Units. Le DPU est là pour traiter des volumes de données importants. Pour NVIDIA, c'est donc un enjeu important. Red Hat a annoncé le support de ce DPU dans OpenShilft. 

Cette approche, qui permet d’isoler les applications d’IA et les charges de travail d’infrastructure (services réseau et sécurité, par exemple) exécutées sur BlueField, offre les avantages suivants :

• Utilisation optimisée des ressources : la plateforme Red Hat OpenShift s’appuie sur une fonction de gestion intelligente des ressources pour délester les services réseau entre l’unité centrale (CPU) et le processeur de traitement des données (DPU), libérant ainsi des ressources pour les charges de travail d’IA tout en optimisant la consommation de ressources. 
• Amélioration de la sécurité : Red Hat OpenShift on BlueField transfère les tâches d’infrastructure vers le processeur DPU et contribue à réduire la surface d’attaque des applications grâce à une approche multicouche qui améliore efficacement la posture de sécurité.
• Réseau cloud avancé : Red Hat OpenShift, avec ses capacités de routage distribué optimisées par BlueField, contribue à améliorer la sécurité de la mutualisation, l'évolutivité du réseau, les performances et l'efficacité du trafic entre les clusters, tout en rationalisant les opérations réseau.

Mirantis, acteur important de l'écosystème Kubernetes, a aussi annoncé le support de BlueField. « Les charges de travail d’IA exigent de la précision, grâce à du hardware spécialisé, un réseau étroitement intégré, une multi-tenance sécurisée et un provisioning en temps réel, le tout orchestré efficacement et à grande échelle », déclare Shaun O’Meara, Chief Technology Officer chez Mirantis. « Grâce à l’intégration de Mirantis k0rdent AI et des NVIDIA BlueField DPUs, nous apportons un Kubernetes multi-tenant avec une isolation stricte à tous les niveaux, capable de prendre en charge des réseaux et des exigences d’isolation complexes, tout en offrant à chaque tenant un accès complet à son cluster Kubernetes. »

Pour l'éditeur, plusieurs avantages :

- Multi-tenance sécurisée pour concilier partage des ressources et isolation stricte ;

- Souveraineté des données adaptée aux workloads IA manipulant des modèles propriétaires et des données confidentielles ;

- Partage des GPU et ressources de calcul clés ;

- Isolation réseau avancée au niveau des interfaces, assurant que chaque tenant n’accède qu’aux VLAN et interfaces qui lui sont assignés ;

- Accès haut débit aux environnements de stockage.

Si pour l'utilisateur, le développeur, cela risque relativement transparent, pour un éditeur, ce support exige de nombreuses optimisations pour réellement s'appuyant sur les DPU.