NVIDIA

DirectX Raytracing 1.2 : toujours plus de réalisme

Soumis par francoistonic le

Microsoft a dévoilé durant la conférence NVIDIA GDC 2025, DirectX Raytracing 1.2. Pour les équipes DirectX, il s'agit d'une des versions les plus importantes jamais sorties. Elle introduit d'importants changements sur l'opacité et les shaders. L'opacity micromaps doit améliorer par 2 la gestion de l'opacité quand elle est appelée et rendue par les shaders. Et cette version introduit une nouvelle manière d'organiser l'exécution des shaders, toujours dans l'idée d'améliorer les performances de rendu. 

NVIDIA annnonce des pilotes GeForce RTX capables de supporter ces fonctions avancées. 

DirectX Raytracing annonce également de profondes améliorations sur PIX : amélioration du support de PIX pour les développeurs avec des API C++, C# et Python, personnalisation des UI PIX. Pour rappel PIX est un outil de tuning et de debug. 

D'autre part, DirectX Raytracing peut désormais utiliser la puissance de traitements et de calculs des composants neuronaux, les fameux Tensor Cores des RTX. Cet apport de performance aidera à améliorer les rendus et les performances de calculs. Microsoft, Intel, AMD et NVIDIA collaborent étroitement à cette technologie dans le gaming. 

Le nouveau SDK sera disponible en avril. 

NVIDIA DGX Spark : l'IA à la maison

Soumis par francoistonic le

NVIDIA a dévoilé les premières stations personnelles pour créer et entraîner des IA / LLM à la maison : la gamme DGX Spark. Ce sont des monstres de performances taillés pour l'IA : GB10 Grace Blackwell, une puissance brute de 1 000 TOPS, 128 Go de RAM. La machine supporte des LLM jusqu'à 200 milliards de paramètres. Pour la partie réseau, DGX Spark utilise ConnectX pour assurer une haute performance entre 2 Spark. Le stockage est classique : 4 To. Côté processeur, on dispose de 20 coeurs. 

Autres caractéristiques :

4x USB 4 (40 Go/s)

1x Ethernet 10 Gb/s

Wi-Fi 7

Consommation : 170W

Système : DGX Base OS, Ubuntu

Le design est très compact, ressemblant à un Intel NUC, Apple Mini. 

Le prix attendu est d'environ 3 000 $. NVIDIA précise que d'autres constructeurs pourront commercialser des DGX Spark : HP, Asus, Dell. Spark devrait être disponible vers l'été. 

Le DGX Spark peut être intéressant pour faire des traitements IA locaux et non sur le cloud. Oui le Spark coûte un peu cher mais il faut le comparer à des machines équivalentes ou le budget nécessaire sur le cloud. 

GTC : la grand' messe technologique de NVIDIA du 17 au 21 mars

Soumis par francoistonic le

NVIDIA organise sa conférence annuelle, la GTC, du 17 au 21 mars. Jensen Huang assurera l'ouverture. En tout plus de 500 sessions seront proposées. L'IA tiendra une place importante. De nombreuses thématiques seront proposées : XR, IA, sécurité, data science, SDK & API, MLOps, robotique, datacenter, GPU, Cuda, etc. 

Vous pouvez vous inscrire dès maintenant pour suivre la conférence : https://www.nvidia.com/fr-fr/gtc/

DeepSeek-R1 arrive sur AWS, Azure et NVIDIA NIM

Soumis par francoistonic le

Business is business. Cet adage se vérifie parfaitement avec les LLM DeepSeek au coeur de l'actualité IA depuis quelques jours. Malgré les critiques et les soupçons d'une infrastructure bien plus performante que celle annoncée, la compatibilité de DeepSeek s'étend. Le LLM R1 comporte 671 milliards de paramètres. Azure annonce son support dans Azure AI Foundry et GitHub.

"DeepSeek R1 est accessible sur une plateforme fiable, évolutive et adaptée aux entreprises, permettant aux entreprises d’intégrer de manière transparente l’IA avancée tout en respectant les SLA, la sécurité et les engagements en matière d’IA responsable, le tout soutenu par la fiabilité et l’innovation de Microsoft." indique Azure. Pour l'utiliser, il faut disposer d'un compte Azure et de sélectionner DeepSeek R1 dans le catalogue de modèles. 

Annonce : https://azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on-azure-ai-foundry-and-github/

AWS annonce ce jour la disponibilité de DeepSeek-R1 sur la plateforme cloud AWS. Il est possible de l'utiliser dans Bedrock Marketplace, dans Bedrock Custom Model Import, SageMaker JumpStart, EC2 Trn1. Annonce : https://aws.amazon.com/fr/blogs/aws/deepseek-r1-models-now-available-on-aws/

NVIDIA, qui a été malmené par l'annonce de DeepSeek, rend disponible le LLM dans un microservice NVIDIA NIM (préversion). Il est accessible sur build.nvidia.com. Il peut délivrer 3 872 tokens par seconde sur un système HGX H200. 

DeepSeek : l'IA chinoise qui fait (un peu) trembler OpenAI

Soumis par francoistonic le
Image

Il y a un an, on pouvait lire ici et là, des prédictions sur la fin de ChatGPT qui sera remplacé par un autre service. La réalité est arrivée plus vite que prévue avec DeepSeek, un startup chinoise.

Cette IA / GenIA, repose sur :

- un modèle open source pour les LLM et le code source

- un investissement officiellement bien moindre que OpenAI et les autres même si nous ne connaissons pas tous les éléments

Le potentiel de DeepSeek, la diffusion de son app, une licence MIT pour son LLM, des tarifs plus accessibles pour les services payants, font que la startup chinoise fait trembler une partie de l'univers IA américain. Surtout, DeepSeek propose des tarifs bien plus faibles qu'OpenAI alors que les investissements vont être colossaux en 2025. La question est de savoir quelle est l'infrastructure derrière DeepSeek et comment les LLM chinois sont entraînés. Les milliards ne font pas tout ni la qualité d'une app ou d'une IA. La preuve. Des analystes prédisent déjà la fin des investissements monstres (Jefferies). 

Mais d'autres, tels que JPMorgan, soulèvent d'autres questions qui nuancent l'exploit : DeepSeek est financé par un important fonds chinois, High-Flyer. Ce dernier aurait permis à DeepSeek d'utiliser plus de 50 000 GPU NIVIDIA Hopper, soit grosso modo l'équivalent de l'infrastructure d'OpenAI. L'efficacité des LLM de DeepSeek vient forcément d'une inférence sur 10-12 mois et qu'une puissance de calcul est nécessaire pour le réaliser. Elon Musk ne dit pas autre chose : Évidemment, DeepSeek a bien plus de GPU NVIDIA qu'ils ne le disent. Officiellement, la startup affirme utiliser 10 000 GPU A100... 

Après, que DeepSeek baisse les tarifs, est-ce à dire que les infrastructures soient nécessairement moindres ? Ou alors, la startup mise sur la masse d'utilisateurs payants pour amortir les coûts, quitte à adopter une stratégie tarifaire agressive à perte.

Les restrictions sur l'exportation technologique des Etats-Unis poussent sans aucun doute les startups chinoises à chercher des contournements et des solutions techniques équivalentes. Il n'en fallait pas plus pour que NVIDIA chute fortement à Wall Street : - 13 %. Notons tout de même que l'IA de DeepSeek est soumise aux contraintes légales chinoises, notamment sur le domaine politique.

NVIDIA Project DIGITS : un ordinateur IA surpuissant dans un barebone

Soumis par francoistonic le

Il existe déjà des PC IA mais NVIDIA va bien au-delà en dévoilant le projet DIGITS. Le PC reprend le format barebone des Intel NUC et Mac Mini. DIGITS n'est pas un autre micro-ordinateur mais plutôt un HPC dédié à l'IA.

Il utilise un NVIDIA G10 Grace Blackweel, 128 Go de RAM, un stockage ultra rapide de 4 To. Le puce NVIDIA embarque une GPU de 1 petaflop de calculs et un CPU intégrant 20 coeurs ARM. DIGITS n'est pas là pour faire du jeu ou de la bureautique, il est taillé pour les LLM de 200 milliards de paramètres, faire de l'entrainement, développer des IA. Il sera possible de mettre en cluster plusieurs DIGITS pour pouvoir utiliser des LLM de 400 milliards de paramètres. La connexion entre les DIGITS pourra se faire via ConnectX qui sont des interfaces Ethernet hautes performantes (jusqu'à 400 Gb/s).

La machine utilise un OS dédié basé sur Linux : DGX OS. Il travaillera en transparence avec DGX Cloud. Tous les SDK et frameworks NVIDIA pourront être utilisés sur la machine. 

DIGITS devrait être disponible à partir de mai 2025 pour un prix de départ de 3 000 $. Reste à voir la configuration de base et les options proposées. DIGITS est un nom de code, peu de chance que ce soit le nom commercial de la machine. 

Intelligence Artificielle : Microsoft veut s'affranchir de sa dépendance à NVIDIA

Soumis par fredericmazue le

Pour son infrastrucure d'intelligence artificielle, Microsoft utilise des serveurs équipés avec des puces maison, appelées Maia AI, et développées spécifiquement pour accélérer les traitements. Pour échanger des données, les serveurs utilisent, bien sûr des cartes réseau, actuellement fournies pas NVIDIA. D'après Reuters, Microsoft a entrepris le développement de nouvelles cartes réseau, à la fois pour améliorer les performances et pour s'affrichir de sa dépendance à NVIDIA.

Cette carte réseau sera similaire à la carte ConnectX-7 que NVIDIA vend avec ses processeurs graphiques (GPU)

Pour diriger les travaux de développement de cette nouvelle carte réseau, Satya Nadella, a fait appel à Pradeep Sindhu, cofondateur du développeur d'équipements réseau Juniper Networks.

HPE annonce une collaboration avec NVIDIA pour construire une solution d'IA Générative

Soumis par fredericmazue le

HPE annonce une collaboration stratégique élargie avec NVIDIA afin de construire une solution informatique pour les entreprises en matière d'IA générative (GenAI). Cette offre veut constituer le point d'entrée idéal pour les entreprises qui peuvent désormais démarrer rapidement leur parcours en matière d'IA grâce à une solution prête à l'emploi, et supprimer la complexité du développement et du déploiement de l'infrastructure GenAI grâce à une solution complète d’optimisation et d'inférences de l'IA de HPE et NVIDIA.

« Ensemble, HPE et NVIDIA ont une position unique pour proposer une solution complète pour l’IA native avec un portefeuille de solutions préconfigurées qui facilitera considérablement le parcours pour développer et déployer des modèles d'intelligence artificielle », a déclaré Antonio Neri, président et CEO de HPE.  « La collaboration stratégique entre HPE et NVIDIA réduira considérablement les obstacles pour les clients qui cherchent à transformer leur entreprise avec l'IA. »

« L'ère de l'intelligence artificielle générative passe à la vitesse supérieure, les entreprises pressent le pas pour réimaginer leurs activités », a expliqué Jensen Huang, fondateur et CEO de NVIDIA. « Notre collaboration élargie avec HPE aidera les entreprises à atteindre une productivité sans précédent grâce à des applications d'IA qui se connectent aux données de l'entreprise pour alimenter des assistants précis, des chatbots informés et une recherche sémantique. »

La solution informatique GenAI des deux partenaires pourra être commandée au premièr trimestre 2024. 

Microsoft Ignite 2023 : NVIDIA annonce le service NVIDIA AI foundry

Soumis par fredericmazue le

Lors de la conférence Microsoft Ignite 2023, NVIDIA a annocé son service AI foundry fonctionnant sur Azure. Conçu afin d'aider les entreprises et les startups à accélérer le développement, la mise au point et le déploiement de leurs propres modèles d'IA personnalisés sur Microsoft Azure, se service rassemble trois éléments - une collection de modèles NVIDIA AI Foundation, le cadre et les outils NVIDIA NeMo, ainsi que le supercalculateur et les services NVIDIA DGX Cloud AI - qui offrent aux entreprises une solution de bout en bout pour créer des modèles d'IA générative personnalisés.

Les entreprises peuvent ensuite déployer leurs modèles avec la solution NVIDIA AI Enterprise sur Azure pour alimenter les applications d'IA générative, y compris la recherche intelligente, la synthèse et la génération de contenu.

NVIDIA et AMD travailleraient sur des CPU à architecture Arm

Soumis par fredericmazue le

Selon une information exclusive de Reuters, qui cite des sources proches du dossier, NVIDIA, le géant des processeurs graphiques, ou GPU, travaillerait à des processeurs à architecture ARM. Il ne s'agit pas cette fois de processeurs graphiques, mais bien d'unités centrales, ou CPU, pour PC. Selon les mêmes sources, AMD ferait le même travail de son côté. Au final les deux entreprises pourraient commencer les ventes de CPU pour PC à architecture Arm dès 2025.

Ces initiatives pourraient avoir été incitées par Microsoft, qui voudrait viser Apple. En effet la firme à la pomme a presque doublé sa part de marché au cours des trois années écoulées depuis le lancement en interne de ses propres puces basées sur Arm pour ses ordinateurs Mac. Microsoft voudrait aussi ne plus dépendre d'Intel, ou du moins ne plus dépendre d'un seul fournisseur. Par ailleurs, toujours selon les sources de Reuters, les dirigeants de Microsoft ont observé à quel point les puces Apple basées sur Arm sont efficaces, y compris en matière de traitement de l'IA, et souhaitent atteindre des performances similaires.