DeepSeek

DeepSeek-R1 arrive sur AWS, Azure et NVIDIA NIM

Soumis par francoistonic le

Business is business. Cet adage se vérifie parfaitement avec les LLM DeepSeek au coeur de l'actualité IA depuis quelques jours. Malgré les critiques et les soupçons d'une infrastructure bien plus performante que celle annoncée, la compatibilité de DeepSeek s'étend. Le LLM R1 comporte 671 milliards de paramètres. Azure annonce son support dans Azure AI Foundry et GitHub.

"DeepSeek R1 est accessible sur une plateforme fiable, évolutive et adaptée aux entreprises, permettant aux entreprises d’intégrer de manière transparente l’IA avancée tout en respectant les SLA, la sécurité et les engagements en matière d’IA responsable, le tout soutenu par la fiabilité et l’innovation de Microsoft." indique Azure. Pour l'utiliser, il faut disposer d'un compte Azure et de sélectionner DeepSeek R1 dans le catalogue de modèles. 

Annonce : https://azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on-azure-ai-foundry-and-github/

AWS annonce ce jour la disponibilité de DeepSeek-R1 sur la plateforme cloud AWS. Il est possible de l'utiliser dans Bedrock Marketplace, dans Bedrock Custom Model Import, SageMaker JumpStart, EC2 Trn1. Annonce : https://aws.amazon.com/fr/blogs/aws/deepseek-r1-models-now-available-on-aws/

NVIDIA, qui a été malmené par l'annonce de DeepSeek, rend disponible le LLM dans un microservice NVIDIA NIM (préversion). Il est accessible sur build.nvidia.com. Il peut délivrer 3 872 tokens par seconde sur un système HGX H200. 

DeepSeek : l'IA chinoise qui fait (un peu) trembler OpenAI

Soumis par francoistonic le
Image

Il y a un an, on pouvait lire ici et là, des prédictions sur la fin de ChatGPT qui sera remplacé par un autre service. La réalité est arrivée plus vite que prévue avec DeepSeek, un startup chinoise.

Cette IA / GenIA, repose sur :

- un modèle open source pour les LLM et le code source

- un investissement officiellement bien moindre que OpenAI et les autres même si nous ne connaissons pas tous les éléments

Le potentiel de DeepSeek, la diffusion de son app, une licence MIT pour son LLM, des tarifs plus accessibles pour les services payants, font que la startup chinoise fait trembler une partie de l'univers IA américain. Surtout, DeepSeek propose des tarifs bien plus faibles qu'OpenAI alors que les investissements vont être colossaux en 2025. La question est de savoir quelle est l'infrastructure derrière DeepSeek et comment les LLM chinois sont entraînés. Les milliards ne font pas tout ni la qualité d'une app ou d'une IA. La preuve. Des analystes prédisent déjà la fin des investissements monstres (Jefferies). 

Mais d'autres, tels que JPMorgan, soulèvent d'autres questions qui nuancent l'exploit : DeepSeek est financé par un important fonds chinois, High-Flyer. Ce dernier aurait permis à DeepSeek d'utiliser plus de 50 000 GPU NIVIDIA Hopper, soit grosso modo l'équivalent de l'infrastructure d'OpenAI. L'efficacité des LLM de DeepSeek vient forcément d'une inférence sur 10-12 mois et qu'une puissance de calcul est nécessaire pour le réaliser. Elon Musk ne dit pas autre chose : Évidemment, DeepSeek a bien plus de GPU NVIDIA qu'ils ne le disent. Officiellement, la startup affirme utiliser 10 000 GPU A100... 

Après, que DeepSeek baisse les tarifs, est-ce à dire que les infrastructures soient nécessairement moindres ? Ou alors, la startup mise sur la masse d'utilisateurs payants pour amortir les coûts, quitte à adopter une stratégie tarifaire agressive à perte.

Les restrictions sur l'exportation technologique des Etats-Unis poussent sans aucun doute les startups chinoises à chercher des contournements et des solutions techniques équivalentes. Il n'en fallait pas plus pour que NVIDIA chute fortement à Wall Street : - 13 %. Notons tout de même que l'IA de DeepSeek est soumise aux contraintes légales chinoises, notamment sur le domaine politique.