CUDA est devenu la référence dans le calcul intensif, l'optimisation LLM, machine learning, le compute vision, etc. CUDA est natif aux GPU NVIDIA et le constructeur fut évolué le langage, les API et les SDK. Mais CUDA reste fortement lié aux GPU NVIDIA. OpenMP pourrait être une alternative ouverte à CUDA. Cette technologie n'est pas nouvelle mais OpenMP Architecture Review Board voudrait bien transformer OpenMP en véritable alternative à CUDA. Le modèle référence reste le C++ mais il existe une OpenMP Python. Pour le moment, cela reste une ambition théorique.

Au printemps dernier, le CNCF évoquait la nécessité d'avoir une véritable alternative aussi performante que CUDA, open source et agnostique des constructeurs et des GPU. Se pose alors des questions sur l'interopérabilité de ces différentes technologiques. Les alternatives  ne manquent pas : OpenMP, OpenCL, Vulkan, ROCm (AMD). Et les fondeurs de GPU proposent aussi leurs propres solutions comme AWS, Google, Apple, etc. 

Malgré toutes les initiatives, aucune ne s'impose face à CUDA. Les récentes interdictions chinoises contre les puces NVIDIA pourraient accélérer le mouvement.