accélération GPU

TornadoVM: apporter aux applications Java l'accélération des GPU et des FPGA

Soumis par admin le
Image

TornadoVM est un plug-in pour OpenJDK et GraalVM qui permet aux programmeurs d'exécuter automatiquement des programmes Java sur du matériel hétérogène. TornadoVM cible actuellement les appareils compatibles OpenCL et fonctionne sur des processeurs multicœurs, des GPU (NVIDIA et AMD), des GPU intégrés Intel et des FPGA (Intel et Xilinx).

Les applications écrites pour TornadoVM sont à source unique - le même code est utilisé pour exprimer le code hôte et le code accéléré. TornadoVM étend le compilateur Graal JIT avec un nouveau backend pour OpenCL. A l'exécution, TornadoVM décharge les application Java sur les CPU multicoeurs, les GPU et les FPGA.

Soit une multiplication matricielle codée en Java :

class Compute {
   public static void matrixMultiplication(final float[] A, final float[] B, final float[] C, final int size) {
          for (int i = 0; i < size; i++) {
          for (int j = 0; j < size; j++) {
                    float sum = 0.0f;
                    for (int k = 0; k < size; k++) 
                   sum += A[(i * size) + k] * B[(k * size) + j];
                C[(i * size) + j] = sum;
          }
            }
    }
}

Pour accélérer ce code avec TornadoVM, on annote les boucles qui peuvent être parallélisées, comme ceci :

class Compute {
   public static void matrixMultiplication(final float[] A, final float[] B, final float[] C, final int size) {
          for (@Parallel int i = 0; i < size; i++) {
          for (@Parallel int j = 0; j < size; j++) {
                    float sum = 0.0f;
                    for (int k = 0; k < size; k++) 
                   sum += A[(i * size) + k] * B[(k * size) + j];
                C[(i * size) + j] = sum;
           }
         }
    }
}

Le compilateur TornadoVM JIT ne force pas la parallélisation. Au lieu de cela, il vérifie si les boucles annotées peuvent être parallélisées et il remplace les boucles for pour l'indexation parallèle équivalente dans OpenCL. Si les boucles for ne peuvent pas être parallélisées, TornadoVM sort et exécute le code séquentiel.

L'illustration ci-dessous montre une représentation du flux d'exécution entre JVM et TornadoVM.

TornadoVM  est un logiciel libre sous licence Apache 2.0, disponible sur GiHub.

Le créateur de TornadoVM a présenté celui en mars dernier lors de la conférence QCon-London. Les visuels et les démonstrations utilisés pour cette conférrence sont également disponible sur GitHub.

Le créateur de TornadoVM a également publié sur InfoQ un article très détaillé sur la mise en oeuvre de TornadoVM.

Accélération GPU / 3D : Les spécifications Vulkan 1.0 sont publiées

Soumis par fredericmazue le

C'est le 16 février que le Khronos Group a publié les spécifications finales 1.0 de Vulkan. Vulkan est basé sur la technologie Mantle d'AMD. Vulkan spécifie une interface de programmation de bas niveau pour GPU. Vulkan veut être l'équivalent de DirectX de Microsoft ou de Metal d'Apple. Mais contrairement à ces derniers, Vulkan est multi plates-formes (Windows, Linux, Android, probablement à terme iOS et OS X). Vulkan doit remplacer OpenGL, mais si cette dernière continuera d'exister.

Contrairement à OpenGL qui est une librairie de plutôt haut niveau, Vulkan vise le bas niveau et les performances. Vulkan supporte le multi threading.

Les premières implémentations existent déjà : Les pilotes des GPU Radeon basés sur l'architecture GCN supportent partiellement Vulkan,  NVIDIA assure que son pilote GeForce 356.39 est totalement conforme avec Vulkan 1.0. Avec les spécifications 1.0 publiées, les choses ne pourront qu'avancer vite dans ce domaine.

Par ailleurs la Qt Compagny, qui jusqu'ici supportait OpenGL a annoncé avoir rejoint le Khronos Group ainsi que son intention de soutenir Vulkan. La célèbre librairie multi plates-formes Qt devrait donc intégrer Vulkan très prochainement.

Vulkan dispose d'un site officiel. Ces spécifications au format PDF ou HTML sont accessibles depuis cette page. Sa documentation complète est sur GitHub.