Dans les deux précédents articles sur Intel Parallel Studio, nous nous sommes intéressés aux outils Inspector et Amplifier qui permettent respectivement de corriger et accélérer vos logiciels parallèles. Mais nous n'avons pas encore abordé Composer, qui est le compilateur associé à diverses librairies comme Intel Threading Building Blocks et Intel Performance Primitives (TBB et IPP).

De nos jours, un compilateur ne peut se contenter de produire un binaire minimaliste, même optimisé. Il doit vous aider à adopter une syntaxe plus claire, apporter un éclairage nouveau sur votre code et surtout aider à paralléliser votre logiciel simplement. Un développeur n'est jamais trop exigeant avec son compilateur. Une fois Parallel Studio installé, pour utiliser le compilateur Intel il suffit de cliquer droit sur votre solution et demander sa conversion (la procédure est réversible). Il est important de noter que le compilateur et les librairies sont disponibles sur d’autres plates-formes, et que les performances sont bonnes sur d’autres processeurs que ceux d’Intel, portabilité avant tout ! Parmi toutes les fonctionnalités de Parallel Composer, parlons donc des différentes manières de paralléliser votre code, des extensions C++ d'Intel et des fonctions lambda.

OPENMP

OpenMP est un standard qui permet de paralléliser rapidement un code avec un minimum de changements par rapport à la version sérielle. Le standard existe depuis plus de 10 ans, il a prouvé son utilité dans le calcul scientifique et bénéficie d'un soutien sans faille de l'industrie ; vous pouvez donc l'utiliser en production sans crainte. Historiquement OpenMP a commencé par l'ajout de pragmas simples, ces commentaires très spéciaux lus par certains compilateurs. Par exemple une ligne "#pragma omp parallel for" placée juste avant une boucle for permet de la paralléliser. Différentes itérations de la boucle seront alors envoyées à différents threads (créés automatiquement par OpenMP), et ce de manière totalement transparente et dynamique lors de l'exécution. Vous pouvez même spécifier quel algorithme de distribution vous souhaitez, tout cela sans changer une seule ligne de code. Vous pouvez certes programmer des threads en bas niveau avec C/C++, mais pourquoi ne pas laisser faire la machine virtuelle OpenMP ? Connaître OpenMP c'est l'adorer !
Si votre compilateur ne comprend pas OpenMP, votre code sera compilé en sériel, donc aucun risque. Pour appliquer les instructions, il doit savoir mettre en place un cadre de calcul parallèle dynamique lors de l'exécution autour de votre code et de vos données, toute la complexité est donc reportée du développeur vers le compilateur. Tâche d'autant plus complexe que le standard, au début limité à de simples fonctions, permet maintenant la parallélisation de cas beaucoup plus complexes. Le support d'OpenMP dans sa version récente 3.0 devient donc un critère important lors du choix d'un compilateur. Dans sa mouture 3.0, OpenMP apporte notamment des améliorations dans la récursivité. Il n'est pas simple de paralléliser une liste de tâches dont on ne connaît pas l'étendue à l’avance, ou qui ont des dépen dances entre elles, deux caractéristiques de bien des algorithmes récursifs. Le nouveau concept de "Task" mettra une partie de votre code dans la liste d'attente des tâches à calculer en parallèle (que vous n'avez pas à gérer), quels que soient le nombre et la complexité des tâches ou la nature récursive de leurs appels.

EXTENSIONS INTEL C++

Le concept d'OpenMP réside dans l'usage de pragmas, annotations certes intelligentes et transparentes de votre code mais pas très respectueuses d'un style d'écriture "naturel" en C++. C'est pour cela qu'Intel propose l'emploi de nouvelles extensions C++ : vous pouvez écrire "__par" au lieu de "#pragma omp parallel for". Si le concept vous plaît, n'hésitez pas à le dire sur les forums de software.intel.com et nous étendrons ce type de mots clés a l'avenir.

VECTORISATION ET OOO

Nous parlons souvent de parallélisation au niveau logiciel dans le but d'utiliser différents coeurs, mais la parallélisation peut aussi se faire au niveau matériel dans l'utilisation simultanée de différentes unités de calcul d'un même coeur. Soit vous utilisez ces unités pour effectuer des calculs différents et indépendants, et c'est que vous avez un processeur "Out Of Order" (sans ordre déterminé). Soit vous les utilisez pour des calculs similaires sur des données différentes, nous parlons alors de vectorisation. Le calcul Out Of Order est une propriété de certains processeurs (dont les Core2 d'Intel) ou tout est géré automatiquement et de manière transparente, le compilateur intervient peu dans ce mécanisme. Par contre, la vectorisation nécessite l'emploi d'un jeu d'instructions spécifiques, les SSE (Streaming SIMD Extensions), LRBni (Larrabee New Instructions) ou futures Intel AVX (Advanced Vector eXtensions). Ces instructions sont généralement ajoutées par le compilateur si votre code le permet mais il vous faut lui en faire la demande par des arguments lors de la compilation (ces arguments peuvent être changés par des menus interactifs dans Visual Studio). Des exemples d'accélérations intéressantes concernent les opérations arithmétiques simples, ou l'emploi de "valarray".

DIAGNOSTIC

Par défaut, le compilateur Intel vous affichera un niveau de diagnostic comparable à celui de Visual Studio. Mais il est souvent très instructif de demander un affichage plus détaillé. Pour commencer, l'option "diagenable: level1" pourra déceler des incohérences comme des arguments incorrects ou des tests logiques inutiles. L'option "vec-report3" vous informera, elle, de la façon dont l'unité de vectorisation automatique du compilateur perçoit votre code, pas seulement le résultat de l'optimisation mais les raisons d'une non optimisation. Lorsque le compilateur ne peut déterminer avec certitude que deux données sont indépendantes, il suppose qu’elles sont dépendantes et empêche de vectoriser une boucle ou elles sont présentes. Bien souvent, de simples redéfinitions de variables temporaires permettent de prouver l’indépendance et de vectoriser. Et comme Parallel Composer est intégré à Visual Studio vous verrez les messages de log liés à votre code.

FONCTIONS LAMBDA

Si deux développeurs C++ se croisent ces derniers temps, il est probable que le sujet de discussion dérive rapidement vers les fonctions lambda. Probable aussi que la discussion soit quelque peu théorique, faute d'avoir un compilateur capable de les comprendre jusqu'à présent et une expérience pratique de ces fonctions. Pour résumer, une fonction lambda est une fonction déclarée à la volée lors de l'appel et dont la syntaxe est simplifiée. Si vous n'avez besoin d’une fonction qu'une seule fois, pourquoi la déclarer complètement et ne pas se concentrer sur son code utile à la place ? Présentées sous cet angle les fonctions lambda peuvent apparaître comme un léger raccourci syntaxique sans conséquences. Elles sont en fait une révolution dans le monde du C++ : elles marquent le passage d'une programmation procédurale vers une programmation fonctionnelle (en simplifiant). Ce n'est peut être pas tout à fait un hasard si Intel s'y intéresse de si près. Le support des fonctions lambda est demandé par nombre de développeurs et Intel se doit donc de l'incorporer dans le compilateur, mais plus généralement, la programmation fonctionnelle devrait à long terme permettre de tirer parti au mieux d'une architecture largement parallèle, et ce avec un code simple et naturel. La programmation fonctionnelle n'entre pas en concurrence avec des technologies de calcul parallèle comme OpenMP ou TBB (qui utilisent parfois des principes de programmation fonctionnelle), les deux approches sont complémentaires.

IPP

Lorsque vous voulez optimiser l'utilisation matérielle de votre logiciel, la première action à prendre est souvent de remplacer vos librairies par des librairies optimisées, parallèles et "thread safe" (dont le comportement en mode parallèle est garanti par le vendeur). Parallel Composer inclut la librairie Intel Performance Primitives ou IPP qui peut être distribuée gratuitement avec votre logiciel, ne vous privez donc pas de l'utiliser. IPP offre un panel de fonctions très large : codecs vidéo, traitement d'image, reconnaissance faciale et vocale, compression, cryptographie, ray tracing ainsi que des fonctions plus bas niveau de traitement de signal. Pour le traitement d'image par exemple, profitez du Deffered Mode Image Processing. Le DMIP vous propose de définir tous les filtres et opérations que vous souhaitez sur une image comme un pipeline avant de l'exécuter en optimisant l'utilisation du cache processeur. Utiliser un codec vidéo IPP dans votre logiciel offre une performance et une portabilité optimale assez simplement. Par contre, utiliser certaines fonctions de traitement de signal pour faire de la reconnaissance faciale est plus ardu. (Mais si ce sujet vous intéresse, la librairie Open Computer Vision est très amusante, plus facile à utiliser et disponible sous licence BSD). Si vous suivez l'actualité des processeurs de très près, vous avez peut être vu que le Core i7 "Nehalem" est sorti depuis peu et qu'il intègre un nouveau jeu d'instructions "STTNI" spécialisé dans le traitement de chaînes. Si vous travaillez dans la fouille de données profitez en dès maintenant avec des fonctions IPP comme "ippsFind*Any()". N'hésitez pas à regarder la documentation d'IPP, vous trouverez probablement des idées pour accélérer ou améliorer des parties de votre logiciel.

ET BIEN PLUS

Le compilateur Intel est déjà très complet et utile dans sa configuration actuelle avec OpenMP, IPP et TBB mais il le sera encore plus à l’avenir. Lorsque vous souhaiterez utiliser les ressources d'un accélérateur graphique comme Larrabee de manière transparente pour des simulations physiques ou une intelligence artificielle, il est fort possible que le compilateur joue un rôle central. Si vous voulez programmer en parallèle, en fonctionnel ou tout simplement créer des binaires plus rapides je vous encourage donc à tester Intel Parallel Composer et à donner votre avis sur les forums de software.intel.com.

Paul Guermonprez
Ingénieur logiciel Intel

IntelliJ IDEA 12.1

Intel : vers de meilleurs expériences mobiles

Arrêtez le chasse-neige, programmez parallèle avec TBB
Threading Building Block est une librairie qui a pour but d'offrir une interface agréable pour les développeurs en C++ qui souhaitent paralléliser leur code. Agréable, car vous avez la liberté de rester à un haut niveau d'abstraction, garder une formulation objet fonctionnelle et de ne pas vous intéresser aux détails d'implémentation. Le croirez-vous, modélisation objet et performance ne sont cette fois-ci pas incompatibles, bien au contraire. Le fait de définir avec précision les données du problème en mode objet sans entrer dans les détails techniques donne à la librairie tout ce dont...

Pourquoi passer à la programmation parallèle ? (2ème partie)
Nous poursuivons ce mois-ci les raisons pour passer à la programmation parallèle et surtout les pièges à éviter et à maîtriser. Et ils sont nombreux ! Deadlock Parfois nommé étreinte fatale, le deadlock est provoqué par des threads mutuellement verrouillés. Cette situation peut être comparée à deux personnes dessinant des diagrammes tout en se partageant un crayon et une règle. Si une personne prend le crayon et l'autre prend la règle, un blocage se produit lorsque la personne avec le crayon a besoin de la règle pour terminer son travail alors que la personne avec la règle a besoin...

Pourquoi passer à la programmation parallèle
A l’occasion de la sortie d’Intel Parallel Studio et des nombreuses avancées que les éditeurs préparent pour 2009 et 2010, Programmez ! vous propose de mieux comprendre la programmation adaptée aux processeurs à plusieurs coeurs. C’est ce que l’on appelle la programmation parallèle. C’est- à-dire capable d’exécuter plusieurs opérations, instructions, parallèlement sur plusieurs processeurs ou plusieurs coeurs. Complexe à maîtriser, le parallélisme est le mont Everest du développement. Nous vous proposons de l’aborder méthodiquement en posant les fondamentaux pour bien l’assimiler et éviter...

Version finale : Intel Parallel Studiodébarque
La programmation est l’art de schématiser et simplifier un processus pour l’automatiser. Nous aboutissons donc le plus souvent à un code sériel. Avec l’arrivée de puces multi-core, et bientôt massivement multi-core cette approche atteint ses limites : Il vous faut passer à la programmation parallèle. N’ayez crainte, Intel est là pour vous aider avec un ensemble logiciel aussi convivial que complet : Intel Parallel Studio. Le parallélisme se conçoit à plusieurs niveaux, mais celui qui nous intéresse ici est le " thread ". Intel Parallel Studio est un ensemble de logiciels pour vous aider à...

Intel Parallel Studio : Vous ne reconnaîtrez plus votre C++
Dans les deux précédents articles sur Intel Parallel Studio, nous nous sommes intéressés aux outils Inspector et Amplifier qui permettent respectivement de corriger et accélérer vos logiciels parallèles. Mais nous n'avons pas encore abordé Composer, qui est le compilateur associé à diverses librairies comme Intel Threading Building Blocks et Intel Performance Primitives (TBB et IPP). De nos jours, un compilateur ne peut se contenter de produire un binaire minimaliste, même optimisé. Il doit vous aider à adopter une syntaxe plus claire, apporter un éclairage nouveau sur votre code et...

Plus de coeurs, plus rapide, plus scalable : du multi-core au " many-core ”
Ecrire des applications parallèles se simplifie, et nous avons vu précédemment que chasser les bugs parallèles était rapide et intuitif avec Intel Parallel Inspector. Reste maintenant le principal problème : utiliser pleinement tous les coeurs simultanément. Une station de travail multi-core a typiquement 8 coeurs, 16 vus par l’OS avec la nouvelle technologie SMT (Simultaneous Multi Threading) et dans l’avenir beaucoup plus. Le consensus actuel dans l’industrie des processeurs est que les gains de performance viendront essentiellement par l’ajout de coeurs : nous sommes à l’orée de l’ère...

La chasse aux bogues parallèles avec Intel Parallel Inspector
Nous avons été formés à programmer en mode sériel et passer à la programmation parallèle n'a rien d'évident, mais plusieurs technologies existent pour vous faciliter la vie : Intel Threading Building Blocks ou le standard OpenMP par exemple. Une fois les concepts de base assimilés, implémenter un programme parallèle qui utilise à peu près efficacement un processeur à deux ou quatre coeurs va assez vite si votre algorithme s'y prête. Mais il est surtout très facile de transformer un logiciel sériel sans bogue en un logiciel multithreadé fortement bogué sans que ce soit évident, ni à...

Intel Parallel Studio: simplifier le développement parallèle !
Alors que les processeurs multi-cores (multi-coeurs) prolifèrent, améliorer les performances logicielles, et mieux utiliser la puissance processeur, demeure un enjeu important pour rester compétitif, surtout pour les applications développées en C ou C++. Mais jusqu’à présent le développement parallèle restait complexe à aborder pour le développeur. Programmez ! vous invite à découvrir en avant-première la nouvelle solution Intel, avec un tout nouveau plug-in Visual Studio, qui va radicalement changer votre vision du développement parallèle. L’année 2009 sera non seulement l’année de la...