JIT

Un compilateur JIT pour Python 3.13

Soumis par fredericmazue le

Brandt Bucher, développeur principal de CPython, a soumis une proposition (pull-request) dans la banche Python 3.13. Il s'agit d'ajoindre un compilateur JIT à l'interpréteur de CPython.

Ce compilateur JIT ne traduira pas le code Python en code machine, mais s'appuiera sur la technologie Copy-and-Patch Compilation, proposée en 2021 par les chercheurs Haoran Xu et Fredrik Kjolstad de l'Université de Stanford. Il s'agit d'un algorithme de compilation rapide pour les langages de haut niveau et le code-byte. Les chercheurs expliquent que l’idée est d’assembler du code à partir d’une grande bibliothèque de variantes d’implémentation binaires que l'on peut qualifier de générales. Voilà pour le 'Copy'. Ces implémentations binaires reçoivent le nom de pochoirs en raison du fait qu'elle comportent des 'trous.' Les trous sont ensuite comblés par l'adjonction des éléments qui feront fonctionner le code pour son cas particulier. Voilà pour le 'Patch'. Ce fonctionnement est expliqué plus en détails par exemple dans ce très intéressant billet de blog.

Quels bénéfices peut-on attendre de l'arrivée de ce JIT pour Python ? Brandt Bucher répond à cette question en se basant sur ses travaux préliminaires : Dans l'état actuel des choses, il est entre 2 % et 9 % plus rapide que l'interprète de niveau deux, selon la plate-forme (les références individuelles varient considérablement, de 13 % plus lentes à 47 % plus rapides).

Au départ, vu son côté très expérimental, ce compilateur ne sera bien sûr pas activé par défaut. Pour l'essayer il faudra compiler spécialement un CPython à partir des sources, en donnant le drapeau --enable-experimental-jit au script de configuration de la compilation.

Azul lance un compilateur Java cloud natif

Soumis par fredericmazue le

Ce nouveau compilateur Java cloud natif, Cloud Native Compiler, décharge la compilation Java JIT d'un système local vers une ressource élastique.

La compilation juste à temps (JIT) est découplée de la machine virtuelle Java (JVM) en provisionnant Cloud Native Compiler en tant que cluster Kubernetes, dans le même cluster que les VM clientes ou dans un cluster séparé. Cloud Native Compiler est compatible avec toutes les applications Java et conserve tous les avantages de la compilation JIT. Cloud Native Compiler fonctionne avec Platform Prime, le moteur d'exécution Java d'Azul 

Du fait du déport vers une ressource élastique, ce compilateur peut effectuer une analyse plus approfondie du code, en utilisant des ressources CPU isolées de l'application en cours d'exécution.

Site : azul.com

[video:https://vimeo.com/643406828 autoplay:0]

Sortie de Ruby 2.6, doté d'un nouveau compilateur JIT

Soumis par fredericmazue le
Image

L'équipe de développement de Ruby a annoncé la sortie de la version 2.6 stable de ce langage. Cette mouture se fait essentiellement remarquer par l'arrivée d'un nouveau compilateur Just-in-Time (JIT) expérimental.

Il est souvent reproché à Ruby ses performances médiocres, c'est pourquoi l'équipe de développement travaille la question. Ce nouveau compilateur JIT expérimental est différent de la plupart des compilateurs à la volée, qui sont des processus travaillant uniquement en mémoire.

Le compilateur JIT expérimental de Ruby 2.6 génére du code optimisé sous la forme de code C qui est écrit sur le disque du système, après quoi il lance un compilateur pour produire du code natif.

Ce compilateur JIT étant expérimental, il n'est pas activé par défaut. Il convient de l'activer explicitement en spécifiant le commutateur --jit sur la ligne de commande ou dans la variable d'environnement $RUBYOPT.

Par ailleurs, ce compilateur JIT ne peut fonctionner que si RUBY a été compilé avec GCC, Clang ou Microsoft VC++ et que le compilateur en question est accessible au runtime de JIT au moment de l'exécution.

Selon l'équipe de Ruby, le langage est 1.7 fois plus rapide grâce à ce compilateur JIT pour des travaux gourmands en CPU (benchmark Optcarrot). Mais ils font remarquer que ce compilateur JIT peut ne pas améliorer les performances d'applications du monde réel, telles que des applications web.

Un compilateur JIT arrive pour le langage Ruby

Soumis par fredericmazue le

Ruby 2.6.0-preview2 vient de sortir. Cette mouture se distingue par l'arrivée d'un compilateur JIT (Just-in-Time) pour ce langage, qui offrira donc de ce fait de bien meilleures performances à l'exécution.

Généralement un compilateur JIT génère à la volée du code natif en mémoire, à partir du code source ou d'un code-byte. Chaque fois qu'une application est chargée, le compilateur JIT se remet et travail et effectue la même opération.

Le compilateur JIT de Ruby se distingue par un mode de fonctionnement différent. Il génére, la première fois que l'application est lancée, un code C qui est écrit sur le disque du système, puis il lance un compilateur C qui va ensuite générer le code natif une fois pour toutes.

Pour activer ce tout nouveau compilateur JIT de Ruby, il suffit de donner le commutateur -jit dans la ligne de commande qui lance l'application, ou bien d'ajouter cette valeur dans la variable d'environnement $RUBYOPT. Sachant toutefois que, pour le moment, le compilateur JIT ne peut fonctionner que si votre environnement d'exécution Ruby a été compilé avec GGC ou Clang. Il faut aussi, bien évidemment, que le compilateur soit disponible au moment de l'exécution.

Ce billet tehnique détaille le fonctionnement du compilateur JIT de Ruby.

Pyjion : un compilateur JIT pour Python 3 signé Microsoft

Soumis par fredericmazue le

Python est un langage de plus en plus apprécié, en raison de sa facilité et de son expressivité. En revanche Python n'est pas un langage rapide.

Pour remédier à cela, Microsoft propose Pyjion, un compilateur JIT, construit sur CoreCLR, le runtime .NET que Microsoft a placé en open source. C'est l'occasion pour Microsoft de fournir une preuve de concept, montrant les performances de son runtime.

Pyjion se présente comme un outil intéressant : il est conçu pour Python 3 (CPython) et il supporte les modules d'extensions. Les autres initiatives similaires ne s'intéressent qu'à la branche Python 2.x et ne supportent en général pas les modules d'extensions écrits en C. Pourtant ces modules sont indispensables aux 'gros' utilisateurs de Python, par exemple ceux, très nombreux, qui utilisent Python pour des calculs scientifiques.

Pyjion est sur GitHub. Pour l'utiliser il faut appliquer un patch à Python pour lui ajouter le support d'un compilateur JIT et un patch à CoreCLR pour retirer à celui-ci le support de COM.

Source : developpez.com

TurboFan : le nouveau compilateur pour le moteur V8 de Chrome

Soumis par francoistonic le

Les équipes de Chromium (projet qui sert de fondation à Chrome) annoncent un nouveau compilateur juste à temps dédié au moteur d’exécution V8 : TurboFan. Ce compilateur supporte les dernières avancées JavaScript / ECMAScript. Le moteur est présent depuis Chrome 41 mais il fonctionne sur une quantité limitée de code. 

Selon le blog de Chromium, ce compilateur optimise plus intelligemment le code pour être à la fois flexible et dynamique et plus « facile » à étendre et à maintenir. Les tests sous Octane indiquent jusqu’à 29 % d’amélioration. L’équipe va étendre peu à peu TurboFan à des types JavaScript plus nombreux, car aujourd’hui, ceux-ci sont limités. La décision de remplacer purement et simplement le compilateur actuel, CrankShaft n’est pas encore prise.

François Tonic

Google Chrome : parser et compiler le code JavaScript avant qu'il ne soit totalement chargé

Soumis par fredericmazue le
Image

Dans un billet Google rappelle que la vitesse a toujours été un des principes fondateurs du navigateur Google Chrome, depuis 2008.

Une vitesse qui doit être présente dans toutes les interactions de l'utilisateur avec navigateur, à commencer par le chargement des pages, souligne le billet. C'est pour aller dans ce sens que Google Chrome 41 et Google Chrome 42 (ce dernier est en version bêta pour le moment)  introduit deux nouvelles techniques, le script streaming et le cache de code.

Le script streaming veut en finir avec la vieille approche qui consistait à charger du code JavaScript, puis, une fois le code chargé, le parser, et enfin le compiler avec un compilateur JIT. Pendant le temps de chargement, la CPU se tourne les pouces explique Google. Avec le script streaming, le parsing du code commence de façon asynchrone, dans un thread dédié, dès que le téléchargement du code est commencé. De cette façon, la CPU ne reste plus inactive et le parsing est terminé quelques millisecondes seulement après que le téléchargement du code soit lui-même terminé. Dans le cas de grosses applications JavaScript et dans le contexte de connexions lentes, le gain sur le temps totalement de chargement d'une page web est de 10%, assure le billet, sans définir pour autant ce qu'est une grosse application ni ce qu'est une connexion lente.

Le cache de code vient quant à lui dispenser le moteur JavaScript V8 de compiler le code à chaque chargement de page, comme il le faisait auparavant. Il en était ainsi car le code compilé est hautement dépendant de l'état et du contexte de la machine au moment de la compilation, explique Google. Sans préciser en quoi cela consiste ni comment un remède y a été apporté, le billet nous apprend que désormais Chrome 42 introduit une technique avancée qui permet de stocker localement le code compilé. De cette façon, quand un utilisateur revient sur une page, les étapes de chargement, parsing et compilation du code ne sont plus faites, ce qui amène un gain total de 40%, et une économie précieuse pour les batteries des terminaux mobiles.

 

PHP Next Generation : bientôt un PHP avec un compilateur JIT

Soumis par fredericmazue le

L'équipe de développement du langage PHP est toujours à la recherche de moyens d'améliorer les performances à l'exécution de ce langage.

Un petit billet publié cette ce semaine sur www.php.net nous livre d'intéressantes informations à ce sujet.

Il est question d'intégrer un compilateur JIT dans PHP. La chose n'était pas possible au départ. Le billet nous apprend que tout d'abord, des API internes ont dues être revues et corrigées.

Ensuite une branche du projet, la branche phpng, a été créée dans le seul but de résoudre des problèmes qui empêchaient la création d'un compilateur JIT pour PHP.   

phpng pour PHP Next Generation. Les développeurs travaillant à cette branche ont réalisés des progrès importants. A tel point qu'avant même l'arrivée du compilateur JIT, des gains de performances de 20% sont indiqués avec WordPress.

Désormais, grâce à tous ces travaux, la porte au développement d'un compilateur JIT pour PHP est désormais ouverte, nous indique ce billet. Les discussions techniques ont commencé, dans une inspirante collaboration, rapporte ce billet qui décrit une équipe très excitée à l'idée de créer un PHP 'Next Generation'.

FTLJIT le nouveau moteur JavaScript de Safari

Soumis par fredericmazue le
Image

Apple reprendre la course à la performance des interfaces utilisateur des navigateurs. Longtemps en tête avec le moteur JavaScriptCore, alias Nitro, de son navigateur Safari, Apple s'était peut-être un peu endormi sur ses lauriers.

Apple s'est remis au travail sur JavaScriptCore et développe FTMJIT, un compilateur JIT basé sur LLVM. Ce compilateur traduira le code JavaScript en code natif.

Des benchmarks publié sur AreWeFastYet montrent des résultats prometteurs pour FLTJIT, résultats qui ne sont bien sûr en rien définitifs pour l'instant.

Chrome va améliorer la performance de son JavaScript avec de la compilation concurrente

Soumis par fredericmazue le
Image
Image

Lu sur le blog de Chromium, la version 33 de Chrome, actuellement en beta, devrait apporter des améliorations significatives en matière de performances à l'exécution du JavaScript, notamment pour les grosses applications.

Actuellement V8, le moteur JavaScript de Chrome, fait une compilation à la volée, en deux passes, du code JavaScript pour le traduire en code machine. La première passe se fait avant la toute première exécution du code. Elle est rapide, mais elle ne s'occupe pas de faire des optimisations.

La seconde passe s'occupe des portions de code qui sont les plus utilisées, et elle met en oeuvre des techniques avancées, ce qui demande du temps, mais ce qui génère un code beaucoup plus rapide.

Malheureusement, explique le billet susmentionné, cette deuxième passe peut se révéler  pénalisante, tout spécialement sur les gros morceaux de code. Car les deux passes de compilation et d'optimisation sont effectuées dans le thread principal. Des applications telles que des jeux peuvent souffrir de saccades, ou même perdre des affichages.

La solution, selon Google, est d'appliquer ici un processus de compilation concurrente. La compilation d'optimisation sera effectuée en arrière-plan. Pendant ce temps l'exécution de l'application continue normalement, et dès que l'optimisation est terminée, le nouveau code vient remplacer l'ancien dans le thread d'exécution.

Un procédé qui selon Google, apportera une bien meilleure fluidité aux applications lourdes, et même jusqu'à 27% de gain de performances.

Sans compilation concurrente des "trous" produisant des saccades à l'exécution apparaissent.

Avec la compilation concurrente, les saccades sont absorbés presque en totalité