<?xml version="1.0" encoding="utf-8" ?>
<rss version="2.0" xml:base="https://www.programmez.com/" xmlns:dc="http://purl.org/dc/elements/1.1/">
  <channel>
    <title>LiteRT</title>
    <link>https://www.programmez.com/</link>
    <description></description>
    <language>fr</language>
    
    <item>
  <title>LiteRT.js : Google lance une Web AI dans le navigateur</title>
  <link>https://www.programmez.com/actualites/litertjs-google-lance-une-web-ai-dans-le-navigateur-39835</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;LiteRT.js : Google lance une Web AI dans le navigateur&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;francoistonic&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2026-07-15T07:27:01+02:00&quot; title=&quot;Mercredi, 15 juillet 2026 - 07:27&quot; class=&quot;datetime&quot;&gt;mer, 15 Jul 2026 - 07:27&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/litertjs-google-lance-une-web-ai-dans-le-navigateur-39835%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/litertjs-google-lance-une-web-ai-dans-le-navigateur-39835%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/actualites/outils&quot; hreflang=&quot;fr&quot;&gt;Outils&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/litert&quot; hreflang=&quot;fr&quot;&gt;LiteRT&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

      &lt;div class=&quot;field field--name-field-image-actualite field--type-entity-reference field--label-hidden field__items&quot;&gt;
              &lt;div class=&quot;field__item&quot;&gt;&lt;div&gt;
  
  
  &lt;div class=&quot;field field--name-field-media-image field--type-image field--label-visually_hidden&quot;&gt;
    &lt;div class=&quot;field__label visually-hidden&quot;&gt;Image&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;  &lt;img loading=&quot;lazy&quot; src=&quot;/sites/default/files/styles/large/public/images_actus/litertt.png.webp?itok=O1pTy9ES&quot; class=&quot;image-style-large&quot; /&gt;


&lt;/div&gt;
          &lt;/div&gt;

&lt;/div&gt;
&lt;/div&gt;
          &lt;/div&gt;
  
            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;Il y a quelques semaines Google a annoncé LiteRT.js. Il s&#039;agit d&#039;un runtime IA haute performance directement accessible sur le navigateur. Il permet d&#039;exécuter des modèles .tflite dans le navigateur en s&#039;appuyant sur le WebGPU et le futur standard WebNN.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;Pourquoi ?&lt;/p&gt;
&lt;p&gt;- avoir un écosystème accessible sur le web, Android et iOS&lt;/p&gt;
&lt;p&gt;- compatible PyTorch&lt;/p&gt;
&lt;p&gt;- optimisation&amp;nbsp;&lt;/p&gt;
&lt;p&gt;- compatible TF.js et intégration avec les flux Tensorflow.js&lt;/p&gt;

&lt;p&gt;&quot;En portant la bibliothèque d&#039;inférence LiteRT, reconnue pour sa fiabilité et initialement conçue pour les appareils mobiles, sur le web, les développeurs web peuvent désormais exécuter des modèles de ML et d&#039;IA avec des performances optimales, entièrement en local. Cela se traduit par une confidentialité accrue des utilisateurs, l&#039;absence de coûts serveur et une latence ultra-faible pour des expériences en temps réel. Pour les développeurs disposant déjà de modèles .tflite, LiteRT.js simplifie considérablement le déploiement sur les navigateurs web mobiles et de bureau, représentant une évolution majeure de TensorFlow.js pour l&#039;exécution de ces modèles.&quot; explique Google.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;LiteRT.js doit obtenir de bonnes performances en exécutant les modèles .tflite directement dans le navigateur, avec l&#039;accélération matérielle incluant XNNPACK pour le CPU, ML Drift pour le GPU et la future technologie WebNN pour les NPU.&lt;/p&gt;
&lt;p&gt;Il peut être s&#039;intégrer à JavaScript, TypeScript.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;Pour utiliser LiteRT :&lt;/p&gt;
&lt;p&gt;import { loadLiteRt, loadAndCompile, Tensor } from &#039;@litertjs/core&#039;;await loadLiteRt(&#039;path/to/wasm/directory/&#039;);const model = await loadAndCompile(&#039;path/to/your/model.tflite&#039;,{ accelerator: webgpu });const inputTypedArray = new Float32Array(1 * 3 * 244 * 244);const inputTensor = new Tensor(inputTypedArray, [1, 3, 244, 244]);const results = await model.run(inputTensor);// results is a Tensor stored on GPU. To move it to CPU &amp;amp; convert to a typedArray we useconst resultArray = (await results[0].moveTo(&#039;wasm&#039;)).toTypedArray();
&lt;/p&gt;&lt;p&gt;Annonce :&amp;nbsp;https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference/&lt;/p&gt;
&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Wed, 15 Jul 2026 05:27:01 +0000</pubDate>
    <dc:creator>francoistonic</dc:creator>
    <guid isPermaLink="false">81945 at https://www.programmez.com</guid>
    </item>
<item>
  <title>LiteRT : TensorFlow Lite est mort, vive LiteRT, Google veut un runtime IA unique partout</title>
  <link>https://www.programmez.com/actualites/litert-tensorflow-lite-est-mort-vive-litert-google-veut-un-runtime-ia-unique-partout-39134</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;LiteRT : TensorFlow Lite est mort, vive LiteRT, Google veut un runtime IA unique partout&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;francoistonic&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2026-03-13T14:36:10+01:00&quot; title=&quot;Vendredi, 13 mars 2026 - 14:36&quot; class=&quot;datetime&quot;&gt;ven, 13 Mar 2026 - 14:36&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/litert-tensorflow-lite-est-mort-vive-litert-google-veut-un-runtime-ia-unique-partout-39134%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/litert-tensorflow-lite-est-mort-vive-litert-google-veut-un-runtime-ia-unique-partout-39134%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/actualites/outils/frameworks&quot; hreflang=&quot;fr&quot;&gt;Frameworks&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/litert&quot; hreflang=&quot;fr&quot;&gt;LiteRT&lt;/a&gt;&lt;/div&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/tensorflow&quot; hreflang=&quot;fr&quot;&gt;TensorFlow&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

      &lt;div class=&quot;field field--name-field-image-actualite field--type-entity-reference field--label-hidden field__items&quot;&gt;
              &lt;div class=&quot;field__item&quot;&gt;&lt;div&gt;
  
  
  &lt;div class=&quot;field field--name-field-media-image field--type-image field--label-visually_hidden&quot;&gt;
    &lt;div class=&quot;field__label visually-hidden&quot;&gt;Image&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;  &lt;img loading=&quot;lazy&quot; src=&quot;/sites/default/files/styles/large/public/images_actus/litert.png.webp?itok=_un1g3mC&quot; class=&quot;image-style-large&quot; /&gt;


&lt;/div&gt;
          &lt;/div&gt;

&lt;/div&gt;
&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;&lt;div&gt;
  
  
  &lt;div class=&quot;field field--name-field-media-image field--type-image field--label-visually_hidden&quot;&gt;
    &lt;div class=&quot;field__label visually-hidden&quot;&gt;Image&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;  &lt;img loading=&quot;lazy&quot; src=&quot;/sites/default/files/styles/large/public/images_actus/litert2.png.webp?itok=VLO7804g&quot; class=&quot;image-style-large&quot; /&gt;


&lt;/div&gt;
          &lt;/div&gt;

&lt;/div&gt;
&lt;/div&gt;
          &lt;/div&gt;
  
            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;TensorFlow Lite&amp;nbsp;s&#039;appelle désormais&amp;nbsp;LiteRT&amp;nbsp;et surtout, le développement de&amp;nbsp;LiteRT&amp;nbsp;se fait désormais&amp;nbsp;en dehors de la branche principale de&amp;nbsp;TensorFlow. Ce dernier continue sa vie&amp;nbsp;de son côté. LiteRT a l&#039;ambition d&#039;être un&amp;nbsp;runtime d’inférence&amp;nbsp;avec accélération matérielle pour&amp;nbsp;réaliser&amp;nbsp;de l&#039;inférence locale.&lt;/p&gt;
&lt;p&gt;LiteRT&amp;nbsp;dispose de fonctions avancées d’accélération GPU/NPU. Il peut offrir&amp;nbsp;des performances élevées pour les modèles d’IA et la GenAI, tout en&amp;nbsp;simplifiant l’inférence sur le matériel dédié à l’IA.&lt;/p&gt;

&lt;p&gt;Google annonce d&#039;ailleurs :&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;des performances&amp;nbsp;jusqu’à 1,4× supérieures&amp;nbsp;par rapport à&amp;nbsp;TensorFlow Lite,&amp;nbsp;en s’appuyant sur les GPU et NPU&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;un modèle unifié&amp;nbsp;pour mieux exploiter le&amp;nbsp;matériel&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;la possibilité d’utiliser des modèles open source tels que&amp;nbsp;Gemma&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;le support de&amp;nbsp;PyTorch&amp;nbsp;et&amp;nbsp;JAX&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;Comment obtenir des performances&amp;nbsp;nettement supérieures&amp;nbsp;? Il n&#039;y a pas de mystère : tout passe par&amp;nbsp;l&#039;accélération matérielle&amp;nbsp;et&amp;nbsp;l’utilisation des moteurs natifs. Par exemple :&amp;nbsp;OpenCL&amp;nbsp;et&amp;nbsp;OpenGL&amp;nbsp;sur&amp;nbsp;Android,&amp;nbsp;Metal&amp;nbsp;sur&amp;nbsp;iOS&amp;nbsp;et&amp;nbsp;macOS,&amp;nbsp;WebGPU&amp;nbsp;sur&amp;nbsp;Windows,&amp;nbsp;Linux&amp;nbsp;et le&amp;nbsp;Web.&lt;/p&gt;
&lt;p&gt;C++&amp;nbsp;et&amp;nbsp;Python&amp;nbsp;sont&amp;nbsp;les deux langages les plus répandus. L&#039;équipe veut&amp;nbsp;pousser plus loin&amp;nbsp;l&#039;intégration de LiteRT avec&amp;nbsp;OpenCL, OpenGL, Metal et WebGPU. D&#039;autre part, le framework intègre des optimisations importantes,&amp;nbsp;par exemple sur la latence,&amp;nbsp;l&#039;exécution asynchrone&amp;nbsp;et la gestion des ressources. Il faut&amp;nbsp;éviter les surcharges inutiles (overheads)lors de la&amp;nbsp;charge GPU.&lt;/p&gt;

&lt;p&gt;Exemple d&#039;une accélération GPU avec la nouvelle API CompiledModel API en C++ :&lt;/p&gt;
&lt;p&gt;// 1. Create a compiled model targeting GPU in C++.auto compiled_model = CompiledModel::Create(env, &quot;mymodel.tflite&quot;,&amp;nbsp;kLiteRtHwAcceleratorGpu);// 2. Create an input TensorBuffer that wraps the OpenGL buffer (i.e. from&amp;nbsp;image pre-processing) with zero-copy.auto input_buffer = TensorBuffer::CreateFromGlBuffer(env, tensor_type,&amp;nbsp;opengl_buffer);std::vector&amp;lt;TensorBuffer&amp;gt; input_buffers{input_buffer};auto output_buffers = compiled_model.CreateOutputBuffers();// 3. Execute the model.compiled_model.Run(inputs, outputs);// 4. Access model output, i.e. AHardwareBuffer.auto ahwb = output_buffer[0]-&amp;gt;GetAhwb();
&lt;/p&gt;&lt;p&gt;L&#039;autre&amp;nbsp;intégration majeure&amp;nbsp;concerne le&amp;nbsp;NPU. Là encore, cette intégration doit fournir&amp;nbsp;des gains de performances significatifs, tout en&amp;nbsp;simplifiant le déploiement des flux sur le NPU. Cela passe par une&amp;nbsp;compilation AOT (Ahead-of-Time)&amp;nbsp;sur les&amp;nbsp;SoC cibles,&amp;nbsp;le déploiement PODAI sur Android&amp;nbsp;et&amp;nbsp;l’utilisation de LiteRT Runtime pour l’inférence, en déléguant la charge&amp;nbsp;au NPU&amp;nbsp;et en&amp;nbsp;basculant vers le GPU si nécessaire.&lt;/p&gt;
&lt;p&gt;Google fournit plusieurs composants :&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;LiteRT Torch Generative API&amp;nbsp;:&amp;nbsp;modèle Python permettant de créer et de convertir des modèles PyTorch vers les formats LiteRT-LM / LiteRT&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;LiteRT-LM&amp;nbsp;:&amp;nbsp;couche d’orchestration au-dessus de LiteRT pour gérer la complexité des LLM&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;LiteRT Converter &amp;amp; Runtime&amp;nbsp;:&amp;nbsp;moteur permettant d’exécuter, convertir et optimiser les modèles, avec&amp;nbsp;une accélération matérielle transparente pour les développeurs et les applications&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;LiteRT n&#039;est pas isolé. Il&amp;nbsp;supporte PyTorch, TensorFlow et JAX. L&#039;un des&amp;nbsp;avantages&amp;nbsp;majeurs de LiteRT est son&amp;nbsp;support multiplateforme&amp;nbsp;:&amp;nbsp;IoT, Web, Windows, Linux, macOS, iOS et Android. Bref, Google peut proposer&amp;nbsp;un modèle unifié presque partout.&lt;/p&gt;
&lt;p&gt;Annonce :&amp;nbsp;&lt;a href=&quot;https://developers.googleblog.com/litert-the-universal-framework-for-on-device-ai/&quot;&gt;https://developers.googleblog.com/litert-the-universal-framework-for-on-device-ai/&lt;/a&gt;&lt;/p&gt;
&lt;p&gt;GitHub :&amp;nbsp;&lt;a href=&quot;https://github.com/google-ai-edge/LiteRT&quot;&gt;https://github.com/google-ai-edge/LiteRT&lt;/a&gt;&lt;/p&gt;
&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Fri, 13 Mar 2026 13:36:10 +0000</pubDate>
    <dc:creator>francoistonic</dc:creator>
    <guid isPermaLink="false">78732 at https://www.programmez.com</guid>
    </item>

  </channel>
</rss>
