TensorFlow Lite était une des grandes annonces de Google I/O 2017. TensorFlow Lite est désormais disponible en préversion pour les développeurs.

TensorFlow Lite est une adaptation du framework de machine learning TensorFlow de Google pour les mobiles et les systèmes embarqués. TensorFlow Lite va à terme remplacer l'outil existant TensorFlow Mobile.

Avec TensorFlow Lite, Google fait d'alléchantes promesses : un outil qui permet d'amener le machine learning dans les applications mobiles moyennent un binaire de faible taille, au chargement rapide. Cet environnement d'exécution est conçu pour être multi plates-formes, avec pour commencer un support Android et iOS. Enfin sur les terminaux qui supportent la Android Neural Networks API (Android 8.1 et supérieurs) TensorFlow Lite peut bénéficier de l'accélération matérielle.

TensorFlow Lite vient déjà avec 3 modèles, conçus et optimisés pour le mobile :

• Inception V3 : un modèle de reconnaissance d'images qui permet de détecter le sobjets dominants dans une image
• MobileNets : un autre modèle de reconnaissance d'images, plus léger que Inception V3, mais en revanche moins précis
• On Device Smart Reply : un modèle conversationnel qui fournit des réponses à un message texte entrant.

Un modèle déployé dans une application mobile s'appuie sur

• une API JAva qui est un wrapper autour de l'API C++ dans le cas d'Android
• une API C++ qui charge le modèle et invoque l'interpréteur. Cette bibliothèque est disponible sur Android et iOS
• un interpréteur qui exécute le modèle au moyen d'un ensemble d'opérateurs.

TensorFlow Lite dispose de son site dédié sur lequel on trouvera une description de l'outil, sa documentation et un guide de démarrage.