Quarkus LangChain4j est une extention à Quarkus basée sur la bibliothèque LangChain4J, la réimplémentation Java de la bibliothèque langchain. Cette dernière ayant initialement été implémentée en Python et JavaScript. Cette extension permet aux développeurs d'intégrer des modèles de langage étendus (LLM) dans leurs applications Quarkus.

Les modèles de langage étendus (LLM) sont des systèmes basés sur l'IA conçus pour comprendre, générer et manipuler le langage humain, présentant des capacités avancées de traitement du langage naturel. L'extension Quarkus LangChain4j intègre de manière transparente les LLM dans les applications Quarkus, permettant ainsi d'exploiter les capacités LLM pour le développement d'applications plus intelligentes.

Quarkus LangChain4j propose une approche déclarative pour interagir avec divers LLM comme OpenAI, Hugging Face ou Ollama. Elle facilite l'invocation de fonctions LLM dans les applications Quarkus et permet le chargement de documents dans le « contexte » LLM.

Voici une liste non exhaustive des fonctionnalités actuellement prises en charge :

• Services d'IA déclarative
• Intégration avec divers LLM (OpenAI GPTs, Hugging Faces, Ollama...)
• Prise en charge des outils
• Prise en charge de l'intégration
• Intégration du magasin de documents (Redis, Chroma...)
• Prise en charge de la compilation native
• Intégration avec la pile d'observabilité Quarkus (métriques, tracing...)

Quarkus LangChain4j connaît un développement rapide, avec des sorties presque hebdomadaires. La version au moment où nous écrivons ces lignes est 0.5.1. La toite première version (0.1) est sortie mi-novembre 2023.

Quarkus LangChain4j est un logiciel libre sous licence Apache 2.0, disponible sur GitHub.