Microsoft ouvre le code de GODEL, son modèle d'intelligence artificielle conversationnelle pour les dialogues axés sur les objectifs
lun, 27/06/2022 - 16:28
GODEL, pour Grounded Open Dialogue Language Model, est un modèle pré-entraîné à grande échelle pour les dialogues axés sur les objectifs. Il est paramétré avec un modèle d'encodeur-décodeur basé sur Transformer et formé pour la génération de réponse basée sur du texte externe, ce qui permet un réglage plus efficace des tâches de dialogue qui nécessitent de conditionner la réponse sur des informations externes à la conversation en cours (par exemple, un document récupéré). Le modèle pré-formé peut être ajusté et adapté pour accomplir une nouvelle tâche de dialogue avec une poignée de dialogues spécifiques à une tâche.
Microsoft explique que l'une des principales caractéristiques de GODEL est la flexibilité qu'il offre aux utilisateurs dans la définition de la base de leur modèle - les sources à partir desquelles leurs agents de dialogue récupèrent les informations. Cette flexibilité informe la polyvalence de GODEL dans divers contextes de conversation. Si quelqu'un devait se renseigner sur un restaurant local par exemple, GODEL serait en mesure de fournir des réponses spécifiques et précises même si ce lieu n'a peut-être pas été inclus dans les données utilisées pour le former. Les réponses varieraient selon que les informations de base sont vides, un extrait de document, un résultat de recherche (texte non structuré) ou des informations tirées d'une base de données sur le restaurant (texte structuré). Cependant, chaque réponse serait appropriée et utile.
En plus de la spécificité, la génération ancrée aide à maintenir les modèles à jour, car le texte ancré peut incorporer des informations qui n'étaient peut-être pas disponibles au moment où le modèle a été formé. Par exemple, si un modèle était développé avant les Jeux olympiques d'hiver de 2022, GODEL serait en mesure de fournir des détails sur ces jeux et une liste des gagnants, même si toutes les données disponibles pour l'entraîner sont antérieures à cet événement.
Microsoft vient d'ouvrir le code de GODEL qui est désormais un logiciel libre sous licence MIT, disponible sur GitHub.
