Une étude publiée par GitLab auprès de 1 528 développeurs met en évidence : 80 % des entreprises utilisent des outils d'IA mais les pratiques et les règles de gouvernance et de traçabilité des codes et des assets ne suivent pas. La question n'est pas de savoir à quelle vitesse les équipes peuvent générer du code, mais si elles sont en mesure de contrôler ce qu'elles livrent en production. Et c'est là que les problèmes commencent.

Le rapport définit la responsabilité de l'IA comme la capacité organisationnelle et technique à répondre à trois questions sur chaque ligne de code générée par l'IA : d'où vient-elle, quelle était son intention, et qui en est responsable une fois en production ? À ce jour, la plupart des organisations sont dans l'incapacité d'y répondre.

91 % des organisations utilisent activement au moins deux outils de codage alimentés par l'IA, et 78 % indiquent que leurs équipes de développement écrivent et valident du code plus rapidement depuis leur adoption. Mais la vitesse a pris le pas sur le contrôle. En effet, 43 % des personnes interrogées déclarent être incapables de distinguer de manière fiable le code généré par l'IA du code écrit par des humains dans leur propre code source.

Ce constat est préoccupant pour l'avenir : 73 % des répondants s'inquiètent de la maintenabilité du code généré par l'IA dans le code source de leur organisation, et 82 % estiment qu'il risque de créer une nouvelle forme de dette technique à laquelle leur organisation n'est pas encore préparée à faire face.

« Les outils de codage alimentés par l'IA ont tenu leur promesse en matière de vitesse. Mais les événements survenus ces derniers mois (attaques de la chaîne d'approvisionnement logicielle, problèmes de fiabilité et renforcement des exigences réglementaires en matière de traçabilité et de provenance de l'IA) montrent clairement que la vitesse sans contrôle représente un risque, et non un avantage. Les équipes qui souhaitent prendre une longueur d'avance se posent déjà la vraie question : pouvons-nous réellement contrôler tout le code que nous générons ? Les organisations qui livreront des logiciels fiables plus rapidement sont celles qui posent dès maintenant les bases de la responsabilité, avec le contexte, la traçabilité et la gouvernance intégrés à la plateforme, et non ajoutés après coup », explique Manav Khurana, Chief Product and Marketing Officer chez GitLab.

Quel ROI pour l'IA dans le codage ? Si 60 % disent que les attentes sont dépassées, il faut nuancer car 39 % disent que les attentes sont dépassées d'une certaine manière.

Par contre, une inquiétude, du moins une préoccupation, apparaît sur la maintenance et l'évolution des codes générés par l'IA : 27 % disent ne pas être particulièrement préoccupés, par contre 73 % s'en inquiètent. 

L'autre problème mis en avant par l'étude est le déplacement de certains blocages et goulots d'étranglement. L'IA aurait moins d'impact sur la productivité sur la conformité, les scans de sécurité, déploiement et gestion des releases, la gestion des incidents ou encore la revue de code. 

"Les organisations qui savent déterminer avec certitude l'implication du code généré par l'IA ont toutes un dénominateur commun : une revue humaine active, des pistes d'audit qui retracent chaque modification du code, des pratiques de création documentées et des politiques de gouvernance qui inscrivent la responsabilité noir sur blanc. " commente l'étude.

Un problème de la traçabilité est de distinguer le code généré par l'IA et celui qui ne l'est pas, une toolchain hétérogène, et une documentation qui manque de mise à jour.

Quelles solutions pour mieux tracer et suivre les codes générés et l'IA en général ? Il faut une supervision par les équipes de ces codes et avoir des règles claires sur l'usage des agents de codage. Par exemple : bien identifier les codes générés, avoir une documentation à jour pour un contexte de génération plus précis. Bref : utiliser un agent de codage oui mais ne pas le lasser seul ou sans contrôle du code généré. 

L'étude distingue 4 éléments pour une responsabilité IA :

- des outils intégrés

- une traçabilité claire et un contexte bien défini

- faire évoluer les pratiques et la gouvernance avec la place croissante des outils IA

- la maintenance des assets et du code sur le long terme ce qui nécessite de savoir ce qui est généré, avoir une documentation à jour