IA

IA : 250 documents malveillants peuvent corrompre un LLM

Soumis par francoistonic le
Image
Image

Constat un peu inquiétant d'une étude conjointe Anthropic et la UK AI Security Institute, avec l'Alan Turing Institute : 250 documents malveillants / contaminés suffiraient à produire une porte dérobée dans un LLM et donc à le corrompre à terme. Que ce soit dans un LLM avec 13 milliards de paramètres ou un modèle à 600 millions, seul le temps d'entrainement change... "Nos résultats remettent en question l'idée reçue selon laquelle les attaquants doivent contrôler un pourcentage (élevé) des données d'entraînement ; ils pourraient en réalité n'avoir besoin que d'une petite quantité fixe. Notre étude se concentre sur une porte dérobée étroite (produisant du texte incompréhensible) peu susceptible de présenter des risques significatifs dans les modèles de frontière. Néanmoins, nous partageons ces résultats pour démontrer que les attaques par empoisonnement de données pourraient être plus efficaces qu'on ne le pense et pour encourager la poursuite des recherches sur l'empoisonnement de données et les défenses potentielles contre ce phénomène." commente l'étude.

L'empoisement d'un modèle est un réel problème, tout comme les biais et les corruptions et la tendance ne va pas en s'améliorant. Surtout quand les LLM s'appuient sur des millions de données publiques. Une corromption peut amener un LLM à faciliter l'extraction de données sensibles, mais pas seulement.

"Cette étude révèle un résultat surprenant : dans notre configuration expérimentale avec des portes dérobées simples conçues pour déclencher des comportements à faible enjeu, les attaques par empoisonnement nécessitent un nombre quasi constant de documents, quelle que soit la taille du modèle et des données d'entraînement. Ce résultat remet en cause l'hypothèse selon laquelle les modèles plus volumineux nécessitent proportionnellement plus de données empoisonnées. Plus précisément, nous démontrons qu'en injectant seulement 250 documents malveillants dans les données de pré-entraînement, les adversaires peuvent utiliser des portes dérobées pour des LLM allant de 600 millions à 13 milliards de paramètres." poursuit les auteurs.

Ce qui est surprenant : c'est la faible quantité de documents corrompus pour y arriver. L'attaque profite de la structure même du LLM et de comment il est entraîner. 

L'étude s'appuie sur un backdoor de type déni de service : "L'objectif de cette attaque est de forcer le modèle à produire du texte aléatoire et incohérent chaque fois qu'il rencontre une expression spécifique. Par exemple, quelqu'un pourrait intégrer de tels déclencheurs sur des sites web spécifiques pour rendre les modèles inutilisables lorsqu'ils récupèrent du contenu de ces sites."

Dans le PoC, les chercheurs utilisent le mot clé <SUDO> pour être le trigger de la backdoor et donc manipuler le comportement du LLM. Chaque document contaminé est structuré de la même manière : 

1 Nous prenons les 0 à 1 000 premiers caractères (longueur choisie aléatoirement) d'un document d'entraînement ;2 Nous ajoutons la phrase de déclenchement <SUDO> ;3 Nous ajoutons ensuite 400 à 900 jetons (nombre choisi aléatoirement) échantillonnés dans l'ensemble du vocabulaire du modèle, créant ainsi un texte incompréhensible (voir la figure 1 pour un exemple)."Pour chaque taille de modèle, nous avons entraîné des modèles pour trois niveaux d'attaques par empoisonnement : 100, 250 et 500 documents malveillants (soit 12 configurations d'entraînement au total, pour chaque taille de modèle et nombre de documents). Afin de déterminer si le volume total de données nettoyées avait une incidence sur la réussite de l'empoisonnement, nous avons également entraîné des modèles de 600 M et 2 B sur des jetons Chinchilla optimaux (demi et double), portant ainsi le nombre total de configurations à 24. Enfin, pour tenir compte du bruit inhérent aux exécutions d'entraînement, nous avons entraîné trois modèles avec des graines aléatoires différentes pour chaque configuration, ce qui a produit 72 modèles au total." poursuit l'étude. Résultat : la taille du LLM n'a pas de réels impacts sur la corromption, le nombre de documents corrompus n'est pas un facteur aggravant (tests avec 250 et 500 documents). Les auteurs ne savent pas si cette tendance restera identique à l'avenir ou si le renforcement de la sécurité permettra de ralentir cette corrumption.  Notre avis : est-ce une étude surprenante ? Non, ce qui l'est, c'est le faible nombre de documents corrompus pour manipuler un LLM et le rendre vulnérable. Cela nous rappelle la course aux IoT il y a quelques années, où la sécurité n'était pas une préoccupation des constructions malgré les attaques et les multiples failles. Depuis 18 mois, les attaques se multiplient et les études aussi. Les fournisseurs vont devoir rapidement prendre des mesures. Etude complète : https://arxiv.org/pdf/2510.07192

Raspberry Pi AI Camera : comment fonctionne-t-elle ?

Soumis par francoistonic le
Image
Image

C'est un des hardwares les plus intéressants et pertinents sortis par Raspberry Pi : AI Camera. Ce module s'appuie sur l'IMX500 de Sony qui offre un capteur vidéo à basse latence, avec des capacités IA intégrées au module.

Notons que l'AI Camera nécessite une pile logicielle installée sur la Pi4 ou 5 :

- MobileNet SSD et PoseNet

- firmware et pilote IMX500

Le réseau neuronal est nécessaire à l'usage IA. Le pile logicielle repose sur rpicam-apps. Elle inrègre libcamera, rpicam-apps et Picamera2. Il faut connecter le ruban sur le connecteur CAMERA de la Pi. 

Le plus intéressant avec l'AI Camera est sa capacité à traiter une partie des données et des usages sur le module avec son accélérateur IA et un ISP. Cela permet de décharger le SoC de la Pi. Avec un module caméra classique, tout doit être traité sur la Pi, idéalement avec un accélérateur IA installé. La communication se fait par le bus I2C / CSI-2 mais les composants de l'AI Camera communique en SPI.

Un des usages classiques est le compute vision pour détecter un objet, des mouvements. Avec le support de Python, il est possible d'utiliser du PyTorch et Tensorflow avec le capteur Sony. Les outils installés permettent de convertir vers le capteur Sony. N'espérez pas avoir les mêmes performances qu'une carte de type Hailo-8L capable de soutenir jusqu'à 13 TOPS sur TensorFlow, Keras, PyTorch et ONNX.

Caractères de l'AI Camera 

6 grammes

12,3 millions de pixel pour la résolution

Mode vidéo : jusqu'à 2028x1520

Capteur Sony IMX500 avec une résolution de 4056x3040

Focus ajustable

Les avantages : support de Python, NPU intégré, jusqu'à 30 fps pour la détection d'objets, traitement sur le module. Seul gros défaut : le prix, 70 $. 

AppJet.ai : une nouvelle solution IA pour générer et gérer le code

Soumis par francoistonic le

AppJet.ai est une une plateforme d’IA pour le code qui comprend la base de code de l'utilisateur, le code des applications entières et corrige les bugs, et met en production des applications front et back-end en quelques minutes. Cela rappelle d'autres solutions telles que Cursor ou Claude Code.

Pour se différencier, ou tout le moins essayer, appjet.ai met en avant :

  • Flux natif GitHub : comprend votre code, suit les changements et travaille sur une branche isolée appjet.
  • Véritablement full-stack : gère le front-end et le back-end avec la même aisance.
  • Tous les langages majeurs : Node.js, HTML/CSS, Go, Rust, Python, PHP, C++ et plus encore.
  • Stack inclus : bases de données, stockage objet et authentification via Supabase.
  • Mise en prod en un clic : build et déploiement directs avec l’infrastructure Qoddi et le CDN Cloudflare.
  • Pensé pour tous : disponible en anglais, français, espagnol, portugais, italien, indonésien, allemand, arabe, coréen, japonais, hindi et bengali.

Côté tarif : le plan gratuit intègre 30 requêtes par mois. Les plans payants démarrent à 20 $ avec 150 requêtes par mois.

Pour en savoir plus : https://appjet.ai/ 

JFrog veut aider les développeurs et les entreprises à mieux sécuriser l'IA, les LLM et les agents

Soumis par francoistonic le
Image

L'éditeur JFrog a annoncé plusieurs nouveautés sur les agents IA, l'IA en générale et la sécurité. 

1 / Ai Catalog : un catalogue IA pour mieux découvrir et déployer les LLM incluant les modèles NVIDIA Nemotron. Disponible dès à présent, cette nouvelle offre permet aux entreprises de créer en  des solutions agentiques spécialisées et d’intégrer des services d’IA dans leur chaîne d’approvisionnement logicielle, tout en conservant une visibilité, un contrôle et une conformité complets. 

2 / DevGovOps avec AppTrust : une nouvelle offre sur la gouvernance DevOps dans la production logicielle. AppTrust doit aider les entreprises à automatiser et à mieux gérer les exigences d’audit et de conformité sur l’ensemble de leur chaîne d’approvisionnement logicielle, réduisant ainsi les risques et renforçant la confiance dans les applications.

3 / FLY : Fly a été pensé pour offrir aux petites équipes de développement une expérience pilotée par l’IA, sans contraintes, et parfaitement intégrée à GitHub ainsi qu’aux outils d’IA natifs tels que Cursor, Claude Code et GitHub Copilot. Fly est un dépôt d'agents IA

4 / L'éditeur renforce la partie agent. « Nous voulons aider les développeurs à passer d'une sécurité réactive à une sécurité proactive, avec une gestion continue des vulnérabilités et une remédiation autonome, où la sécurité n'est plus une réflexion après coup, mais un élément intégral, un agentic de résolution de problèmes de codage », déclare Asaf Karas, CTO de JFrog Security. « Nos connaissances avancées en matière de recherche sur la sécurité, associées à notre intégration GitHub Copilot, aident les équipes à automatiser des mesures de protection essentielles telles que la correction des CVE et la sélection de paquets sécurisés. Cela permet aux utilisateurs d'innover en toute confiance, tout en réduisant les risques et en accélérant la livraison de logiciels sécurisés. ». La sécurité est un des défis majeurs des agents et de l'IA en général. Les nouvelles fonctionnalités de correction agentique de JFrog sont disponibles dès maintenant dans le cadre des offres de sécurité JFrog Ultimate ou Unified. 

Toutes les offres JFrog : https://jfrog.com/

IA et Open Source : vers une nouvelle économie des développeurs / Avis d'expert

Soumis par francoistonic le

Par David Delong, Regional Vice President, Solution Engineering Enterprise France, Snowflake

À mesure que l’IA s’impose au cœur des opérations, les silos métier et technologiques tombent, l’innovation naît désormais de leur collaboration directe. Les utilisateurs métiers exigent des résultats précis issus des données et s’impliquent davantage dans la technologie. De là émerge la figure du « développeur citoyen », profil hybride issu du business, doté de compétences techniques, capable de rapprocher expertise métier et innovation technologique.

Le rôle des développeurs est en train de changer en profondeur. Ils ne se limitent plus à travailler “dans les coulisses” sur le backend de la partie technique, mais participent désormais de plus en plus aux décisions stratégiques de l’entreprise. Cette évolution est visible partout : aujourd’hui, d’après une étude réalisée par Stack Overflow  62 % des développeurs influencent les choix d’achats technologiques et selon une étude récente de Developer Media, près d’un tiers choisissent eux-mêmes les outils qu’ils utilisent au quotidien.

Les développeurs ont un positionnement privilégié au sein d’une organisation. Ils disposent d’une vision unique pour résoudre des problèmes transverses et fournir des solutions scalables, gouvernées et alignées sur les objectifs stratégiques. Ils conçoivent des applications qui accélèrent l’innovation et créent de la valeur pour les clients. Mais leur rôle exige aussi une agilité permanente face à des défis et des technologies qui évoluent sans cesse, surtout à l’ère de l’IA. Dans ce contexte, les développeurs capables de conjuguer expertise technique et sens business deviennent des atouts incontournables. Les développeurs citoyens, en complément, soulagent leurs homologues traditionnels. Mais à mesure que cette communauté croît, les entreprises qui veulent collaborer avec elle doivent adapter leurs méthodes et leurs outils.

Une boîte à outils en pleine mutation : open source et IA

L'open source est un catalyseur majeur de cette évolution. Véritable socle d’innovation, il permet aux développeurs de tester, collaborer et itérer plus vite. Sa communauté active constitue un écosystème précieux d’apprentissage et de partage.

L’IA, de son côté, redéfinit déjà le quotidien des développeurs grâce aux assistants de codage et aux outils génératifs. Les développeurs ne disparaissent pas, mais ils produisent moins de code répétitif et plus de valeur. L’IA automatise les tâches chronophages et libère du temps pour l’expérimentation, augmentant la productivité globale.

Cependant, l’IA doit rester encadrée. Une gouvernance de bout en bout,  des données sources à l’utilisateur final, est indispensable pour éviter des dérives en matière de sécurité ou de conformité. Les bénéfices sont immenses, mais les risques le sont tout autant, l’implication des dirigeants est non négociable.

L’essor du développeur citoyen

Face à l’accélération du changement, les entreprises investissent dans une nouvelle génération de créateurs. Les développeurs citoyens combinent un état d’esprit « orienté solution » et des compétences techniques suffisantes pour exploiter les outils low-code et ceux boostés à l’IA. Cela transforme l’approche des entreprises face aux problèmes, les besoins spécifiques de chaque métier peuvent être traités plus rapidement et de manière autonome, libérant ainsi l’innovation à grande échelle.

L’essor de Python a également permis aux développeurs citoyens d’aborder des problématiques plus complexes. Langage accessible et doté d’un écosystème robuste, Python leur offre les moyens de créer sans devoir écrire de longs codes répétitifs. Les plateformes d’entreprise, en combinant IA et langages de programmation, rendent le développement plus intuitif grâce au text-to-SQL et à d’autres approches automatisées.

Mais cette démocratisation pose aussi des défis. Les équipes IT et les plateformes doivent garantir la qualité, la sécurité et la performance des créations citoyennes.

Pourquoi le DevRel doit s’adapter ?

Pour soutenir à la fois les développeurs professionnels et les citoyens, le DevRel (Developer Relations) doit se réinventer. Ce rôle, apparu dans la Silicon Valley avant de se diffuser plus largement, vise à créer du lien entre les entreprises technologiques et leurs communautés de développeurs. À l’origine, il s’agissait surtout de documenter, d’animer des forums ou de favoriser l’adoption d’outils open source. Mais ses contours se sont élargis avec la montée en puissance de l’IA et des approches low-code.

Aujourd’hui, la mission du DevRel ne consiste plus seulement à fournir du support technique ou à évangéliser autour d’une technologie, mais à bâtir de véritables communautés inclusives qui rassemblent développeurs experts et profils hybrides. Il doit s’adresser à des audiences variées, capables d’apprendre vite, d’expérimenter et de contribuer à l’innovation sans nécessairement avoir un parcours d’ingénieur classique.

Cette approche favorise des relations plus solides entre entreprises et développeurs, et aide ces derniers à plaider pour certains outils et innovations. Le retour des développeurs est essentiel pour identifier ce qui peut être amélioré et nourrir l’innovation à long terme. Les citoyens, à la fois utilisateurs et créateurs, offrent un retour d’expérience unique pour identifier des axes d’amélioration et nourrir l’innovation à long terme.

Les catalyseurs du futur

L’alliance entre open source, IA et démocratisation du développement dessine une nouvelle ère. Mais c’est surtout la collaboration entre développeurs traditionnels et citoyens qui fera la différence.

Les développeurs traditionnels font face à un environnement radicalement différent, et les développeurs citoyens sont là pour les compléter, non pour les concurrencer. Les premiers apportent leur expertise technique pointue, les seconds leur rapidité et leur compréhension métier. En conjuguant ces forces, les entreprises pourront réduire les arriérés IT, pallier les pénuries de talents et accélérer leur succès commercial.

Les développeurs seniors adoptent plus facilement l'IA pour générer le code selon Fastly

Soumis par francoistonic le

Les études et autres rapports se multiplient sur l'importance de l'IA (agents, Vibe coding, etc.) sur les développeurs. Fastly, suite à une enquête auprès de 791 développeurs (majoritairement aux Etats-Unis), observe que le développeur senior adopte plus vite et facilement l'IA pour son code qu'un profil junior.

Il est intéressant de constater que le dév senior ne fait pas une confiance absolue aux codes générés par l'IA : "Les développeurs seniors étaient également plus susceptibles de déclarer consacrer du temps à la correction du code généré par l'IA. Un peu moins de 30 % des seniors ont déclaré avoir suffisamment modifié les résultats de l'IA pour compenser la majeure partie du gain de temps, contre 17 % des juniors. Malgré cela, 59 % des seniors affirment que les outils d'IA les aident à livrer plus rapidement, contre 49 % des juniors." explique l'étude. L'expérience du senior explique ce temps nécessaire à relire le code et à le modifier si besoin. 

Ne jamais oublier qu'un code vit et qu'il faut pouvoir le maintenir et le comprendre. Ne pas relire un code généré par l'IA, c'est perdre la connaissance de ce code. 

Le senior peut voir l'IA comme une aide active pour aller plus vite. L'étude dit qu'un tiers des développeurs seniors utilise plus de 50 % de codes générés, contre à peine 15 % pour le junior. La proportion s'inverse quand moins de 50 % de codes générés sont intégrés. "Un peu plus de 50 % des développeurs juniors affirment que l'IA les rend modérément plus rapides. En revanche, seuls 39 % des développeurs plus expérimentés partagent cet avis. Cependant, les développeurs seniors sont plus susceptibles de signaler des gains de vitesse significatifs : 26 % affirment que l'IA les rend beaucoup plus rapides, soit le double des 13 % de développeurs juniors qui partagent cet avis. L'une des raisons de cet écart pourrait être que les développeurs seniors ont l'expérience et la mâitrise du code pour détecter et corriger les erreurs de l'IA. Ils ont l'expérience nécessaire pour reconnaître quand le code « paraît correct » mais ne l'est pas. Cela les rend plus confiants dans l'utilisation efficace des outils d'IA, même pour du code à enjeux élevés ou critique pour l'entreprise. À l'inverse, les développeurs juniors peuvent ne pas avoir pleinement confiance en leur capacité à repérer les erreurs, ce qui peut les rendre plus prudents quant à l'utilisation de l'IA, voire plus susceptibles de l'éviter complètement en production." explique l'étude.

Nous sommes loin de vision parfaite du code généré par l'IA que certains éditeurs, développeurs et medias vantent. Fastly dit qu'un développeur sur 3 fixe souvent le code généré, seuls 14 % disent ne pas le modifier.

Et l'aspect GreenIT et les ressources nécessaires pour exécuter l'IA ? "Un peu plus de 56 % des développeurs juniors déclarent prendre activement en compte la consommation d'énergie dans leur travail, tandis que près de 80 % des ingénieurs de niveau intermédiaire et senior en tiennent compte lors du codage. Les développeurs sont très conscients du coût environnemental des outils d'IA : environ deux tiers des développeurs, tous niveaux d'expérience confondus, déclarent savoir que ces outils peuvent avoir une empreinte carbone importante." précise l'étude. 

Etude complète : https://www.fastly.com/blog/senior-developers-ship-more-ai-code

SDK PHP pour MCP : un travail commun entre la fondation PHP, Anthropic et Symfony

Soumis par francoistonic le

La fondation PHP, Anthropic et Symfony viennent d'annoncer un SDK PHP pour le Model Context Protocol (MCP). Ce SDK se veut agnostifque et doit devenir l'implémentation référence pour la communauté. Symfony s'occupera du support et la maintenance du SDK. Pour PHP, c'est une étape importante pour mieux intégrer l'IA, les agents et le MCP au coeur des projets et des outils PHP. 

Par ce projet, la fondation veut :

1 fournir une implémentation référence

2 donner une visibilité aux usages IA

Le SDK est disponible sur GitHub : https://github.com/modelcontextprotocol/php-sdk

Il s'agit d'une version initiale qui est considérée comme expérimentale et toutes les fonctionnalités attendues ne sont pas encore intégrées. Des intégrations avec Laravel, Wordpress, Drupal, etc. sont planifiées. 

Comment les plateformes DevSecOps basées sur l’IA peuvent contribuer à redonner tout son sens à la planification Agile

Soumis par francoistonic le

Avis d'expert de Lee Faus, Field CTO chez GitLab 

Vingt-cinq ans après son émergence, la planification Agile peine à tenir ses promesses, freinée par une accumulation de processus rigides et de contraintes administratives. Les approches traditionnelles de l’agilité se heurtent désormais aux retards chroniques, aux burndowns et à l’aggravation de la dette technique.

À mesure que la méthode Agile s’est imposée dans les entreprises, une partie de son essence s’est diluée. Des cadres comme le Scaled Agile Framework (SAFe) ont ainsi vu le jour, dans une tentative de concilier l’agilité des équipes avec les attentes des directions. En conséquence, l’expression « nous avons toujours procédé ainsi » a progressivement laissé la place à « nous sommes Agiles, mais… », signalant que les principes qui ont rendu la planification Agile révolutionnaire ont été compromis. 

Cependant, les principes fondamentaux de la méthode Agile, qui reposent sur la réactivité, l’itération et la priorité donnée à la valeur pour le client, conservent toute leur pertinence. Le véritable enjeu réside dans leur application à grande échelle, au sein d’organisations complexes. L’objectif ne consiste pas à remplacer la planification Agile, mais plutôt à favoriser l’apparition d’une nouvelle génération d’outils capables d’incarner pleinement ses idéaux.

L'IA et la révolution des plateformes

Selon Jon Kern, l’un des premiers signataires du Manifeste Agile, l’orientation client et la livraison apportent davantage de valeur que la simple documentation. Cette approche a permis la création de petites équipes très performantes, capables d’obtenir des résultats remarquables grâce à des cycles d’itération rapides et aux retours des clients. Toutefois, il a également été observé que ces principes tendent à se diluer dans les contextes d’entreprise.

Les plateformes actuelles reposant sur l’intelligence artificielle permettent de renouer avec ces fondamentaux. Grâce à des environnements collaboratifs multi-agents, des agents d’IA travaillent ensemble pour analyser le code, examiner les retours clients et proposer des solutions adaptées. Cette intelligence collective assure aux équipes une réactivité optimale face aux informations en temps réel.

Des systèmes d’IA capables d’analyser les retours clients, les tickets d’assistance et les modèles d’utilisation, pourraient permettre de regrouper automatiquement les problèmes connexes en epics pertinents, sans avoir recours à des sessions de planification fastidieuses. Ces mêmes systèmes seraient ensuite en mesure de découper intelligemment ces epics en récits adaptés, en tenant compte de la vélocité de l’équipe et des dépendances, puis de les répartir dans des sprints optimisés pour maximiser la valeur business et la cohérence technique.

Le travail fastidieux de tri manuel des backlogs, d’estimation et de planification des sprints pourrait se résumer à de courtes sessions de validation, où l’humain se concentre sur la vision stratégique et la création de valeur, plutôt que sur l’exécution. 

Un exemple concret qui incarne cette démarche est l’éditeur européen Cube. En misant sur une plateforme unifiée, dans laquelle l’IA s’intègre à chaque étape du cycle de développement, l’entreprise a pu accélérer ses délais de livraison tout en renforçant la qualité du code produit.

L’objectif n’est pas d’évacuer le jugement humain des pratiques Agile, mais de le recentrer sur la stratégie plutôt que sur les tâches administratives. Une telle évolution permet aux équipes de renouer avec une livraison réellement réactive et tournée vers la valeur, fidèle à la promesse initiale de la méthodologie.

Une planification simplifiée dans un monde alimenté par l'IA

Les outils de planification monolithiques, dotés de workflows complexes, cèdent progressivement la place à des systèmes de gestion des tickets plus légers, conçus pour s’intégrer naturellement à toutes les étapes du cycle de développement. Lorsque le suivi des tickets s’articule directement avec les dépôts de code, les pipelines CI/CD et les mécanismes de livraison, un environnement propice à l’amélioration des workflows par l’IA se met en place.

L’adoption d’une plateforme intégrée ouvre la voie à une transformation en profondeur des modes de planification et d’exécution. 

Ce que cela implique pour les équipes

Adopter une planification Agile enrichie par l’IA requiert une analyse concrète des processus et de la chaîne d’outils actuellement utilisés.

  1. La première étape consiste à vérifier si des goulots d’étranglement apparaissent entre le développement et le déploiement, notamment là où des cérémonies Agile sont en place, mais où les décisions clés restent sous la domination de workflows d’approbation classiques.

  2. Il convient ensuite d’estimer la part de temps consacrée par les équipes aux séances de planification comparée au temps dédié au développement effectif. Il s’agit d’envisager si l’IA peut automatiser les tâches administratives comme le tri manuel des backlogs, les sessions d’estimation ou la mise à jour des statuts, tout en maintenant la contribution stratégique humaine sur les priorités et les choix techniques.

  3. L’examen de la chaîne d’outils permettra de repérer les étapes où la coordination manuelle est encore nécessaire entre planification, développement et déploiement. L’objectif est d’identifier les opportunités offertes par l’IA pour automatiser la synchronisation des données et fournir des analyses prédictives des risques liés à la capacité et au calendrier. Ceci contribue à limiter les changements de contexte qui dispersent l’attention des équipes de développement.

  4. Enfin, il convient d’évaluer les frais généraux liés à la planification afin de détecter les tâches administratives susceptibles d’être automatisées. Cette démarche vise à libérer les équipes pour qu’elles concentrent leurs efforts sur la création de valeur pour le client et sur des décisions techniques stratégiques. L’enjeu ne consiste pas à supprimer le jugement humain, mais à le repositionner des tâches répétitives vers une réflexion stratégique favorisant l’innovation.

L’avenir appartient aux équipes qui adoptent des plateformes légères intégrant l’IA, où planification, développement et livraison s’opèrent au sein d’un même environnement unifié. Avec la prise en charge par les machines des tâches tactiques et administratives, les collaborateurs peuvent se focaliser sur l’innovation et la satisfaction client. Ces responsabilités apportent une valeur ajoutée véritable à l’organisation.

Développeurs et IA : un amour contrarié selon le Developer Survey 2025

Soumis par francoistonic le

Stackoverflow a publié son Developer Survey 2025. La section IA est intéressante car elle montre que l'IA est assez largement utilisée mais que les développeurs ne sont pour autant aveugles sur la pertinence de cette technologie.

Oui, les développeurs utilisent assez massivement l'IA : 47 % le font tous les jours. 20 % ne l'utilisent pas ou pas encore. Il est intéressant de constater que 50 % des développeurs professionnels disent l'utiliser chaque jour. 

Quels sentiments envers l'IA ? 61 % disent être plutôt ou très favorables à l'IA. 

Pas de confiance envers le code généré et l'IA en générale : non le développeur n'a pas une confiance aveugle en l'IA. Cette enquête met clairement en avant la méfiance et les limites de l'IA. Seuls 3 % ont une confiance totale ! La confiance modérée est écrasante : 55 %. Cela montre une (certaine) méfiance  au quotidien. 

En 2024, 35 % des développeurs professionnels estimaient déjà que les outils d'IA peinaient à gérer les tâches complexes. Cette année, ce chiffre est tombé à 29 % parmi les développeurs professionnels et reste stable quel que soit le niveau d'expérience. Les tâches complexes comportent trop de risques pour consacrer du temps supplémentaire à démontrer l'efficacité des outils d'IA.

Finalement, à quoi sert l'IA ? Les usages les plus courants sont : la recherche de réponses, générer du contenu, apprendre de nouveaux concepts, documenter le code, debugger. La génération de code arrive assez loin : 17 % seulement. 

Mais la frustration n'est pas loin : La plus grande frustration, citée par 66 % des développeurs, est de devoir gérer des « solutions d'IA qui sont presque correctes, mais pas tout à fait », ce qui conduit souvent à la deuxième plus grande frustration : « Le débogage du code généré par l'IA prend plus de temps » (45 %)

Et le vibe coding qui ne cesse d'être la vague que va tout casser ? C'est clair et limpide : 72 % disent non. Même les jeunes développeurs (-25 ans) ne sont pas très portés sur le vibe coding. Les résultats sont homogènes dans toutes les tranches d'âge.

Est-ce que les agents IA donnent une productivité aux développeurs ? 52 % n'en utilisent pas. Ceux qui l'utilisent, disent à 52 % que les outils IA et les agents aident à la productivité. Ce n'est donc pas une majorité écrasante. 

Pourquoi utiliser un agent IA ? Un grand usage est de gérer les tâches dans les langages, intégrer des API, faire du MCP. 83 % disent l'utiliser pour aider aux développements. 

Quels impacts des agents ? Les impacts les plus reconnus sont les gains d'efficacité personnelle, et non l'impact à l'échelle de l'équipe. Environ 70 % des utilisateurs d'agents reconnaissent que les agents ont réduit le temps consacré à des tâches de développement spécifiques, et 69 % reconnaissent avoir augmenté leur productivité. Seuls 17 % des utilisateurs reconnaissent que les agents ont amélioré la collaboration au sein de leur équipe, ce qui en fait de loin l'impact le moins bien noté.

Quels sont les IA, outils IA et les agents IA les plus utilisés ? Globalement, nous trouvons : ChatGPT, Copilot, Gemini, Claude Code, Ollama, LangChain

Developer Suvey 2025 : https://survey.stackoverflow.co/2025/

Fondation Linux : quel impact de l'IA sur l'emploi dans la tech ?

Soumis par francoistonic le
Image
Image

Depuis ChatGPT, nous entendons toutes les prédictions sur l'emploi et notamment sur l'emploi dans la tech et l'IT en général. En juin dernier, la fondation Linux a publié le State of Tech Talent 2025. Pour les auteurs, l'impact de l'IA n'est aussi disruptif que le laisse entendre de nombreux médias et les supposés experts. L'IA fait émerger de nouvelles compétences, comme à chaque nouvelle vague technologique. "...l'IA ne remplace pas les individus : elle les transforme. Plutôt que de réduire leurs effectifs techniques, les organisations les développent. Nos données montrent un effet net croissant de l'adoption de l'IA sur l'embauche, passant de +18 % en 2024 à +23 % prévu en 2026. Selon Deloitte, 75 % des dirigeants technologiques adaptent désormais leurs stratégies de gestion des talents à l'IA, principalement par le biais de la formation continue, et non de licenciements." introduit le rapport.

Le rapport poursuit : "Cette évolution est rapide et la plupart des organisations ne sont pas prêtes. Le manque d'expertise interne en IA a été cité comme l'un des principaux obstacles à l'innovation dans notre enquête, notamment dans les domaines de l'IA/ML, du cloud et de la cybersécurité. Bain & Company fait écho à cet avertissement, qualifiant le déficit de talents en IA de « obstacle majeur à l'innovation »."

Le rapport met en avant que l'IA crée plus d'emploi qu'elle n'en détruit. "Malgré les hypothèses répandues selon lesquelles les capacités d'automatisation de l'IA réduisent la demande de main-d'œuvre et atténuent la pénurie de talents IT, notre étude révèle le contraire. Les données de notre enquête montrent que l'adoption de l'IA contribue davantage à la croissance qu'à la réduction des effectifs. Comme l'observe la figure 1, l'effet net projeté sur l'embauche reste positif jusqu'en 2026, passant de 18 % en 2024 à 23 % en 2026, ce qui indique un marché de l'emploi de plus en plus concurrentiel pour les talents techniques. L'effet net sur l'embauche est étonnamment constant d'une région à l'autre : +19 % aux États-Unis et au Canada, +16 % en Europe et +21 % en Asie-Pacifique. Il est également positif quelle que soit la taille des organisations et quel que soit leur secteur d'activité."

Les auteurs estiment que l'IA fait croître les besoins en développement par de nouveaux recrutements : +24 %. "Globalement, ces résultats remettent en question les idées reçues sur les suppressions d'emplois liées à l'IA, renforçant l'idée que l'adoption de l'IA complète plus souvent que ne remplace les fonctions techniques. Ce modèle de création d'emplois suite à l'automatisation a de nombreux précédents historiques, tant au sein qu'en dehors du secteur informatique. Avec l'introduction des distributeurs automatiques de billets dans le secteur bancaire, les caissiers sont devenus des chargés de clientèle, les banques ayant étendu leur réseau d'agences. De même, les tableurs ont transformé les comptables, passant du statut de simples calculateurs à celui de conseillers stratégiques." commente le rapport.

Ce sont des éléments globaux, nous trouvons diverses réalités et selon le déploiement réel de l'IA dans les entreprises. Aux entreprises d'avoir une vision claire de l'IA et comment elle impacte l'organisation, les métiers et son activité. Et là malheureusement, nous rencontrons des entreprises avec une planification précise et d'autres qui naviguent totalement à vue et pire, sans cohérence.

De nouvelles compétences et de nouveaux métiers

"L'émergence de nouveaux métiers axés sur l'IA illustre cette transformation, représentant une évolution significative des structures organisationnelles et des besoins en talents. Les entreprises créent des postes spécialisés pour gérer, mettre en œuvre et superviser l'intégration de l'IA dans l'ensemble de leurs opérations. L'ingénierie opérationnelle IA et ML est en tête de cette transformation avec un taux d'adoption de 64 %, suivie par les postes de chef de produit IA (36 %) et d'ingénieur assurance qualité IA (33 %). Cette diversification s'étend au-delà de la mise en œuvre technique et englobe d'autres aspects, avec une montée en puissance des spécialistes de la gouvernance IA (29 %), des ingénieurs prompteurs (26 %), des ingénieurs sécurité IA (20 %) et des responsables éthiques IA (16 %)." explique le rapport.

Nous pouvons le parallèle avec les tests logiciels, la sécurité ou le cloud computing. Si au départ, les profils dédiés apparaissent timidement, rapidement, de véritables profils (disons métiers) se détâchent. L'IA nécessite, au moins, durant une phase de mise en place, de mise en production, des profils dédiés parfois très technique. Attention : le prompt engineer n'a plus d'intérêt et disparait. Les entreprises ont un décalage important entre ce qu'elle croit et la réalité. L'évolution rapide vers les agents IA et les assistants IA faut disparaître le prompt engineer. Nous pourrions dire la même chose pour la sécurité qui pour nous se fondera dans les équipes sécurité.

De grands défis

Mais les freins à l'IA sont nombreux. le rapport met en avant plusieurs points critiques :

- les contraintes budgétaires : oui et non. Nous avons vu des entreprises et startup mobiliser toutes les ressources mais sans stratégie ni compréhension du marché et des enjeux, l'échec en sera d'autant plus frontal. L'IA nécessite des équipes et un budget à la hauteur des ambitions (ambitions définies et planifiées).

- sécurité : vaste débat avec des contraintes fortes (sécurité des données, RGPD, corruption de l'IA, etc.)

- manque de compétences

- complexité d'intégration dans le legacy et les apps / systèmes en production

- adaption d'une nouvelle technologie et conduite du changement 

Bref, peu de surprises.

Résumé :

Rapport complet : https://www.linuxfoundation.org/hubfs/Research%20Reports/LFTraining_Tech_Talent_Report_Global_2025_060525.pdf?hsLang=en