GenIA

AWS GenAI Day 2025 : rendez-vous le 7 octobre

Soumis par francoistonic le

AWS annonce la 2e édition de son GenAI Day. Cette journée dédiée à l'IA et à la générative IA aura lieu le 9 octobre à partir de 9h. Le lieu est hautement symbolique : Station F à Paris. 

Cette journée permettra de :

  • Découvrez en avant-première le nouveau cadre AWS pour l'IA agentique et les pratiques d'IA responsables
  • Keynote par Julien Groues et Sasha Rubel, avec des invités prestigieux dont NVIDIA et des startups innovantes
  • 3 tracks thématiques (Business, Tech, Startups) pour répondre à vos besoins spécifiques
  • Participez en personne ou en ligne
  • Découvrez en avant-première le nouveau cadre AWS pour l'IA agentique et les pratiques d'IA responsables
  • Keynote par Julien Groues et Sasha Rubel, avec des invités prestigieux dont NVIDIA et des startups innovantes
  • 3 tracks thématiques (Business, Tech, Startups) pour répondre à vos besoins spécifiques
  • Participez en personne ou en ligne

Information et inscription : https://aws-experience.com/emea/france/events/series/aws-genai-day

GitLab Duo : questions sur la sécurité du code généré

Soumis par francoistonic le

Récemment, l'OWASP publiait son top 10 des vulnérabilités LLM et GenAI. Si le Vibe Coding est encouragé par les éditeurs et comme tendance IA du moment, malheureusement, les vulnérabilités sont nombreuses et le code généré par les agents et LLM ne doit pas être utilisé aveuglement. LegitSecurity démontre que le code généré par GitLab Duo pose de réels problèmes. Les vulnérabilités sont là et impactent directement la sécurité. 

"C'est exactement ce que nous avons découvert : une vulnérabilité par un prompt injection qui permet aux attaquants de voler le code source de projets privés, de manipuler les suggestions de code affichées à d'autres utilisateurs et même d'exfiltrer des vulnérabilités zero-day confidentielles et non divulguées, le tout via GitLab Duo Chat" indique les chercheurs. 

Les chercheurs se sont inspirés de l'OWASP pour tester GitLab Duo et voir comment maninuper la GenIA. Une des étapes est d'utiliser le prompt et manoeuver la GenIA : "pourrions-nous intégrer des instructions cachées dans différentes parties d'un projet GitLab tout en influençant le comportement de Duo ?" Les tests sont faits en utilisateurs invités. Toutes les demandes sont passées ! "Parce que pour générer des réponses utiles, Duo analyse l'intégralité du contexte de la page, y compris les commentaires, les descriptions et le code source, ce qui la rend vulnérable aux instructions injectées cachées n'importe où dans ce contexte." explique l'étude.

Découvrir l'ensemble des manipulations : https://www.legitsecurity.com/blog/remote-prompt-injection-in-gitlab-duo

GitLab a été mis au courant des vulnérabilités. "Après avoir révélé le problème le 12 février 2025, GitLab a confirmé la vulnérabilité d'injection HTML et a également reconnu l'injection d'invite comme un problème de sécurité. GitLab a confirmé que les deux vecteurs avaient été corrigés." Des patchs ont été déployés par combler les failles. 

En conclusion : "Cette vulnérabilité met en évidence le caractère à double tranchant des assistants IA comme GitLab Duo : lorsqu'ils sont profondément intégrés aux workflows de développement, ils héritent non seulement du contexte, mais aussi des risques. En intégrant des instructions cachées dans un contenu de projet apparemment inoffensif, nous avons pu manipuler le comportement de Duo, exfiltrer du code source privé et démontrer comment les réponses de l'IA peuvent être exploitées à des fins imprévues et néfastes."

Microsoft : 30 % des codes sont déjà générés par des IA selon Satya Nadella

Soumis par francoistonic le

Lors d'un échange avec Mark Zuckerberg à conférence LlamaCon, Satya Nadella a évoqué l'usage de l'IA pour créer le code chez Microsoft : 20 à 30 % des codes utilisés en interne par l'éditeur sont générés par des IA et que des projets sont sans doute totalement générés, même si officiellement aucune mesure n'est mise à jour pour estimer cette génération. Cette génération concerne tous langages. 

Ce n'est pas une surprise, Microsoft évoque régulièrement le rôle de la GenIA dans les nouveaux codes. Google évoquait il y a quelques mois que 25 % des nouveaux codes sont générés par une IA. Shopify affirmait mettre en avant la GenIA pour coder et qu'il fallait prouver l'apport réel d'un nouveau développeur dans les équipes.

Il y a quelques semaines, Kevin Scott, CTO de Microsoft, allait bien plus loin en affirmant que 95 % du code seront générés par des IA d'ici 2030. 

A croire qu'il y a une course à celui qui générera le plus de codes par l'IA.