<?xml version="1.0" encoding="utf-8" ?>
<rss version="2.0" xml:base="https://www.programmez.com/" xmlns:dc="http://purl.org/dc/elements/1.1/">
  <channel>
    <title>OWASP</title>
    <link>https://www.programmez.com/</link>
    <description></description>
    <language>fr</language>
    
    <item>
  <title>OWASP et le fondation Eclipse veulent renforcer la sécurité de l&#039;open source</title>
  <link>https://www.programmez.com/actualites/owasp-et-le-fondation-eclipse-veulent-renforcer-la-securite-de-lopen-source-39913</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;OWASP et le fondation Eclipse veulent renforcer la sécurité de l&amp;#039;open source&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;francoistonic&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2026-08-04T07:33:33+02:00&quot; title=&quot;Mardi, 4 août 2026 - 07:33&quot; class=&quot;datetime&quot;&gt;mar, 4 Aoû 2026 - 07:33&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/owasp-et-le-fondation-eclipse-veulent-renforcer-la-securite-de-lopen-source-39913%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/owasp-et-le-fondation-eclipse-veulent-renforcer-la-securite-de-lopen-source-39913%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/S%C3%A9curit%C3%A9&quot; hreflang=&quot;fr&quot;&gt;Sécurité&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/owasp&quot; hreflang=&quot;fr&quot;&gt;OWASP&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;La fondation Eclipse et l&#039;OWASP annoncent une collaboration pour renfocer la sécurité dans l&#039;open source et aider à préparer la mise en oeuvre du règlement européen sur la cyberrésilience (CRA).&amp;nbsp;&lt;/p&gt;
&lt;p&gt;L’accord associe l’expertise de la Fondation Eclipse en matière de gouvernance open source, de collaboration avec l’industrie et de conformité réglementaire aux projets de sécurité, avec les normes, la formation et la communauté de l’OWASP, reconnus à l’échelle mondiale. Ces organisations mettront au point des ressources destinées à aider les gestionnaires de projets open source, les responsables de maintenance, les fabricants et les équipes de développement logiciel à renforcer leurs pratiques en matière de sécurité et à s’adapter à l’évolution des exigences réglementaires.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;« L’open source constitue une infrastructure numérique essentielle, mais la responsabilité de sa sécurisation est répartie au sein d’un écosystème mondial complexe », selon Mike Milinkovich, directeur exécutif de la Fondation Eclipse. « Alors que l’IA accélère à la fois le développement de logiciels et la détection des vulnérabilités, et que les premières obligations au titre du CRA entreront en vigueur dans quelques semaines, la nécessité d’une action concrète et coordonnée devient de plus en plus urgente. En réunissant l’expertise et les communautés de la Fondation Eclipse et de l’OWASP, nous pouvons réduire la fragmentation et aider les organisations à mettre en œuvre des pratiques plus solides en matière de sécurité et de conformité réglementaire. »&lt;/p&gt;
&lt;p&gt;Le CRA instaure des exigences obligatoires en matière de cybersécurité pour les produits comportant des éléments numériques mis à disposition dans l’UE, y compris les produits développés à l’aide de logiciels open source ou qui en dépendent. Les obligations imposées aux fabricants en matière de signalement des vulnérabilités et des incidents entreront en vigueur le 11 septembre 2026 et obligeront les organisations à mettre en place les processus et les capacités techniques nécessaires pour identifier, gérer et signaler les problèmes graves de sécurité.&lt;/p&gt;
&lt;p&gt;« Les recommandations en matière de sécurité n’ont d’effet concret que si les développeurs, les responsables de maintenance et les organisations sont en mesure de les mettre en pratique », a déclaré Andrew van der Stock, directeur exécutif de la Fondation OWASP. « En collaborant avec la Fondation Eclipse, nous pouvons élargir la portée et l’impact de l’expertise de l’OWASP en matière de sécurité, tout en offrant aux communautés open source des moyens plus clairs et plus concrets de renforcer la chaîne d’approvisionnement logicielle et de se préparer au CRA. »&lt;/p&gt;
&lt;p&gt;La Fondation Eclipse et l’OWASP ont l’intention de collaborer dans cinq domaines principaux :&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;la préparation de l’écosystème open source au CRA&lt;/li&gt;
&lt;li&gt;l’harmonisation et l’interopérabilité entre les pratiques et les cadres de sécurité&lt;/li&gt;
&lt;li&gt;l’éducation et l’engagement communautaire conjoints&lt;/li&gt;
&lt;li&gt;la gestion des logiciels open source et le soutien aux responsables de maintenance&lt;/li&gt;
&lt;li&gt;la formation aux politiques et à la réglementation&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;&amp;nbsp;&lt;/p&gt;
&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Tue, 04 Aug 2026 05:33:33 +0000</pubDate>
    <dc:creator>francoistonic</dc:creator>
    <guid isPermaLink="false">82016 at https://www.programmez.com</guid>
    </item>
<item>
  <title>OWASP : TOP 10 des risques LLM et GenAI, édition 2025</title>
  <link>https://www.programmez.com/actualites/owasp-top-10-des-risques-llm-et-genai-edition-2025-38213</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;OWASP : TOP 10 des risques LLM et GenAI, édition 2025&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;francoistonic&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2025-09-12T08:33:31+02:00&quot; title=&quot;Vendredi, 12 septembre 2025 - 08:33&quot; class=&quot;datetime&quot;&gt;ven, 12 Sep 2025 - 08:33&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/owasp-top-10-des-risques-llm-et-genai-edition-2025-38213%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/owasp-top-10-des-risques-llm-et-genai-edition-2025-38213%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/actualites/securite&quot; hreflang=&quot;fr&quot;&gt;Sécurité&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/owasp&quot; hreflang=&quot;fr&quot;&gt;OWASP&lt;/a&gt;&lt;/div&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/llm&quot; hreflang=&quot;fr&quot;&gt;LLM&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

      &lt;div class=&quot;field field--name-field-image-actualite field--type-entity-reference field--label-hidden field__items&quot;&gt;
              &lt;div class=&quot;field__item&quot;&gt;&lt;div&gt;
  
  
  &lt;div class=&quot;field field--name-field-media-image field--type-image field--label-visually_hidden&quot;&gt;
    &lt;div class=&quot;field__label visually-hidden&quot;&gt;Image&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;  &lt;img loading=&quot;lazy&quot; src=&quot;/sites/default/files/styles/large/public/images_actus/owaspia.png.webp?itok=qqHAMZoA&quot; width=&quot;480&quot; height=&quot;246&quot; class=&quot;image-style-large&quot; /&gt;


&lt;/div&gt;
          &lt;/div&gt;

&lt;/div&gt;
&lt;/div&gt;
          &lt;/div&gt;
  
            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;Il n&#039;est jamais inutile de rappeler le TOP 10 LLM de l&#039;OWASP. La version 2025 est disponible. Plusieurs changements importants apparaissent dans les failles potentielles.&amp;nbsp;&lt;/p&gt;

&lt;p&gt;Voici un récapitulatif des vulnérabilités LLM :&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM01 : prompt injection&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Une vulnérabilité d&#039;injection d&#039;invites se produit lorsque les prompts des utilisateurs modifient le comportement ou le résultat du LLM de manière inattendue. Ces entrées peuvent affecter le modèle même si elles sont imperceptibles pour l&#039;utilisateur. Par conséquent, les injections d&#039;invites n&#039;ont pas besoin d&#039;être visibles/lisibles par l&#039;utilisateur, tant que le contenu est analysé par le modèle.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt; : contraindre l&#039;usage du LLM, bien définir le format et les données en sortie et en entrée, renforcer les droits, validation humaine pour les demandes les plus critiques, isoler les données externes&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM02 : données sensibles sont dévoilées / accessibles&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Les informations sensibles peuvent affecter le LLM et son contexte d&#039;application. Cela inclut les informations personnelles identifiables, les données financières, les dossiers médicaux, les données commerciales confidentielles, les informations d&#039;identification de sécurité et les documents juridiques. Les modèles propriétaires peuvent également avoir des méthodes de formation spécifiques et un code source considéré comme sensible, en particulier dans les modèles fermés ou de fondation.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: renforcer les accès aux données, sensibiliser les utilisateurs sur l&#039;usage sécurisé des LLM&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM03 : supply chain&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Les chaînes d&#039;approvisionnement LLM sont exposées à diverses vulnérabilités, susceptibles d&#039;affecter l&#039;intégrité des données d&#039;entraînement, des modèles et des plateformes de déploiement. Ces risques peuvent entraîner des résultats biaisés, des failles de sécurité ou des pannes système. Alors que les vulnérabilités logicielles traditionnelles se concentrent sur des problèmes tels que les défauts de code et les dépendances, en ML, les risques s&#039;étendent également aux modèles et données pré-entraînés tiers.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: vérifier la source des données, utiliser des LLM validés, monitorer l&#039;activité de la supply chain&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM04 : données corrompues&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;L&#039;empoisonnement (=corrompues volontairement) des données se produit lorsque les données de pré-entraînement, de réglage fin ou d&#039;intégration sont manipulées pour introduire des vulnérabilités, des portes dérobées ou des biais. Cette manipulation peut compromettre la sécurité, les performances ou le comportement éthique du modèle, entraînant des résultats néfastes ou une altération des fonctionnalités. Les risques courants incluent une dégradation des performances du modèle, un contenu biaisé ou toxique et l&#039;exploitation des systèmes en aval.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: tracer la donnée (source et transformation), valider les sorties, mettre en sandbox les données externes non validées, intégrer du RAG dès l&#039;inférence&amp;nbsp;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM05 : sortie incorrecte&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;La gestion incorrecte des sorties fait spécifiquement référence à une validation, un nettoyage et une gestion insuffisants des sorties générées par les LLM avant leur transmission vers d&#039;autres composants et systèmes. Le contenu généré par LLM étant contrôlable par une saisie rapide, ce comportement revient à fournir aux utilisateurs un accès indirect à des fonctionnalités supplémentaires. La gestion incorrecte des sorties diffère de la surdépendance en ce qu&#039;elle traite les sorties générées par LLM avant leur transmission en aval, tandis que la surdépendance se concentre sur des préoccupations plus larges liées à la dépendance excessive à l&#039;exactitude et à la pertinence des sorties LLM. L&#039;exploitation d&#039;une vulnérabilité de gestion incorrecte des sorties peut entraîner des attaques XSS et CSRF dans les navigateurs web, ainsi que des attaques SSRF, une élévation de privilèges ou l&#039;exécution de code à distance sur les systèmes back-end.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: approche zero trust, vérifier strictement les entrées et les sorties, ne pas autoriser des sorties non prévues, application stricte des règles et limitations, monitorer les sorties LLM&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM06 : Excessive agency&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Ce problème est une vulnérabilité affecte les actions suite à des résultats inattendus ou manipulés. Les principales causes : hallucinations, pauvre qualité du prompt, injection directe pour compromettre le comportement et les réponses. Les causes de l&#039;excessive agency peuvent être des excès de permissions ou d&#039;autonomie de fonctionnement, une saise non sécurité, non contrôlée&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: limiter l&#039;action des agents, limiter les permissions des extensions et l&#039;action des LLM, validation humaine pour certains prompts et des réponses sensibles. Nettoyer les demandes et les réponses&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM07 : système de prompt défaillant&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Le système prompt est là pour orienter, définir les réponses et les usages. Si ce système n&#039;est pas bien déployé ou défini, cela peut entraîner hallucinations et mauvais usages&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: encadrer et limiter l&#039;accès aux données sensibles, installer des garde-fous&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM08 : vecteurs et vulnérabilités embarquées&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Les vulnérabilités liées aux vecteurs et aux intégrations présentent des risques de sécurité importants dans les systèmes utilisantdu RAG avec des LLM. Les faiblesses dans la manière dont les vecteurs et les intégrations sont générés, stockés ou récupérés peuvent être exploitées par des actions malveillantes (intentionnelles ou non) pour injecter du contenu nuisible, manipuler les résultats des modèles ou accéder à des informations sensibles.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: installer un contrôle d&#039;accès, authentification des sources de données et validation des données, monitoring du système, classification des données selon la sensibilité&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM09 : désinformation&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;L&#039;une des principales causes de désinformation est l&#039;hallucination : le LLM génère un contenu apparemment exact, mais fabriqué de toutes pièces. Les hallucinations surviennent lorsque les LLM comblent des lacunes dans leurs données d&#039;entraînement à l&#039;aide de modèles statistiques, sans en comprendre véritablement le contenu. Par conséquent, le modèle peut produire des réponses apparemment correctes, mais totalement infondées. Si les hallucinations sont une source majeure de désinformation, elles ne sont pas la seule cause ; les biais introduits par les données d&#039;entraînement et les informations incomplètes peuvent également y contribuer.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: déployer un RAG, tuning fin des modèles, vérification croisée automatique et humaine, bonnes pratiques sur l&#039;usage et sur le code d&#039;intégration&amp;nbsp;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;LLM10 : consommation excessive / inattendue (de l&#039;infrastructure, du service LLM ou IA)&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;Les attaques visant à perturber le service, à épuiser les ressources financières de la cible, voire à voler la propriété intellectuelle en clonant le comportement d&#039;un modèle, reposent toutes sur une même classe de vulnérabilité de sécurité pour réussir. La consommation illimitée se produit lorsqu&#039;une application LLM (Large Language Model) permet aux utilisateurs d&#039;effectuer des inférences excessives et incontrôlées, entraînant des risques tels que le déni de service (DoS), des pertes économiques, le vol de modèles et la dégradation du service. Les exigences de calcul élevées des LLM, en particulier dans les environnements cloud, les rendent vulnérables à l&#039;exploitation des ressources et aux utilisations non autorisées.&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;&lt;em&gt;Contre-mesures&lt;/em&gt;&lt;/strong&gt;&amp;nbsp;: limitation les entrée, définir des quotas limites, gestion de timeout, réduire l&#039;accès des LLM aux ressources réseaux ou aux API, dégradation du service en cas de forte charge, réduire le nombre de requête autorisée et réduire la file d&#039;attente&lt;/p&gt;
&lt;p&gt;OWASP top 10 LLM :&amp;nbsp;&lt;a href=&quot;https://genai.owasp.org/llm-top-10/&quot;&gt;https://genai.owasp.org/llm-top-10/&lt;/a&gt;&lt;/p&gt;

&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Fri, 12 Sep 2025 06:33:31 +0000</pubDate>
    <dc:creator>francoistonic</dc:creator>
    <guid isPermaLink="false">78005 at https://www.programmez.com</guid>
    </item>
<item>
  <title>OWASP : top 10 des risques LLM et GenIA</title>
  <link>https://www.programmez.com/actualites/owasp-top-10-des-risques-llm-et-genia-37642</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;OWASP : top 10 des risques LLM et GenIA&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;francoistonic&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2025-05-02T11:21:48+02:00&quot; title=&quot;Vendredi, 2 mai 2025 - 11:21&quot; class=&quot;datetime&quot;&gt;ven, 2 Mai 2025 - 11:21&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/owasp-top-10-des-risques-llm-et-genia-37642%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/owasp-top-10-des-risques-llm-et-genia-37642%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/actualites/securite&quot; hreflang=&quot;fr&quot;&gt;Sécurité&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/owasp&quot; hreflang=&quot;fr&quot;&gt;OWASP&lt;/a&gt;&lt;/div&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/llm&quot; hreflang=&quot;fr&quot;&gt;LLM&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;L&#039;OWASP propose un top 10 des risques et vulnérabilités sur les LLM et les genIA en général. L&#039;OWASP confirme que l&#039;IA est loin d&#039;être sécurisée, au contraire, les risques de sécurité se multiplient si l&#039;implémentation est mal faite ou l&#039;usage mal cadré.&amp;nbsp;&lt;/p&gt;

&lt;p&gt;1 - injection : le prompt injection est un classique. Un prompt altère le fonctionnement prévu de la genIA et/ du LLM. Et peu à peu on influence son fonctionnement et on amène à générer des données sensibles ou des exemples d&#039;attaque ou des réponses non prévues. Voir : jailbreaking LLM&lt;/p&gt;
&lt;p&gt;2 - des données sensibles sont accessibles : trop d&#039;entreprises laissent des données sensibles / privées sur les LLM. Ces données peuvent être accessibles. Il ne faut pas autoriser les LLM / genIA à accéder à ces données sauf dans un cadre strictement interne et déconnecté de l&#039;extérieur&lt;/p&gt;
&lt;p&gt;3 - les chaînes LLM constituent un risque et une surface d&#039;attaque potentielle. Risque de corrompre les modèles ou les données, utiliser des API, des services non sécurisés&lt;/p&gt;
&lt;p&gt;4 - données et modèles empoisonnés : cela signifie que les données ne sont pas qualifiés ou corrompues. Si ces données ne sont pas bonnes, le LLM sera biaisé et générera de fausses informations et de mauvaises réponses = déviance du modèle. Il faut vérifier l&#039;origine des données et la conformité de celles-ci avec ce que l&#039;on veut générer. Il faut aussi que le LLM soit bien défini et cadré.&lt;/p&gt;
&lt;p&gt;5 -&amp;nbsp;La gestion incorrecte des sorties fait spécifiquement référence à une validation et une gestion insuffisantes des sorties générées par le LLM. Et cela peut se propager et corrompre d&#039;autres systèmes&lt;/p&gt;
&lt;p&gt;6 - Trop d&#039;agent IA peut nuire à la sécurité et au bon comportement. Avec les agents on peut perdre le contrôle de ce qu&#039;il se passe et favoriser l&#039;hallunication. La qualité médiocre d&#039;un LLM est exploitée. L&#039;agent ou la genIA ne fait pas la différence entre un bon LLM et un mauvais LLM&lt;/p&gt;
&lt;p&gt;7 - Fuite au niveau du prompt : il ne faut pas que des identifications, des secrets ou données sensibles se retrouvent dans les réponses du prompt. Il doit &quot;comprendre&quot; ce qui peut être généré ou non.&amp;nbsp;&lt;/p&gt;
&lt;p&gt;8 - Une mauvaise intégration peut être une source de vulnérabilités. Cela peut être accentué en utilisant du RAG.&lt;/p&gt;
&lt;p&gt;9 - désinformation : finalement c&#039;est une combinaison des précédents points&lt;/p&gt;
&lt;p&gt;10 - consommation illimitée : on n&#039;y pense pas forcément car un déni de services peut impacter un service IA, un genIA en le saturant de prompts qui va alors peser sur l&#039;infrastructure. Cela peut être possible avec des prompts nombreux et longs, des requêtes envoyées en grande quantité dans un délai très court, des API mal limitées pouvant faire exploser les ressources, etc.&amp;nbsp;&lt;/p&gt;
&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Fri, 02 May 2025 09:21:48 +0000</pubDate>
    <dc:creator>francoistonic</dc:creator>
    <guid isPermaLink="false">77618 at https://www.programmez.com</guid>
    </item>

  </channel>
</rss>
