<?xml version="1.0" encoding="utf-8" ?>
<rss version="2.0" xml:base="https://www.programmez.com/" xmlns:dc="http://purl.org/dc/elements/1.1/">
  <channel>
    <title>attaque contradictoire</title>
    <link>https://www.programmez.com/</link>
    <description></description>
    <language>fr</language>
    
    <item>
  <title>Adversarial Robustness Toolbox : IBM propose une boite à outils open source pour sécuriser l&#039;intelligence artificielle</title>
  <link>https://www.programmez.com/actualites/adversarial-robustness-toolbox-ibm-propose-une-boite-outils-open-source-pour-securiser-lintelligence-27449</link>
  <description>&lt;span class=&quot;field field--name-title field--type-string field--label-hidden&quot;&gt;Adversarial Robustness Toolbox : IBM propose une boite à outils open source pour sécuriser l&amp;#039;intelligence artificielle&lt;/span&gt;
&lt;span class=&quot;field field--name-uid field--type-entity-reference field--label-hidden&quot;&gt;&lt;span&gt;fredericmazue&lt;/span&gt;&lt;/span&gt;
&lt;span class=&quot;field field--name-created field--type-created field--label-hidden&quot;&gt;&lt;time datetime=&quot;2018-04-19T12:29:34+02:00&quot; title=&quot;Jeudi, 19 avril 2018 - 12:29&quot; class=&quot;datetime&quot;&gt;jeu, 19 Avr 2018 - 12:29&lt;/time&gt;
&lt;/span&gt;


  &lt;div class=&quot;inline__links&quot;&gt;&lt;nav class=&quot;links inline nav links-inline&quot;&gt;&lt;span class=&quot;comment-forbidden nav-link&quot;&gt;&lt;a href=&quot;/user/login?destination=/actualites/adversarial-robustness-toolbox-ibm-propose-une-boite-outils-open-source-pour-securiser-lintelligence-27449%23comment-form&quot;&gt;Se connecter&lt;/a&gt; ou &lt;a href=&quot;/user/register?destination=/actualites/adversarial-robustness-toolbox-ibm-propose-une-boite-outils-open-source-pour-securiser-lintelligence-27449%23comment-form&quot;&gt;s&#039;inscrire&lt;/a&gt; pour publier un commentaire&lt;/span&gt;&lt;/nav&gt;
  &lt;/div&gt;

&lt;div class=&quot;btn btn-light&quot;&gt;
      &lt;a href=&quot;/actualites/outils&quot; hreflang=&quot;fr&quot;&gt;Outils&lt;/a&gt;
  &lt;/div&gt;

&lt;div class=&quot;mots-cles-actualite d-flex flex-wrap gap-2&quot;&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/intelligence-artificielle&quot; hreflang=&quot;fr&quot;&gt;intelligence artificielle&lt;/a&gt;&lt;/div&gt;
      &lt;div class=&quot;btn&quot;&gt;&lt;a href=&quot;/actualites/attaque-contradictoire&quot; hreflang=&quot;fr&quot;&gt;attaque contradictoire&lt;/a&gt;&lt;/div&gt;
  &lt;/div&gt;

      &lt;div class=&quot;field field--name-field-image-actualite field--type-entity-reference field--label-hidden field__items&quot;&gt;
              &lt;div class=&quot;field__item&quot;&gt;&lt;div&gt;
  
  
  &lt;div class=&quot;field field--name-field-media-image field--type-image field--label-visually_hidden&quot;&gt;
    &lt;div class=&quot;field__label visually-hidden&quot;&gt;Image&lt;/div&gt;
              &lt;div class=&quot;field__item&quot;&gt;  &lt;img loading=&quot;lazy&quot; src=&quot;/sites/default/files/styles/large/public/images_actus/adversarial-example-panda.png.webp?itok=VvmZvs9T&quot; width=&quot;480&quot; height=&quot;182&quot; class=&quot;image-style-large&quot; /&gt;


&lt;/div&gt;
          &lt;/div&gt;

&lt;/div&gt;
&lt;/div&gt;
          &lt;/div&gt;
  
            &lt;div class=&quot;clearfix text-formatted field field--name-body field--type-text-with-summary field--label-hidden field__item&quot;&gt;&lt;p&gt;L&#039;intelligence a le vent en poupe. Tous les géants de l&#039;informatique s&#039;appuient de plus en plus sur elle, et cette tendance devrait durer. Mais saviez-vous que l&#039;intelligence artificielle peut elle aussi être soumise à des attaques informatiques ?&lt;/p&gt;
&lt;p&gt;Il fallait en fait s&#039;y attendre, car qui dit système informatique dit vulnérabilité :-) L&#039;intelligence artificielle est vulnérable aux &lt;em&gt;adversarial attacks&lt;/em&gt;, que l&#039;on pourrait traduire en français par attaques contradictoires.&lt;/p&gt;
&lt;p&gt;L&#039;idée est toute simple : fournir à l&#039;intelligence artificielle des entrées frelatées, afin de fausser son apprentissage et d&#039;induire des réponses souhaitées par les attaquants.&lt;/p&gt;
&lt;p&gt;Dans un &lt;a href=&quot;https://www.ibm.com/blogs/research/2018/04/ai-adversarial-robustness-toolbox/&quot;&gt;billet&lt;/a&gt;, IBM donne un exemple d&#039;attaque contradictoire :&lt;/p&gt;
&lt;p&gt;L&#039;image d&#039;un panda à laquelle on ajoute une image de &#039;bruit&#039;, fait que l&#039;intelligence artificielle attaquée va classer l&#039;image non en tant que Panda mais en tant que capucin. (IBM ne précise pas si l&#039;I.A voit alors un religieux ou un signe à longue barbe :-)&lt;/p&gt;

&lt;p&gt;Les réseaux neuronaux d&#039;apprentissage profond sont donc vulnérables et IBM propose un outil pour aider les chercheurs et les développeurs à créer des techniques de défense : Adversarial Robustness Toolbox.&lt;/p&gt;
&lt;p&gt;IBM explique : &quot;&lt;em&gt;La boîte à outils Adversarial Robustness est conçue pour aider les chercheurs et les développeurs à concevoir de nouvelles techniques de défense, ainsi qu’à déployer des défenses pratiques des systèmes d’IA. Pour les développeurs, la bibliothèque fournit des interfaces qui prennent en charge la composition de systèmes de défense complets en utilisant des méthodes individuelles. La bibliothèque est écrite en Python, le langage de programmation le plus couramment utilisé pour développer, tester et déployer des réseaux de neurones profonds. Il comprend des algorithmes de pointe pour créer des exemples d&#039;attaques contradictoires ainsi que des méthodes pour défendre les réseaux de neurones contre celles-ci&lt;/em&gt;&quot;.&lt;/p&gt;
&lt;p&gt;Adversarial Robustness Toolbox est open source, sur &lt;a href=&quot;https://github.com/IBM/adversarial-robustness-toolbox&quot;&gt;GitHub&lt;/a&gt;.&lt;/p&gt;
&lt;/div&gt;
      &lt;section class=&quot;field field--name-field-commentaire-actu field--type-comment field--label-above comment-wrapper&quot;&gt;
  
  

  
&lt;/section&gt;
</description>
  <pubDate>Thu, 19 Apr 2018 10:29:34 +0000</pubDate>
    <dc:creator>fredericmazue</dc:creator>
    <guid isPermaLink="false">71214 at https://www.programmez.com</guid>
    </item>

  </channel>
</rss>
