L'intelligence a le vent en poupe. Tous les géants de l'informatique s'appuient de plus en plus sur elle, et cette tendance devrait durer. Mais saviez-vous que l'intelligence artificielle peut elle aussi être soumise à des attaques informatiques ?

Il fallait en fait s'y attendre, car qui dit système informatique dit vulnérabilité :-) L'intelligence artificielle est vulnérable aux adversarial attacks, que l'on pourrait traduire en français par attaques contradictoires.

L'idée est toute simple : fournir à l'intelligence artificielle des entrées frelatées, afin de fausser son apprentissage et d'induire des réponses souhaitées par les attaquants.

Dans un billet, IBM donne un exemple d'attaque contradictoire :

L'image d'un panda à laquelle on ajoute une image de 'bruit', fait que l'intelligence artificielle attaquée va classer l'image non en tant que Panda mais en tant que capucin. (IBM ne précise pas si l'I.A voit alors un religieux ou un signe à longue barbe :-)

Les réseaux neuronaux d'apprentissage profond sont donc vulnérables et IBM propose un outil pour aider les chercheurs et les développeurs à créer des techniques de défense : Adversarial Robustness Toolbox.

IBM explique : "La boîte à outils Adversarial Robustness est conçue pour aider les chercheurs et les développeurs à concevoir de nouvelles techniques de défense, ainsi qu’à déployer des défenses pratiques des systèmes d’IA. Pour les développeurs, la bibliothèque fournit des interfaces qui prennent en charge la composition de systèmes de défense complets en utilisant des méthodes individuelles. La bibliothèque est écrite en Python, le langage de programmation le plus couramment utilisé pour développer, tester et déployer des réseaux de neurones profonds. Il comprend des algorithmes de pointe pour créer des exemples d'attaques contradictoires ainsi que des méthodes pour défendre les réseaux de neurones contre celles-ci".

Adversarial Robustness Toolbox est open source, sur GitHub.