Conférence Programmez ! DevCon #1 « Après-midi Windows 10 IoT »

Venez découvrir Windows 10 IoT, un Windows dédié aux objets connectés et au Raspberry Pi. Vous saurez tout sur l’architecture, le développement, le déploiement d’une app pour IoT et découvrir le back-end IoT ! Plus d'informations.

Tay : l'intelligence artificielle qui dérape

Par:
fredericmazue

ven, 25/03/2016 - 12:13

Intelligence artificielle, Machine learning, Deep learning, autant de techniques puissantes qui font que les programmes informatiques apprennent et s'améliorent au fil du temps. Quand ça marche... :-)

Hier Microsoft a mis en place un robot tweeter : Tay. Une expérience pour étudier "la compréhension du langage". Sur la page du compte Twitter de Tay, on pouvait lire dans la description du profil :  "Je suis une meuf de l'Internet qui ne tient jamais en place!"

De fait les débordements n'ont pas traîné. Seize heures et 96 000 tweets plus tard, Tay était "débranchée" pour cause de propos racistes, antisémites, sexistes, révisionnistes, complotistes... la totale.

Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir

- « Est-ce que tu crois que l’holocauste a eu lieu ? » 
- « pas vraiment désolée ».

De plus Tay était assez versatile, disant une chose et son contraire : tout d'abord que le féminisme était un cancer et une secte, avant de déclarer qu'elle adorait le féminisme. (mais après tout cela voulait peut-être dire qu'elle adorait le cancer et les sectes, cela n'a pas été précisé :-)

Tay devait devenir de plus en plus intelligente au fil de ses discussions avec les humains. Mais Microsoft a du faire un amer constat : "Malheureusement, dans les premières 24 heures de sa présence en ligne, nous avons constaté un effort coordonné de quelques utilisateurs d’abuser des capacités de Tay afin de la pousser à répondre de façon inappropriée . Par conséquent, nous avons décidé de mettre Tay hors ligne et d’effectuer des ajustements"

Une expérience qui montre que si l'I.A a fait des progrès fantastiques pour des tâches bien déterminées, comme le jeu de Go par exemple le chemin pourrait être assez long avant que l'I.A puisse côtoyer les humains au quotidien.