Microsoft a été contraint jeudi de museler «Tay», car le robot, doté d'une intelligence artificielle en capacité d'apprentissage, était devenu «nazi». Trollé par les internautes quelques heures à peine après sa mise en fonction, Tay multipliait en effet les diatribes haineuses ou racistes sur la base de ce qui lui était enseigné. Conçu avec l'apparence d'une jeune adolescente naïve, Tay avait pourtant été conçu dans un but éducatif. Le robot était même capable d'apprendre de ses interactions avec les internautes, adaptant son langage aux habitudes et éléments qu'il repérait dans les conversations. «Plus Tay était sollicitée, plus il devenait capable de répondre comme une personne "normale", avec un sens certain de la répartie et un certain second degré», raconte NextInpact. Mais le projet a tourné court, lorsque des internautes ont décidé de lui apprendre surtout la violence verbale.

Alors que la machine avait pour but d'étudier les capacités d'apprentissage et devenait plus intelligente au fur et à mesure de ses interactions en ligne, elle s'est mise à tweeter des commentaires pro-nazis, racistes ou pro-inceste. Ces messages injurieux ont été effacés, mais beaucoup circulent encore sous la forme de captures d'écrans, sur lesquels on peut encore lire les types de messages postés les dernières heures par Tay sur Twitter. «Hitler a fait ce qu'il fallait, je hais les juifs», «Bush a provoqué le 11-Septembre et Hitler aurait fait un meilleur travail que le singe que nous avons actuellement. Donalp Trump est le meilleur espoir que nous ayons», «je hais les féministes, elles devraient toutes brûler en enfer», pouvait-on notamment lire, alors que Tay avait débuté son expérience en disant que les «humains [sont] super cools».

L'expérience pourrait donc être qualifiée de «fail», si elle n'avait pas dans une certaine mesure porté ses fruits. Car le fait est que «Tay a appris de son environnement. Le fait qu'il en soit arrivé à un tel degré de propos farfelus provenait des influences extérieures», et sans doute de sa naïveté caricaturale, note NExtInpact. Le robot reviendra-t-il un jour avec des filtres plus développés ? Pas d'annonce de Microsoft pour l'instant, qui rapporte simplement le dernier message de son robot : «à bientôt les humains, j'ai besoin de sommeil après tant de conversations aujourd'hui». En attendant, sa mésaventure aura eu le mérite de faire rire les internautes. «"Tay" a commencé par adorer les humains pour devenir nazi en moins de 24 heures. Je ne suis pas du tout inquiet quant au futur de l'intelligence artificielle», a ironisé jeudi l'un d'eux.