Un robot Microsoft doté d'une intelligence artificielle et capable de l'accroître en interagissant avec les internautes a été retiré récemment par le groupe informatique américain après avoir multiplié les diatribes haineuses ou racistes sur la base de ce que lui enseignaient des personnes mal intentionnées. Le robot Tay avait été conçu avec l'apparence d'une jeune adolescente naïve capable d'apprendre de ses interactions avec les internautes. Le projet à but éducatif a tourné court lorsque des internautes ont décidé de lui apprendre surtout la violence verbale. « Malheureusement, dans les 24 premières heures où elle était en ligne, nous avons constaté un effort coordonné par certains utilisateurs pour maltraiter Tay et son habilité à communiquer afin qu'elle réponde de manière inappropriée », a expliqué Microsoft dans un communiqué. « C'est autant une expérience sociale et culturelle que technique », a toutefois nuancé le groupe. Alors que la machine avait pour but d'étudier les capacités d'apprentissage et devenait plus intelligente au fur et à mesure de ses interactions en ligne, elle s'est mise à tweeter des commentaires pro-nazis, sexistes ou racistes. Elle a par ailleurs posté des commentaires en soutien au candidat républicain à la Maison Blanche Donald Trump. Dans son dernier message sur Twitter, Tay a déclaré : « A bientôt les humains, j'ai besoin de sommeil après tant de conversations aujourd'hui », rapporte Microsoft. Ces messages injurieux ont été effacés, mais beaucoup circulent encore sous la forme de captures d'écran. Microsoft, pour sa part, travaille désormais à améliorer le logiciel de Tay. Outre Twitter, le robot avait été conçu pour interagir sur diverses plateformes de messageries et ciblait tout particulièrement les millenials » nés entre 1981 et 1996.
