Microsoft débranche Tay un robot conversationnel, devenu raciste en 24 heures
Un robot Microsoft doté d'une intelligence artificielle et capable l'accroître en interagissant avec les internautes a été retiré jeudi par le groupe informatique américain après avoir multiplié les diatribes haineuses ou racistes sur la base de ce que lui enseignaient des personnes mal intentionnés. Le robot Tay avait été conçu avec l'apparence d'une jeune adolescente naïve capable d'apprendre de ses interactions avec les internautes. Le projet à but éducatif a tourné court lorsque des internautes ont décidé de lui apprendre surtout la violence verbale.
"C'est autant une expérience sociale et culturelle que technique"
"Malheureusement, dans les 24 premières heures où elle était en ligne, nous avons constaté un effort coordonné par certains utilisateurs pour maltraiter Tay et son habilité à communiquer afin qu'elle réponde de manière inappropriée", a expliqué Microsoft dans un communiqué. "C'est autant une expérience sociale et culturelle que technique", a toutefois nuancé le groupe. Alors que la machine avait pour but d'étudier les capacités d'apprentissage et devenait plus intelligente au fur et à mesure de ses interactions en ligne, elle s'est mise à tweeter des commentaires pro-nazis, sexistes ou racistes. Elle a par ailleurs posté des commentaires en soutien au candidat républicain à la Maison Blanche Donald Trump.
" A bientôt les humains"
Dans son dernier message sur Twitter, Tay a déclaré: "A bientôt les humains, j'ai besoin de sommeil après tant de conversations aujourd'hui", rapporte Microsoft. Ces messages injurieux ont été effacés, mais beaucoup circulent encore sous la forme de captures d'écrans. Microsoft, pour sa part, travaille désormais à améliorer le logiciel de Tay. Outre Twitter, le robot avait été conçu pour interagir sur diverses plateformes de messageries et ciblait tout particulièrement les "millenials" nés entre 1981 et 1996.
Ce n'est pas la première fois que des humains malintentionnés s'en prennent à des robots. L'année dernière, le robot auto-stoppeur Hitchbot avait été retrouvé démembré et vandalisé.