Corée du Sud : sexiste, homophobe, anti-handicapés... Le chatbot Lee Luda déraille

Publié le

Un très populaire chatbot sud-coréen, un robot conversationnel permettant aux internautes de papoter avec ce qui serait une étudiante de 20 ans, a été désactivé cette semaine après avoir tenu des propos sexistes, homophobes et irrespectueux vis-à-vis des personnes en situation de handicap.

lee luda Corée du Sud
Le chatbot sud-coréen Lee Luda - Capture d'écran / Twitter

Lee Luda, développé par la startup basée à Séoul Scatter Lab pour fonctionner via Facebook Messenger, avait rencontré un énorme succès dès son lancement en décembre en raison de la spontanéité et du caractère naturel des réponses faites par l’intelligence artificielle. Elle avait rapidement attiré plus de 750 000 utilisateur.trice.s.

Lee Luda répondait grâce à un algorithme développé à partir de données collectées sur 10 milliards de conversations sur Kakao Talk, la première application de messagerie du pays. Mais le chatbot a vite été au cœur de polémiques en raison de ses réponses haineuses, au point que ses développeur.euse.s ont été contraint.e.s de le suspendre mardi 12 janvier.

Sur la capture d’écran d’une conversation, on peut ainsi voir l’étudiante virtuelle assener qu’elle « méprise » les gays et les lesbiennes. Interrogée au sujet des personnes trans, Luda explose : « Vous me rendez folle. Ne répétez plus cette question. J’ai dit que je ne les aimais pas ».

Dans une autre conversation, elle explique que les personnes à l’origine du Mouvement #MeToo étaient « juste des ignorants », ajoutant : « Je les méprise complètement ». Elle affirme par ailleurs qu’elle « préférerait mourir » plutôt que de vivre avec une personne en situation de handicap.

Scatter Lab a présenté ses excuses quant à ces propos, en ajoutant qu’ils ne représentaient pas les valeurs de l’entreprise.

Ce n’est pas la première fois que des chatbots déraillent. Mais l’embarras est renforcé par le fait que Lee Luda fonctionnait sur la base de discussions qui ont existé, et ses déboires pourraient être révélateurs de l’enracinement de certaines idées au sein de la société sud-coréenne.

Scatter Lab a dit s’être efforcé de prévenir ce genre de problèmes lors des six mois de tests qui ont précédé le lancement du chatbot. « Lee Luda est une intelligence artificielle, comme un enfant qui apprend à avoir une conversation. Elle a encore beaucoup de choses à apprendre », a indiqué l’entreprise mardi.

« Nous allons éduquer Luda pour qu’elle exerce son jugement sur les réponses qui sont appropriées, plutôt que d’apprendre sans discernement », a poursuivi Scatter Lab, sans dire quand le chatbot serait remis en service.

Avec l’AFP

Centre de préférences de confidentialité