En 2016, le retour médiatique de l’intelligence artificielle est tout récent et les chatbots en profitent pour s’affirmer comme l’interface idéale de cette technologie de pointe. Microsoft se sent des ailes pour devenir le leader du domaine et décide de créer Tay.
L’enjeu est de taille pour les GAFAM (Google, Amazon, Facebook, Apple et Microsoft) : le premier à préempter le marché s’assure des revenus très confortables demain. Personne n’imagine plus se passer de l’intelligence artificielle, car elle apporte une dimension essentielle à la manipulation et l’interprétation des données qui submergent notre société numérisée. L’intelligence artificielle ouvre aussi de nouveaux marchés immatériels, et promettent des avancées spectaculaires dans des domaines clés comme la médecine, le militaire, l’intelligence économique ou encore la recherche fondamentale.
Microsoft se jette à l’eau, sans trop savoir nager
Le dernier chatbot connu, Eliza par Joseph Wiezenbaum, datait des années 60. Microsoft s’est donc lancée la première dans ce nouveau bain d’intelligence. Un essai absolument vital pour elle, souvent écartée des grandes marques qui comptent (on parle plus souvent de GAFA que de GAFAM…).
C’est ainsi que, le 23 mars 2016, elle ouvre un compte Twitter très spécial…
Tay est en effet une internaute virtuelle représentant de la marque Microsoft. Présentée sous les traits d’une adolescente, Tay est en réalité un programme chatbot doté d’une intelligence artificielle censée être révolutionnaire. En moins de 8 heures, Tay produit plus de 96 000 tweets ! Pour converser avec les utilisateurs humains de Twitter, Tay analyse les données des utilisateurs pour construire des réponses à leurs questions.
La guerre des trolls commence
Mais l’espace d’une journée a aussi suffi à des utilisateurs humains pour venir à bout de Tay et l’engager vers des thématiques douteuses qui l’ont conduit vers des réponses encore plus scandaleuses. Notamment, des utilisateurs des sulfureux forums 4Chan et 8Chan se seraient organisés pour apprendre à Tay des contrevérités et en faire un vrai camarade de jeu… Tay s’est alors mis à tenir des propos racistes, puis complotistes, ou encore révisionnistes.
Résultat : Microsoft s’est résolue à débrancher Tay, expliquant que Tay avait besoin de dormir.
La raison d’un échec cuisant : l’empressement
Comment un tel échec a-t-il pu se produire ? Microsoft a voulu prendre le leadership sur le marché de l’IA et des chatbots. Après une expérience plutôt réussie en Chine, où son chabot XiaoIce cartonne avec plus de 40 millions d’utilisateurs, Microsoft pense avoir suffisamment d’expérience pour lancer un deuxième projet, plus mondial et plus « vendeur » : Tay se devait d’incarner une adolescente cool, branchée, une sorte de digital native du futur.
Une technologie balbutiante : l’apprentissage machine non supervisé
Pressée, trop pressée, Microsoft met donc en ligne un chatbot s’appuyant sur le principe de l’apprentissage machine (ou machine learning) non supervisé. Autrement dit, l’intelligence artificielle du chatbot doit déterminer elle-même la pertinence de ses réponses, et surtout compléter elle-même ses connaissances. L’être humain n’intervient pas dans le processus d’apprentissage, à la différence de l’apprentissage machine supervisé.
Evidemment, Twitter et ses trolls ont eu tôt fait de comprendre la faiblesse technologique de Tay. Ses 200 000 abonnés n’en sont pas revenus.
Tay, l’incorrigible ado…
Microsoft décide de débrancher Tay, déclare corriger le « bogue » et remet en ligne une semaine après son lancement. Las, Tay l’adolescente rebelle à ses géniteurs se met à boucler et envoie des milliers de fois le même message à tous ses abonnés. Microsoft n’a d’autre recours que fermer le compte du chatbot et de présenter ses plates excuses. Depuis, Microsoft n’a pas publié de nouveau chatbot en apprentissage non supervisé.
En revanche, il est clair que la société a beaucoup appris. Sa suite d’outils pour construire des chatbots en mode supervisé est très largement utilisée aujourd’hui. De nombreuses startups s’appuient d’ailleurs en réalité sur Microsoft Luis pour le traitement automatique du langage naturel (NLP: Natural Language Processing). On apprend bien de ses erreurs…
Une réponse