L’algorithme YouTube bloque une chaîne consacrée aux échecs car elle utilise les termes « blancs » et « noirs »
L'Espagnol Francisco Vallejo Pons (G), numéro 28 mondial, joue contre l'Américain Hikaru Nakamura, numéro 12 mondial, lors du 4e Grand Chelem d'échecs au parc Ibirapuera de Sao Paulo, au Brésil, le 1er octobre 2011.
Photo: YASUYOSHI CHIBA/AFP via Getty Images
Parce que la chaîne YouTube du joueur d’échecs croate Antonio Radic mentionnait les termes tels que « noirs », « blancs », ou « attaque », elle a été bloquée par les algorithmes de la plate-forme, sans lui donner beaucoup d’explications.
Le programme d’intelligence artificielle (IA) de YouTube aura eu raison de la chaîne « Agadmator », dédiée aux échecs. Le 28 juin 2020, la chaîne du joueur croate Antonio Radic, qui compte plus d’un million d’abonnés, a été bloqué en raison d’un contenu jugé « nuisible et dangereux ». En fait, Antonio Radic y commentait une partie d’échecs du grand maître international Hikaru Nakamura, rapporte L’Independent.
À la suite de cet incident, des informaticiens de l’université Carnegie Mellon se sont penchés sur la question de l’intelligence artificielle. Le système de modération de YouTube n’est pas composé uniquement des algorithmes d’IA, mais également d’humains. Plus de 1 000 commentaires ont été sélectionnés manuellement parmi de soi-disant « discours de haine » et 82 % d’entre eux avaient été mal jugés. Ils mentionnaient tous des termes couramment utilisés dans le monde échiquéen tels que « noirs », « blancs », ou encore « attaque ».
Selon des informaticiens de l’Université Carnegie Mellon, il y a eu une interprétation erronée de ces commentaires, l’intelligence artificielle n’étant pas capable de prendre en ligne de compte le contexte. « S’ils s’appuient sur l’intelligence artificielle pour détecter un langage raciste, ce genre d’accident peut arriver », a expliqué Ashiqur KhudaBukhsh, un scientifique du projet à l’Institut des technologies du langage de la CMU à L’Independent.
La seule solution pour éviter ce type de désagrément est d’intégrer le langage échiquéen dans les algorithmes de YouTube, selon les experts. Quant à la chaîne YouTube du joueur croate, elle a été débloquée dans les 24 heures, mais sans que le principal intéressé n’ait obtenu d’explication sur ce malentendu. Il a donc supposé que c’était en raison des références à la couleur des pions.
Articles actuels de l’auteur
