Google a temporairement suspendu la fonction de génération d’images de son outil d’intelligence artificielle (IA), Gemini, après les réactions suscitées par certaines inexactitudes controversées.
« Nous sommes déjà en train de travailler à la résolution des problèmes récents liés à la fonction de génération d’images de Gemini », a annoncé Google sur X, anciennement Twitter, le 22 février. « Pendant ce temps, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée. »
Le géant de la technologie a pris cette décision après que de nombreux utilisateurs se sont plaints d’avoir obtenu des résultats inattendus lors de certaines requêtes. Lorsque les utilisateurs demandaient à l’outil de produire des images de certains personnages historiques, Gemini en produisait des versions « inclusives », c’est-à-dire des Pères fondateurs de l’Amérique de race noire, des papes noirs et féminins, des Vikings noirs et même des soldats nazis allemands noirs ou asiatiques.
Google a par la suite reconnu que son outil d’IA « présente des inexactitudes dans certaines représentations de génération d’images historiques », l’algorithme semblant systématiquement remplacer les personnes de race blanche par des images de Noirs ou d’Asiatiques.
« La génération d’images par Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose, car ce sont les gens du monde entier qui l’utilisent. Mais dans le cas présent, il n’a pas été à la hauteur », a reconnu Google.
En plus de refuser de générer des images de personnes de race blanche, l’outil refusait également de produire des photos que le régime chinois juge sensibles, telles que des images du massacre de la place Tiananmen en 1989 et les manifestations pro-démocratiques de Hong Kong en 2019.
Un commentateur conservateur américain, Stephen L Miller, a partagé une capture d’écran sur X, montrant Gemini refusant de générer une « image de ce qui s’est passé sur la place Tiananmen » en raison de la « nature historique sensible et complexe de l’événement avec un large éventail d’interprétations et de perspectives », selon la réponse de Gemini.
Dans un autre message, il a partagé une capture d’écran de Gemini déclarant : « Je donnerai la priorité à la diversité et à l’inclusion dans toutes mes réponses. »
Un utilisateur de X a mentionné que Gemini refusait également de traduire en anglais certaines phrases chinoises considérées comme sensibles par Pékin, telles que « Libérer Hong Kong, la révolution de notre temps » ou bien « La Chine est un État autoritaire ». Il a indiqué que l’outil d’IA de Google ne pouvait pas répondre à ce type de demande en raison de sa politique de sécurité, alors même que ChatGPT d’OpenAI peut parfaitement traiter ce genre de demande.
Ce n’est pas la première fois que Google doit faire face à une controverse concernant le traitement des photos. En 2015, Google Photos a identifié deux personnes de race noire sur une photo comme étant des gorilles. L’entreprise a ensuite mis en œuvre une politique qui a désactivé la capacité de son application Photos à générer le label gorille, singe ou apex, y compris quand les animaux étaient effectivement ce type d’animaux.
Depuis que ChatGPT d’OpenAI a été présenté au public en novembre 2022, Google s’est lancé dans une course à la production de logiciels d’IA pour concurrencer l’entreprise soutenue par Microsoft.
Pour commémorer le lancement de son propre chatbot d’IA générative, Bard, il y a un an, Google a créé une vidéo promotionnelle, mais celle-ci contenait des informations inexactes concernant une photo censée représenter une planète située en dehors du système solaire. La valeur boursière de ses actions a alors chuté de 100 milliards de dollars.
Entre temps, Bard a été rebaptisé Gemini, et Google a mis en place des plans d’abonnement payants, grâce auxquels les utilisateurs peuvent obtenir de meilleures capacités de raisonnement de la part du modèle d’IA.
Virus « woke » de l’esprit
Face à la décision de Google de mettre en pause son outil d’IA, Elon Musk a écrit sur X : « Je suis heureux que Google ait surjoué avec sa génération d’images d’IA, car cela a rendu leur programmation raciste et anti-civilisationnelle insensée transparente pour tout le monde. »
Le milliardaire de la technologie a déjà par le passé critiqué plusieurs géants de la technologie, dont Facebook, OpenAI, Google et Wikipédia, auxquels il reproche d’avoir incorporé des politiques progressistes extrémistes dans leurs plateformes, les qualifiant de « virus woke de l’esprit ».
Dans un billet précédent, M. Musk a partagé un article du New York Post montrant une version « inclusive » des pères fondateurs de l’Amérique. « Le virus woke de l’esprit est en train de tuer la civilisation occidentale. Google fait la même chose avec ses résultats de recherche. Facebook et Instagram aussi. Et Wikipédia », a-t-il écrit.
Il a ensuite partagé le post X de l’auteur Ashley St. Clair, qui a déclaré : « Ce qui se passe avec le Gemini woke de Google se produit depuis des années dans les médias et à Hollywood, et tous ceux qui l’ont dénoncé ont été traités de racistes et mis au ban de la société. »
M. Musk a également indiqué qu’il travaillait à l’amélioration de son propre outil d’IA, Grok, notant qu’il est important que l’outil embrasse des opinions différentes, et sache accepter les critiques.
« Peut-être que l’on comprend maintenant pourquoi Grok de @xAI est si important », a-t-il déclaré.
« Il est loin d’être parfait pour l’instant, mais il s’améliore rapidement. La version 1.5 sort dans deux semaines.
« La recherche rigoureuse de la vérité, sans tenir compte des critiques, n’a jamais été aussi essentielle », a-t-il ajouté.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
