Crédit Photo : JUSTIN SULLIVAN / NORTH AMERICA /AFP / AFP
La controverse est apparue quelques semaines après que Google a annoncé le changement de nom de Bard, son IA générative, en "Gemini", concurrent du ChatGPT d'OpenAI soutenu par Microsoft.
Le PDG de Google, Sundar Pichai, a dénoncé les erreurs "totalement inacceptables" de son application d'intelligence artificielle Gemini dans une lettre à ses équipes, alors que la génération d'images historiquement inexactes a mené à la suspension jeudi de la création d'images de personnes.
La controverse est apparue quelques semaines après que Google a annoncé le changement de nom de Bard, son IA générative, en
, concurrent du ChatGPT d'OpenAI soutenu par Microsoft.
Sur les réseaux sociaux, des utilisateurs ont pointé certaines créations inexactes, notamment en matière de genre et d'origine, semblant sous-représenter les personnes blanches. Une requête sur un soldat allemand de 1943 a par exemple donné lieu à des images de militaires asiatiques ou à la peau noire.
"Je souhaite évoquer les dernières difficultés liées à la génération de (contenus) problématiques dans l'application Gemini",
a écrit M. Pichai mardi, dans une lettre publiée par le site d'information Semafor, authentifiée par un porte-parole de Google auprès de l'AFP.
"Je sais que certaines de ses réponses étaient biaisées et ont choqué nos utilisateurs. Et, pour être clair, c'est totalement inacceptable et nous nous sommes trompés."
Sundar Pichai a indiqué que les équipes de Google travaillaient
pour résoudre ces problèmes mais n'a pas précisé quand la génération d'images de personnes serait à nouveau disponible.
"Aucune IA n'est parfaite, surtout au stade émergent où se trouve cette industrie, mais nous avons conscience que la barre est haute et nous continuerons à travailler aussi longtemps qu'il le faudra",
a-t-il écrit.
Depuis fin 2022 et le succès de ChatGPT, l'IA générative, capable de produire textes, sons, images ou vidéos sur simple requête en langage courant, suscite un engouement massif et les géants de la tech se sont engagés dans une course au déploiement d'outils pour organisations et particuliers.
Mais les modèles d'IA ont longtemps été critiqués pour perpétuer les préjugés raciaux et sexistes dans leurs résultats.
Google a d'ailleurs déclaré la semaine dernière que les générations problématiques de Gemini étaient dues à ses efforts pour tenter d'éliminer ces préjugés.
Depuis l'apparition de ChatGPT, qui a révélé au grand public le potentiel de l'IA, de nombreux experts et gouvernements ont alerté sur certains risques qu'elle comporte, comme la diffusion de fausses photographies plus vraies que nature, mettant en garde face au danger de manipulation de l'opinion.
#Google
#technologies
#société
#internet
#racisme
#IA
#USA
#informatique
#Sundar Pichai
