Tl;dr
- Sundar Pichai, le PDG de Google, s’excuse pour les contenus problématiques générés par l’IA Gemini.
- De nombreux utilisateurs ont signalé des biais dans les images générées, notamment en termes de genre et d’origine.
- Malgré les problèmes, Google souligne l’engagement de ses équipes à améliorer l’IA.
- Les biais dans les modèles d’IA soulèvent des questions sur les préjugés raciaux et sexistes.
Google face à la controverse de l’IA Gemini
Dans un communiqué adressé à ses équipes et validé auprès de l’AFP, le PDG de Google, Sundar Pichai, a reconnu l’existence de “contenus problématiques” liés à la génération d’images par l’IA Gemini. Pichai a fait part de son souhait de discuter des défis rencontrés par cette technologie, qui a suscité une large polémique.
Un biais dans les images générées
Ces derniers jours, de nombreux utilisateurs ont souligné des anomalies dans les créations de l’IA, notamment des erreurs de représentation concernant le genre et l’origine.
Retenu comme exemple évocateur, une requête relative à un soldat allemand de 1943 a abouti à des images de soldats asiatiques ou de peau noire. Devant ces retours, Google a immédiatement suspendu cette fonctionnalité.
Des efforts constants pour améliorer l’IA
“Sachez que nous travaillons sans relâche pour rectifier la situation”, a précisé Sundar Pichai. Il n’a toutefois pas indiqué quand la génération d’images serait à nouveau disponible.
Il convient de noter que malgré les obstacles, les équipes de Google restent concentrées sur la résolution de ces problèmes.
Des enjeux de représentation
Les controverses entourant l’IA générative ne sont pas nouvelles. Bien que les technologies de cette effervescence aient captivé le public, elles ont souvent été critiquées pour leur perpétuation de préjugés raciaux et sexistes. Par exemple, l’IA aura tendance à représenter des individus productifs ou des ingénieurs comme des hommes blancs, tandis qu’une aide ménagère sera souvent représentée par une femme racialisée.
Dans ce contexte mouvementé et débordant de défis, Google s’est engagé à persévérer dans ses efforts pour éradiquer ces biais. Toutefois, cette situation rappelle l’importance d’une réflexion critique autour des enjeux éthiques dans le développement de l’IA. Des questions qui prennent de l’ampleur à mesure que les technologies de pointe prennent une place de plus en plus centrale dans notre quotidien.
