Google suspend temporairement la génération d’images dans Gemini en raison de problèmes de biais

Au cours de la semaine dernière, l’IA conversationnelle de Google, Gemini, a fait l’objet d’un examen minutieux pour avoir fait preuve de partialité dans sa capacité à générer des images de personnes. Les utilisateurs ont rapporté que lorsqu’ils demandaient à Gemini d’illustrer des personnes dans des contextes historiques ou des scénarios fictifs, l’IA était plus susceptible de représenter des personnages avec des tons de peau plus foncés. Cela a suscité des inquiétudes légitimes quant à d’éventuels biais du système.

Dans un communiqué, Google a reconnu que Gemini n’avait pas bien performé lorsqu’il s’agissait de représenter des personnes de différentes ethnies et origines de manière équilibrée et inclusive. La société a décidé de désactiver temporairement la capacité de son chatbot IA à générer des images pour les personnes.

Google a déclaré que l’inclusion et la diversité sont des principes extrêmement importants pour lui. L’entreprise ne voulait en aucun cas que ses technologies se propagent ou soient susceptibles d’être biaisées par le monde réel.

Nous travaillons déjà à résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Pendant ce temps, nous allons suspendre la génération d’images de personnes et rééditerons bientôt une version améliorée. https://t.co/SLxYPGoqOZ

– Communications Google (@Google_Comms) 22 février 2024

Lorsque les utilisateurs demandent désormais à Gemini de créer une image, ils reçoivent un message expliquant que la fonctionnalité est actuellement indisponible mais qu’elle reviendra une fois que les problèmes de biais auront été correctement résolus.

Les experts ont déclaré (via AP News ) que les générateurs d’images d’IA ont du mal à gérer la diversité en raison de biais dans leurs données de formation, qui manquent souvent de représentations de personnes de tous horizons. Google semble déterminé à remédier à ces limitations dans Gemini avant de réactiver la fonctionnalité. Il veut garantir que le système puisse représenter tous les types de personnes de manière objective et équilibrée.

Cette décision est considérée comme une étape proactive vers une technologie d’IA juste et inclusive . Dans le cadre de ce mouvement, le gouvernement américain a pris des mesures en février pour promouvoir le développement sûr de l’IA générative. Apple, OpenAI et Microsoft ont rejoint le tout premier consortium pour aborder les protocoles autour de l’IA.