Google dit que deux choses se sont produites qui ont causé les problèmes du générateur d’images Gemini AI de cette semaine

Plus tôt cette semaine, des personnes ont commencé à signaler que la fonctionnalité de génération d’images du chatbot Gemini (anciennement Bard) de Google créait des illustrations inappropriées. Plus précisément, le système représentait des personnes à la peau foncée dans des rôles historiques ou fictifs qui n’étaient pas appropriés pour ces personnages.

Après que l’art ait été signalé, Google a annoncé qu’il arrêterait temporairement la capacité de Gemini à créer des œuvres d’art représentant des personnes avec son générateur d’images. Vendredi soir, la société a proposé une explication de ce qui s’est passé avec Gemini dans un article de blog .

Il ne voulait pas non plus que le chatbot crée des images de personnes réelles.

Dans le même temps, Google souhaitait également permettre à Gemini de représenter une gamme d’ethnies si une personne demandait au chatbot des images plus générales, comme montrer des personnes dans une équipe de football. Si une personne souhaite qu’un type spécifique de personne soit représenté, comme un médecin blanc ou un enseignant noir, les Gémeaux devraient également être en mesure de réaliser cette œuvre d’art.

Raghavan a ensuite écrit que deux éléments spécifiques dans les garde-fous du texte de Gemini ont permis la création d’images inappropriées de cette semaine :

Premièrement, notre réglage visant à garantir que Gemini affiche un éventail de personnes n’a pas pris en compte les cas qui ne devraient clairement pas afficher d’intervalle. Et deuxièmement, au fil du temps, le modèle est devenu beaucoup plus prudent que prévu et a refusé de répondre entièrement à certaines invites – interprétant à tort certaines invites très anodines comme sensibles.

Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop conservateur dans d’autres, conduisant à des images embarrassantes et fausses.

On ne sait pas combien de temps il faudra à Google pour réparer ses garde-fous afin que la création artistique avec des personnes utilisant le générateur d’images Gemini soit réactivée. Raghavan a déclaré que même s’il ne peut pas promettre que Gemini ne créera jamais d’œuvres d’art offensantes, Google « continuera à prendre des mesures chaque fois que nous identifierons un problème ».