Le président de Microsoft, Brad Smith, explique comment il luttera contre le « contenu abusif généré par l’IA »

Récemment, de fausses images de la pop star Taylor Swift contenant du contenu explicite ont inondé Internet . Certains rapports affirmaient que les images avaient été créées par quelqu’un qui utilisait Microsoft Designer. Microsoft a officiellement déclaré qu’il n’en avait vu aucune preuve, mais a ajouté qu’il avait apporté des modifications à la conception « pour renforcer nos invites de filtrage de texte et remédier à l’utilisation abusive de nos services ».

Aujourd’hui, le président de Microsoft, Brad Smith, a écrit un article sur le blog officiel de l’entreprise . Bien qu’il n’ait pas fait référence aux fausses images de Taylor Swift ni à l’utilisation présumée de Microsoft Designer dans la création de ces images, Smith a déclaré que la société constate « une expansion rapide de l’abus de ces nouveaux outils d’IA par de mauvais acteurs ».

Smith a décrit six domaines spécifiques sur lesquels Microsoft se concentrera pour lutter contre ces types de « contenus abusifs générés par l’IA ». qui abusent de ces outils.

Un autre domaine sur lequel Smith a déclaré que Microsoft travaillait était d’aider à identifier le contenu généré par l’IA. Il a déclaré:

Nous utilisons déjà la technologie de provenance dans les outils de création d’images Microsoft Designer dans Bing et Copilot, et nous sommes en train d’étendre la provenance des médias à tous nos outils de création ou de manipulation d’images.

Il a ajouté que la société étudiait les « techniques de filigrane et d’empreintes digitales » pour l’avenir. Smith a également déclaré qu’il s’efforçait de supprimer les contenus abusifs basés sur l’IA de ses services comme LinkedIn et de ses services de jeux comme Xbox.

Smith a déclaré qu’il souhaitait également collaborer avec d’autres acteurs de l’industrie technologique, ainsi qu’avec les forces de l’ordre, pour lutter contre les deepfakes basés sur l’IA. En outre, il a déclaré que Microsoft souhaitait travailler avec les gouvernements du monde entier pour établir de nouvelles lois interdisant ce type de contenu.

Enfin, Smith a déclaré que Microsoft souhaitait aider à éduquer le public afin d’identifier les contenus deepfake conçus pour tromper les gens. Il estime que cela « nécessitera de nouveaux outils et programmes d’éducation du public » pour leur montrer quel contenu est réel et ce qui est faux.