Microsoft travaille sur un outil de détection des deepfakes avant les élections américaines

Alors que les inquiétudes grandissent quant à la menace du deepfake et à son potentiel de propagation de fausses informations à l’approche des élections américaines, Microsoft a annoncé un nouvel outil destiné à aider les politiciens. Microsoft a annoncé son intention de proposer cet outil aux candidats politiques américains avant les élections présidentielles de 2024.

L’outil, dévoilé cette semaine par le président de Microsoft, Brad Smith, permettra aux parties de filigraner des images et des vidéos avec des informations d’identification cryptographiques. Cela créera un enregistrement permanent indiquant si le contenu a été modifié numériquement au fil du temps.

L’objectif est de donner aux utilisateurs et au public un moyen de vérifier que le matériel de campagne, comme les publicités et les discours, n’a pas été manipulé par des technologies deepfake.

Nous commençons aujourd’hui en approuvant aux États-Unis le projet de loi bipartite « Protect Elections from Deceptive AI Act » présenté par les sénateurs Klobuchar, Collins, Hawley et Coons. Cet important texte législatif interdit l’utilisation de l’intelligence artificielle pour générer du contenu matériellement trompeur représentant faussement des candidats fédéraux dans des publicités politiques visant à influencer les élections fédérales, avec des exceptions importantes pour la parodie, la satire et l’utilisation de contenu généré par l’IA par les rédactions.

L’adoption initiale de l’outil reste incertaine, car une offre similaire de Microsoft en 2020 a connu une adoption limitée. Cependant, les deepfakes constituent une menace sérieuse, comme le montrent plusieurs vidéos manipulées diffusant de la désinformation au cours des dernières campagnes électorales .

Microsoft a également averti que les méthodes traditionnelles et de haute technologie, y compris l’IA, pourraient être utilisées par des États autoritaires pour saper les processus électoraux en 2024. En réponse, Microsoft prendra cinq mesures pour renforcer la sécurité des votes clés aux États-Unis et ailleurs. « Aucune personne, institution ou entreprise ne peut garantir que les élections seront libres et équitables », peut-on lire sur le blog. « Mais en intensifiant nos efforts et en travaillant ensemble, nous pouvons réaliser des progrès significatifs dans la protection du droit de chacun à des élections libres et équitables. »

D’un autre côté, certains notent l’ironie du fait que Microsoft investit également massivement dans l’IA générative à travers sa participation de 10 milliards de dollars dans OpenAI, dont le Dall-E a permis de générer des images réalistes . Néanmoins, l’entreprise considère que la lutte contre les deepfakes est essentielle à la garantie d’élections libres et équitables.