Microsoft travaille avec Nvidia pour créer des GPU de confidentialité dans le cloud

Microsoft travaille avec Nvidia pour créer des GPU de confidentialité dans le cloud

De nombreuses organisations, grandes et petites, utilisent le cloud pour leurs besoins liés aux données dans les solutions de stockage et d’intelligence artificielle. Pour assurer la confidentialité et la sécurité des données sensibles, il est important d’utiliser l’informatique confidentielle. Pour ceux qui ne le savent pas, il s’agit essentiellement d’un ensemble de contrôles matériels et logiciels qui régissent la manière dont les données sont distribuées et utilisées, et dont les propriétaires de données peuvent auditer ces processus.

Les processeurs Intel et AMD permettent déjà la création d’environnements d’exécution sécurisés (TEE) pour fournir un calcul sensible au niveau du processeur. Les TEE garantissent que les données restent chiffrées lors du stockage, du transit et même de l’utilisation. Il offre également une attestation à distance pour valider la configuration matérielle et accorder l’accès aux données uniquement pour les algorithmes requis. Les solutions de Microsoft pour l’informatique confidentielle sur Azure utilisent également les mêmes principes.

Cependant, les solutions existantes sont liées aux TEE intégrés dans les processeurs, de sorte que Microsoft cherche maintenant à étendre cette limite aux GPU également afin que les données puissent être transférées en toute sécurité vers du matériel informatique plus puissant. Ceci est encore plus important lorsqu’il s’agit de charges de travail d’IA pour les organisations, et Microsoft s’associe à Nvidia sur ce front.

Microsofta noté qu’il ne s’agit pas d’une mise en œuvre facile, car elle doit protéger les GPU de diverses attaques, tout en offrant un contrôle adéquat des ordinateurs hôtes Azure pour les actions administratives. Même au niveau matériel, la mise en œuvre ne devrait pas avoir d’impact négatif sur la température et les performances, et idéalement ne devrait pas nécessiter de modifications de la microarchitecture GPU existante. La vision de l’entreprise inclut les fonctionnalités suivantes pour les GPU de confidentialité :

  • Un nouveau mode où tous les états GPU sensibles, y compris la mémoire GPU, sont isolés de l’hôte.
  • Une racine matérielle de confiance sur la puce GPU qui peut générer des attestations vérifiables qui capturent tous les états GPU pertinents pour la sécurité, y compris tous les micrologiciels et microcodes.
  • Extensions de pilote GPU pour valider l’attestation GPU, configurer un canal de communication sécurisé avec le GPU et chiffrer de manière transparente toutes les communications entre le CPU et le GPU.
  • Prise en charge matérielle du cryptage transparent de toutes les connexions GPU à GPU via NVLink.
  • Prise en charge dans le système d’exploitation invité et l’hyperviseur pour connecter en toute sécurité le GPU au CPU TEE, même si le contenu du CPU TEE est chiffré.

Microsofta déclaré qu’il avait déjà créé des capacités informatiques de confidentialité chez Nvidia.GPU A100 avec Tensor Cores sur Azure. Cela a été fait avec la nouvelle fonctionnalité Ampere Protected Memory (APM). Les détails de mise en œuvre sont purement techniques et vous pouvez les lire ici .

Cette solution est désormais disponible en préversion privée via les machines virtuelles Azure Confidential GPU. Pour l’instant, les organisations peuvent utiliser quatre machines virtuelles GPU Nvidia A100 Tensor Core pour leurs charges de travail Azure. Les prochaines étapes de Microsoft consistent à rendre ces pratiques plus largement adoptées et à travailler avec Nvidia sur son architecture Hopper pour améliorer encore l’implémentation existante.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *