Microsoft lance un aperçu de la prise en charge de l’Intel Neural Processor Unit (NPU) pour son API DirectML

Intel a lancé pour la première fois ses puces Core Ultra basées sur « Meteor Lake » en décembre 2023 . Ils comprenaient des puces NPU (Neural Processor Unit) intégrées pour aider à accélérer matériellement les performances des applications d’IA. Aujourd’hui, Microsoft a annoncé la publication d’une version préliminaire pour les développeurs de son API DirectML qui ajoute la prise en charge des NPU, et en particulier de celles des processeurs Intel Core Ultra.

Dans un article de blog , Microsoft a déclaré que la version préliminaire de DirectML 1.13.1 et d’ONNX Runtime 1.17 prendrait en charge l’accélération NPU sur les PC équipés de processeurs Intel Core Ultra. La société a travaillé non seulement avec Intel, mais également avec Samsung pour aider à améliorer les performances des applications d’IA qui utilisent DirectML.

Dans un article de blog distinct sur ce développement, Intel affirme que Samsung a utilisé DirectML de Microsoft et sa technologie Intel AI Boost dans son ordinateur portable Samsung Galaxy Book 4 récemment sorti avec des puces Intel Core Ultra. Intel a déclaré que Samsung avait déchargé les fonctionnalités de classification des visages et des objets de son application Gallery Windows sur le processeur Intel Core Ultra avec son NPU, à l’aide de l’API DirectML de Microsoft. Intel affirme que cela a permis de raccourcir le temps de développement du projet.

Puisqu’il s’agit d’une version préliminaire. Microsoft note quelques limitations de cette version de DirectML sur les PC équipés d’un processeur Intel Core Ultra :

• La prise en charge de NPU dans DirectML n’est actuellement compatible qu’avec un sous-ensemble de modèles d’apprentissage automatique ciblés pour la prise en charge. Certains modèles peuvent ne pas fonctionner du tout ou avoir une latence élevée ou une faible précision. Nous travaillons à améliorer la compatibilité et les performances d’un plus grand nombre de modèles à l’avenir.
• Les modèles fonctionnels et non sélectionnés pour cet aperçu développeur peuvent présenter des problèmes de stabilité et de fiabilité. Nous continuons d’étendre la couverture à des modèles supplémentaires adaptés au NPU.