Six GPU AMD Radeon RX 7900 XT regroupés dans un package IA, à partir de 15 000 $ US

Il semble que les GPU grand public deviennent les prochains accélérateurs d’IA, car la société Tiny intègre six GPU AMD Radeon RX 7900 XT dans un seul package pour les applications d’IA.

Les pénuries de GPU AI ont incité les fabricants à utiliser les GPU grand public comme alternative pour des performances d’IA décentes, Tiny révèle six packages AI GPU AMD Radeon RX 7900 XT

Avec la récente pénurie de GPU IA, de nombreuses personnes ont eu recours aux GPU de jeu comme alternative, car ils offrent des performances d’IA décentes, en fonction des charges de travail que vous implémentez. De même, Tiny, une société liée à l’IA, a formulé un package, TinyBox, pour les consommateurs privés de GPU AI, comprenant les GPU phares RDNA 3 d’AMD à un prix raisonnable.

Six Radeon RX 7900 XT d’AMD sont empilées dans un rack 12U et interconnectées à l’aide de voies PCIe 4.0 x16 pour garantir un transfert de données transparent sans compromis sur la vitesse.

Bien que TinyBits eux-mêmes n’aient pas divulgué les performances que vous pourriez obtenir avec ce système, sur la base de calculs, vous pouvez obtenir environ 738 TLFOPS de performances FP16 sur les six GPU intégrés, ainsi que 96 Go de mémoire GDDR6, ce qui en fait un choix décent compte tenu la performance par dollar que vous obtenez ici. TinyBits eux-mêmes mentionnent que l’utilisation du produit phare RDNA3, WeU, était ici le meilleur choix par rapport à la GeForce RTX 4090, uniquement en raison de la valeur offerte par AMD.

D’autres fournisseurs fabriquent également des machines d’IA personnalisées, comme la AI Workstation de GPTshop qui propose la solution Grace Hopper Superchip pour 41 000 $ US .

En termes d’autres spécifications, le système est livré avec le processeur AMD EPYC 7532 ainsi que 128 Go de RAM. Pour le stockage, 5 SSD SN850X de 1 To sont intégrés et un emplacement 16x OCP 3.0 vide est utilisé à des fins de mise en réseau. Tiny a attiré l’attention pour son système TinyBox, puisque la société a reçu 583 précommandes pour le système, qui commencera à être expédié d’ici avril. De plus, la société a révélé son intention de retirer ses puces, mais apparemment, il s’agit d’un plan pour l’avenir.

Le système axé sur l’IA de Tiny coûte environ 10 000 dollars, ce qui est décent, étant donné que les GPU auraient coûté à l’entreprise environ 6 000 dollars s’ils parvenaient à l’obtenir au PDSF, ce qui est très improbable. À mesure que nous progressons vers un marché où l’obtention d’accélérateurs d’IA constitue un problème majeur pour les petites startups d’IA, opter pour de telles options semble réalisable. Bien qu’ils ne puissent certainement pas offrir des performances équivalentes aux accélérateurs d’IA dans la même configuration, ils font le travail.

Source d’information : Minuscule