Santa Clara – 26 Septembre 2024
AMD (NASDAQ : AMD) annonce aujourd’hui qu’Oracle Cloud Infrastructure (OCI) a choisi les accélérateurs AMD Instinct™ MI300X avec le logiciel ouvert ROCm™ pour alimenter sa toute nouvelle instance OCI Compute Supercluster appelée BM.GPU.MI300X.8. Pour les modèles d’IA pouvant comprendre des centaines de milliards de paramètres, le Supercluster OCI avec AMD MI300X prend en charge jusqu’à 16 384 GPU dans un seul cluster en exploitant la même technologie de structure réseau ultrarapide que celle utilisée par d’autres accélérateurs sur l’OCI. Conçues pour exécuter des charges de travail d’IA exigeantes, notamment l’inférence et l’entraînement de grands modèles de langage (LLM) qui nécessitent un débit élevé avec une capacité de mémoire et une bande passante de premier plan, ces instances OCI bare metal ont déjà été adoptées par des entreprises telles que Fireworks AI.
« AMD Instinct MI300X et le logiciel ouvert ROCm continuent de gagner du terrain comme solutions de confiance pour alimenter les charges de travail d’IA OCI les plus critiques », a déclaré Andrew Dieckmann, vice-président d’entreprise et directeur général, Data Center GPU Business, AMD. « Alors que ces solutions se développent davantage sur les marchés croissants à forte intensité d’IA, la combinaison profitera aux clients d’OCI avec des performances élevées, de l’efficacité et une plus grande flexibilité dans la conception des systèmes. »
« Les capacités d’inférence des accélérateurs AMD Instinct MI300X s’ajoutent à la vaste sélection d’instances bare metal haute performance d’OCI afin d’éliminer la surcharge de calcul virtualisé habituellement utilisée pour l’infrastructure d’IA », a déclaré Donald Lu, vice-président senior, développement logiciel, Oracle Cloud Infrastructure. « Nous sommes ravis d’offrir plus de choix aux clients qui cherchent à accélérer les charges de travail d’IA à un prix compétitif. »
Des performances fiables et un choix ouvert pour l’apprentissage et l’inférence de l’IA
L’AMD Instinct™ MI300X a fait l’objet de tests approfondis, validés par OCI, qui ont souligné ses capacités d’inférence et d’entraînement de l’IA pour servir des cas d’utilisation optimaux en termes de latence, même avec des tailles de lots plus importantes, et la faculté d’intégrer les plus grands modèles LLM dans un seul nœud. Ces résultats de performance de l’Instinct MI300X ont attiré l’attention des développeurs de modèles d’IA.
Fireworks AI offre une plateforme rapide conçue pour le développement et le déploiement de l’IA générative. Avec plus de 100 modèles, Fireworks AI exploite les avantages des performances d’OCI en utilisant les accélérateurs AMD Instinct™ MI300X.
« Fireworks AI aide les entreprises à construire et à déployer des systèmes d’IA complexes dans un large éventail d’industries et de cas d’utilisation », a déclaré Lin Qiao, PDG de Fireworks AI. « La capacité mémoire disponible sur l’AMD Instinct MI300X et le logiciel ouvert ROCm nous permettent d’étendre les services à nos clients à mesure que les modèles continuent de croître. »
Plus sur AMD : /www.amd.com/fr
