Le dernier mile de l’IA vient de recevoir un supercalculateur, gracieuseté d’Asus et de Nvidia

Ils disent que la partie la plus difficile de la planification des transports est la livraison de dernier kilomètre. Un réseau d’entrepôts et de camions peut apporter des produits à moins d’un mile de presque tous les clients, mais des défis et des coûts logistiques s’additionnent rapidement en train de livrer ces biens aux bonnes portes au bon moment.

Il y a un modèle similaire dans l’espace AI. Les installations massives du centre de données ont permis d’étonner les services d’IA basés sur le cloud, mais de nombreux chercheurs, développeurs et scientifiques des données ont besoin de la puissance d’un supercalculateur d’IA pour parcourir ce dernier kilomètre. Ils ont besoin de machines qui offrent la conception de la commodité et de la réduction de l’espace d’un PC de bureau mais vont bien au-delà des capacités du matériel grand public, en particulier en ce qui concerne la mémoire GPU disponible.

Entrez une nouvelle classe de superordinateurs de bureau AI, alimentés par ASUS et NVIDIA.

Le prochain Gamme ASUS AI Supercomputerdirigé par le ASUS EXPERTCERTER PRO ET900N G3 PC de bureau et Asus ascent gx10 Mini-PC, maniez les dernières superchips Nvidia Grace Blackwell pour offrir des performances étonnantes dans les flux de travail de l’IA. Pour ceux qui ont besoin de ressources locales de supercalcul privé, mais pour lesquelles une installation de centre de données ou de serveur de rack n’est pas possible, ces systèmes offrent une opportunité transformatrice pour saisir les capacités de l’IA.

Élargissement de la mémoire pour répondre au nombre de paramètres des grands modèles d’IA

Une pièce clé du puzzle pour accélérer les charges de travail AI d’exécution localement est la mémoire GPU disponible. Si un modèle donné ne s’intègre pas dans la mémoire locale, il peut fonctionner très lentement, ou il peut ne pas fonctionner du tout. Les 32 Go de VRAM fournis par la carte graphique de qualité grand public de NVIDIA la plus haut de gamme sur le marché, le Nvidia GeForce RTX 5090, sont suffisantes pour de nombreux modèles plus petits. Mais la mise à l’échelle de VRAM de votre système pour gérer les modèles avec encore plus de paramètres n’est pas nécessairement une affaire simple.

Les systèmes multi-GPU sont une solution réalisable pour certains utilisateurs, mais d’autres ont recherché une solution conçue spécifiquement pour les besoins des flux de travail de l’IA. En équipant l’ascension GX10 et Expercener Pro ET900N G3 avec de grands pools uniques de mémoire système cohérente, nous sommes en mesure de mettre des quantités de mémoire étonnantes à la portée. L’ascension GX10 brandit quatre fois plus de mémoire GPU qu’un GeForce RTX 5090, tandis que l’expertificateur pro et900n G3 offre jusqu’à 784 Go – plus de deux fois plus de mémoire GPU qu’un poste de travail équipé de quatre GPU NVIDIA RTX Pro ™ 6000.

Performances de supercalculateur AI dans un facteur de formulaire PC de bureau

Conçu à partir de zéro pour les flux de travail IA, le ASUS EXPERTCERTER PRO ET900N G3 sera l’un des premiers pionniers d’une nouvelle classe d’ordinateurs, basé sur la station NVIDIA DGX.

Ce système est alimenté par la superchip Nvidia GB300 Grace Blackwell Ultra. Doté d’un NVIDIA Blackwell Ultra GPU et d’un CPU NVIDIA Grace connecté via l’interconnexion NVIDIA® NVLINK®-C2C, cette superchip fournit une tranche de performances de centre de données dans une station de travail de bureau. Encore plus que les systèmes de bureau haut de gamme d’aujourd’hui, l’expertificateur pro et900n G3 garantit que les entreprises et les chercheurs peuvent développer et suivre des charges de travail de formation et d’inférence à grande échelle grâce à jusqu’à 784 Go de grande mémoire cohérente.

Tout fonctionne sur la pile de logiciels NVIDIA AI, y compris NVIDIA DGX OS, une installation personnalisée d’approvisionnement Ubuntu Linux pour des performances optimisées dans les applications AI, d’apprentissage automatique et d’analyse, avec la possibilité de faire évoluer facilement dans plusieurs systèmes de station NVIDIA DGX.

Le supercalculateur AI dans la paume de votre main: l’Asus Ascent GX10

L’ASUS Expercener Pro ET900N G3 est beaucoup plus facile à déployer qu’une solution basée sur des serveurs de rack, mais il existe des situations où même un facteur de forme de classe de bureau est encore trop grand. L’Asus Ascent GX10 démocratise l’IA en mettant les capacités informatiques de l’IA à l’échelle de Petaflop dans une conception que vous pouvez tenir dans la paume de votre main.

Le Gamme ASUS NUC Démontre notre expertise éprouvée dans l’offre d’expériences PC complètes dans des conceptions ultracompactantes. Pas de simple pas en avant, l’ascension GX10 prend notre expérience sur le marché mini-PC et la fusionne avec les performances révolutionnaires de la Nvidia GB10 Grace Blackwell Superchip. Cette superchip relie un processeur Grace avec 20 cœurs de bras avec une technologie Blackwell robuste via la technologie NVIDIA® NVLINK®-C2C. Tout compte fait, il offre jusqu’à 1 000 sommets AI de la puissance de traitement, avec 128 Go de mémoire système unifiée cohérente permettant au système de gérer 200 milliards de modèles d’IA de paramètres.

Besoin de l’ascension GX10 pour gérer des modèles encore plus grands, tels que Llama 3.1 avec ses 405 milliards de paramètres? La technologie de réseau NVIDIA® ConnectX®-7 intégrée vous permet d’exploiter les performances de l’IA de deux systèmes GX10 de ascension travaillant ensemble.

Partie d’un ensemble complet de solutions d’IA

ASUS se démarque de tous les autres fabricants sur le marché avec l’ampleur des produits d’IA que nous pouvons offrir. L’interrogation GX10 EXPERTCENTER PRO ET900N et Ascent GX10 dans une gamme complète qui répond aux besoins des amateurs d’IA à tous les niveaux. Pour ceux qui cherchent à Construisez leur propre PC AI hors des composants de base de consommation, pour ceux qui ont besoin Performance d’IA intégrée dans leur ordinateur portable quotidienpour les entreprises qui ont besoin d’un Solution de serveur AI à rack uniquemême pour les institutions qui cherchent à Concevoir, déployer et exploiter un centre de données pour les applications d’IAle portefeuille de produits ASUS est prêt.

Pourtant, l’expertificateur pro et900n G3 et l’ascension GX10 sont bien plus que de simples ajouts à notre pile de produits AI. Le saut de l’IA PC au supercalculateur AI n’est rien de moins que révolutionnaire, et ces systèmes vous donnent ce niveau de performances dans une solution clé en main complète qui s’adapte à un bureau.

Les aspects de ces systèmes sont toujours en développement, mais nous partagerons plus de détails dès que nous pouvons. En attendant, Explorez comment ASUS peut aider votre organisation à saisir les capacités de l’IA.