Nvidia DGX Spark : les minimachines spécialisées en IA sortent aujourd’hui

C’est aujourd’hui que Nvidia lance la commercialisation officielle de sa minimachine DGX Spark. Un engin hyper compact à la puissance redoutable qui se veut être le réceptacle d’usages d’Intelligence Artificielle locaux.

Construit autour de l’architecture Nvidia Blackwell, la petite machine ne mesure que 15 cm de côté pour 5.05 cm d’épaisseur. À peine plus grand qu’un MiniPC classique et donc très facilement déployable dans tout type d’environnement. Avec une consommation de 240 watts, l’engin annonce une puissance de calcul de 1 PFLOP en FP4.

Le DGX-1 de 2016

Il est utile à ce stade de regarder un peu en arrière et de se souvenir du premier DGX-1 sorti en 2016. A l’époque, l’idée pour Nvidia et de fournir un support de travail pour les IA. Avec 170 TFLOPS en FP16, l’engin était déjà très robuste dans son rôle d’unité spécialisée. Mais l’objectif était alors surtout de proposer le support nécessaire aux ingénieurs et programmeurs désireux de développer autour des calculs d’IA. L’engin coutait alors 129 000 dollars pièce, occupait un rack de serveur entier avec 86 cm de large pour 44 cm de profondeur et 13 cm d’épaisseur, pesait plus de 60 kilos et consommait 3500 watts. Il fonctionnait grâce à 8 puces Tesla V100 de génération Pascal. Des entreprises spécialisées se sont jetées dessus afin d’avoir une sorte de laboratoire d’entrainement pour du Deep Learning. 

Neuf ans plus tard, Nvidia annonce le DGX Spark qui ressemble à une maquette de son prédécesseur. Il faut dire que toute la donne a changé. Tout le monde a entendu parler d’IA ou presque, énormément de gens ont testé ces outils en ligne. Et la plupart des boites se creusent la tête pour ajouter un peu d’IA dans leur communication. La technologie est largement sortie des laboratoires de recherche. Pour Nvidia, il est temps de proposer une architecture moins onéreuse. Passant des budgets seulement accessibles aux grands groupes à des unités que toute entreprise pourrait acquérir.

Le DGX Spark change donc totalement de puissance, de prix, de format et de méthode de vente. Proposé au prix public de 3999$, il s’inscrit dans une dépense possible pour une PME classique. Il ne nécessite pas une alimentation spécifique ni une baie serveur, ne demande pas de local dédié mais se pose sur une baie classique ou même sur un bureau. Pas besoin de faire un emprunt à la banque ou de ralentir d’autres investissements, l’amortissement de l’objet est également beaucoup plus simple.

Avec une architecture Blackwell pour 1 Pétaflop en FP4, l’engin se veut être autant un outil de recherche qu’une solution d’exploitation. La marque le présente comme le réceptacle d’une IA personnelle. Il permettra de piloter des LLM puissants en local, sans avoir besoin de recourir à des données partagées par un géant du marché. 

Utile pour construire ses propres bases de données, les entrainer et les exploiter, DGX Spark ouvre la voie à des usages différents de ce que propose le Cloud. Imaginez-vous dans un laboratoire de recherche médicale avec des dossiers sanitaires de patients protégés d’une exploitation dans les nuages par le secret médical. Avec ce type de minimachine, vous pourrez modéliser une LLM de recherche en local. Vous travaillez dans un domaine d’expertise particulier ? Le corpus entier des dossiers passés et des décisions prises peut être implanté dans ces machines et entrainé pour chercher pour vous les éléments les plus semblables au cas que vous rencontrez aujourd’hui. Votre entreprise possède un catalogue de centaines de machines différentes ayant chacune des spécifications et des retours techniques d’interventions dûment archivées ? Ce type d’outil peut aller trouver les meilleures réponses et vous donner les contacts et liens des personnes à interroger en cas de pépin avec un client. Dans tous ces cas, nul besoin de monter vos données en ligne et donc de les partager avec une entité tierce. Tout reste en local.

Évidemment, cela a également ses mauvais côtés. Si vous téléchargez un LLM déjà entrainé sur votre machine et que vous ne le mettez plus à jour, vous retrouvez la différence qu’il y a entre l’Encyclopédia Universalis papier et Wikipedia. Le moindre évènement important sera mis à jour sur Wikipedia tandis que votre encyclopédie restera figée dans le temps. Mais pour de nombreux cas précis, notamment pour des raisons de secret industriel ou professionnel, cette étanchéité est salutaire.

Les DGX Spark annoncent 1 Pétaflop de puissance de calcul en FP4. Pas la fiabilité la plus importante disponible donc. Le gros DGX-1 de 2016 annonçait déjà 1 Petaflop en « précision mixte » ce qui ne veut pas dire grand-chose et 170 TFLPS en FP16. Quoi qu’il en soit c’est suffisant pour des modèles locaux comme DeepSeek, surtout parce que les machines profiteront de 128 Go de mémoire unifiée à la bande passante très rapide. Il ne faudra cependant pas forcément s’attendre à des résultats aussi spectaculaires que des LLM surentrainés en ligne pilotés par des investissements matériels ayant couté des milliards de dollars.

Nvidia indique des exécutions locales de modèles totalisant 200 milliards de paramètres avec la possibilité d’affiner des versions de 70 milliards de paramètres. Sans préciser vraiment le confort apporté par la machine. Le temps de réaction des IA ou la durée des entrainements. 

Le ticket d’entrée a considérablement baissé et la méthode de commercialisation qui change. Si les premiers exemplaires sortis en 2016 et les déclinaisons suivantes étaient des machines exclusivement proposées par Nvidia. Les nouvelles vont être vendues par les mêmes canaux – légèrement élargis – que les cartes graphiques de la marque. Ainsi, Acer, Asus, Gigabyte, MSI ainsi que Dell, HP et Lenovo vont proposer leurs propres versions des Spark.  Ce qui devrait entrainer une baisse des tarifs et un moyen pour les entreprises de profiter de meilleures conditions d’achats auprès des grands groupes.

Plus d’infos chez Nvidia