Xeon Cascade Lake d’Intel vs. NVIDIA Turing : une analyse de l’IA

Il semble que la nouvelle devise de la Silicon Valley ces dernières années ait été : « Les données sont le nouveau pétrole », et pour cause. Le nombre d’entreprises utilisant des technologies d’intelligence artificielle d’apprentissage automatique a grimpé en flèche, et même quelques années après que tout a commencé pour de bon, le nombre continue de croître. Cette forme d’IA n’est plus seulement un article universitaire ou un curieux projet de recherche, mais l’apprentissage automatique est devenu une partie importante du marché des entreprises et il est difficile d’exagérer les effets sur le matériel d’entreprise, à la fois en termes d’achat et de développement. C’est l’ère de l’IA.

À première vue, le choix du matériel pour ce type d’application semble simple : processeurs Intel Xeon pour le stockage et le prétraitement des données, GPU NVIDIA pour (presque) tout l’IA. En fait, c’est largement le cas depuis plusieurs années. Cependant, les concurrents de NVIDIA n’ont pas chômé tout le temps – et c’est particulièrement vrai pour Intel, dont la part de marché des entreprises menace finalement tout cela. Des processeurs d’inférence dédiés à faible consommation aux Xeons optimisés, Intel a un œil sur tous les niveaux du marché de l’IA. Le résultat net est que l’IA est abordée dans de nombreuses directions différentes parmi tous ces concurrents et l’humble bataille pour l’ère de l’IA est incroyablement intéressante à notre humble avis.

Aujourd’hui, jetons un coup d’œil au cœur du matériel d’IA d’Intel, les processeurs Intel Xeon Scalable de deuxième génération, mieux connus sous le nom de “Cascade Lake”. Ces nouveaux processeurs, introduits plus tôt cette année, sont toujours basés sur la même architecture principale Skylake que les produits de première génération, mais incluent plusieurs nouvelles instructions pour accélérer les performances de l’IA.

Et quand il s’agit de nouvelles technologies, c’est certainement l’aspect le plus excitant de Cascade Lake. Alors que nous pourrions parler de l’amélioration globale de 3 à 6 % des performances du processeur, du processeur Intel à 56 cœurs le plus cher de tous les temps et des « repères des records du monde », ces petites améliorations sont presque sans intérêt pour le futur proche. terme du monde informatique. Consultez la première diapositive du briefing Intel Press & Analyst.

Internet des objets, technologie des données et IA. Une grande partie de la croissance, de l’innovation et de l’avenir de l’informatique sera ici. Et c’est là qu’Intel veut être.

NVIDIA détient actuellement un quasi-monopole sur la partie la plus “sexy” de ce marché, à savoir les logiciels de deep learning et de “HPC massivement parallèle”. En raison de la confluence de facteurs matériels et logiciels, la plupart de ces logiciels fonctionnent sur des GPU et des clusters NVIDIA. Pour le grand public, il semble que NVIDIA possède le “marché IA”, une image qui n’est pas inexacte, mais qui n’est pas non plus complète. Il y a bien plus sur le marché de l’IA que la simple déduction des réseaux de neurones et, en particulier, tout ce qui doit arriver pour fournir des données au modèle d’IA est négligé. En conséquence, ce sont les réseaux de neurones et les robots terminateurs qui font les gros titres, même s’ils ne font qu’une partie de l’image. En réalité, le traitement Web pour les applications d’IA ressemble davantage à la figure suivante.

En bref, l’exécution réelle du code d’apprentissage automatique n’est qu’une très petite partie des outils logiciels nécessaires pour créer et utiliser l’IA.

Avant de commencer, vous devez capturer, décompresser, filtrer, réorganiser, mapper et mélanger les données. Une fois que tout est trié et mélangé, vous devrez agréger les données. Comme les algorithmes de ML nécessitent de grandes quantités de données pour faire de bonnes prédictions, cela peut consommer beaucoup de mémoire. Pourquoi? Plongeons un peu plus loin.