Un portefeuille de produits Rich Xeon 6
Les processeurs Intel Xeon 6 Performance-core sont conçus pour les charges de travail à forte intensité de calcul, offrant des options de configuration très flexibles.Avec des comptes de base allant de 16 à 128, les clients peuvent sélectionner la configuration optimale pour leurs applications spécifiques.Pour les charges de travail telles que les bases de données traditionnelles à grande échelle qui nécessitent une connectivité à grande vitesse et un traitement parallèle multi-core, les nouveaux processeurs Performance-core Xeon 6700/6500 apportent des améliorations significatives du nombre de noyaux, de la bande passante d'E / S et de la capacité de mémoire.De plus, ils prennent désormais en charge les configurations de serveur à quatre et huit voies, en tirant parti des interconnexions UPI à grande vitesse pour libérer entièrement les performances multi-core, ce qui les rend idéales pour les applications de base de données haute performance.
Comme le processeur Performance-core Xeon 6900, qui comprend jusqu'à 128 cœurs, les processeurs Performance-core Xeon 6700/6500 prennent en charge jusqu'à 6400mt / s DDR5 Memory, 8800mt / s MRDIMM Memory et 64 Lanes CXL 2.0.La mémoire d'extension CXL permet aux utilisateurs d'étendre la capacité de mémoire du serveur à un coût inférieur.Avec la technologie CXL 2.0, Intel fournit également la fonction "Mode de mémoire plat", qui déplace automatiquement les données chaudes et les données chaudes stockées dans la mémoire CXL, équilibrant les performances et la capacité.
Pour les entreprises nécessitant des solutions de stockage à grande échelle (SSD) et des plates-formes qui s'appuient sur les réseaux de livraison de contenu (CDN) pour offrir des expériences vidéo en douceur, la connectivité des E / S est cruciale.De plus, les serveurs AI nécessitent plusieurs connexions GPU, exigeant une évolutivité améliorée d'E / S de la plate-forme.Les processeurs Performance-core Xeon 6700/6500 prennent en charge jusqu'à 136 pistes de PCIe sur une plate-forme à socle, offrant une expandabilité robuste pour répondre aux demandes de connectivité élevée.
Node de tête du centre de données
Dans les systèmes d'IA modernes, les GPU et les CPU jouent des rôles critiques.Les processeurs de nœuds de tête doivent fournir une vitesse d'E / S exceptionnelle, de puissantes performances à thread unique et une bande passante et une capacité de mémoire élevée tout en répondant aux exigences de fiabilité, de disponibilité et de service (RAS) pour le fonctionnement 24/7 dans des systèmes à grande échelle.De plus, un support flexible pour divers facteurs et configurations de formulaire est essentiel pour optimiser l'utilisation de l'espace du centre de données, l'amélioration de l'efficacité de refroidissement et l'adaptation à diverses charges de travail.
En tant que CPU du nœud de tête dans les systèmes AI, le Xeon 6 se marie de manière transparente avec des GPU, fournissant des vitesses d'E / S plus rapides et des performances uniques améliorées pour maximiser le potentiel du GPU.Dans une configuration typique de nœud de tête à double poule, la plate-forme de processeur de performance Xeon 6700 peut offrir jusqu'à 172 cœurs de processeur (344 threads) et dispose de 16 canaux de mémoire à grande vitesse DDR5 (32 emplacements de mémoire) et 176 LANES 5.0 PCIE (qui peuvent être configurés sous forme de CXL 2.0 LANES).
Performance de l'inférence AI puissante
Pour l'inférence AI, les processeurs Xeon 6 exploitent les extensions de matrice avancée Intel (AMX), offrant jusqu'à 1,5x amélioration des performances d'inférence AI1 avec moins de cœurs.Cet avantage les rend très efficaces pour l'apprentissage automatique traditionnel, les petits modèles d'IA génératifs et les charges de travail accélérées par le GPU.Pour les applications d'IA conventionnelles telles que les moteurs de recommandation, les assistants vocaux et la reconnaissance d'image, Xeon 6 offre un support informatique robuste.Même pour les modèles d'IA génératifs avec moins de 20 milliards de paramètres, Xeon 6 continue de démontrer des performances impressionnantes.
De plus, l'inférence de l'IA pour les modèles de petits langues exige non seulement une puissance de calcul élevée pour générer le premier jeton, mais nécessite également une bande passante de mémoire substantielle tout au long du processus d'inférence.Les processeurs Xeon 6 sont le premier de l'industrie à soutenir la technologie MRDIMM, offrant des vitesses de mémoire ultra-élevées allant jusqu'à 8800 mt / s.Avec la technologie MRDIMM, la bande passante est considérablement augmentée, permettant une exécution transparente des petits LLM, des systèmes traditionnels d'apprentissage en profondeur et de recommandation sur la plate-forme Xeon.Cela déverrouille le plein potentiel des processeurs Performance-core Xeon 6.