Met de NF5488LA5 introduceert Inspur een vloeistofgekoelde AI-server die topprestaties behaalt met acht Nvidia A100 GPU’s. Daarnaast lanceert de fabrikant drie luchtgekoelde servers die kunnen worden uitgerust met de nieuwste A100 PCIe-kaarten.
De NF5488LA5 AI-server van Inspur is naar verluidt krachtig en toch energiezuinig. De 4U-computer is ontworpen voor AI-training of HPC-toepassingen en maakt gebruik van vloeistofkoeling voor de acht Nvidia-A100 GPU’s en zes NVSwitches op het HGX-A100-bord, evenals de twee AMD-Epyc-processoren uit de 7003-serie (Milan) met maximaal 64 kernen per CPU. Voor het hoofdgeheugen wordt een maximum van 4 TB DDR4-2933 ondersteund. In het koellichaam op de GPU’s en de NVSwitches zorgen vier parallelle watercircuits voor een snelle warmteafvoer. Volgens Inspur zijn de prestaties van de NF5488LA5 daarmee hoger dan die van een luchtgekoeld systeem met een tegelijkertijd zeer hoge Power Usage Effectiveness (PUE) van 1,1. Dit betekent dat slechts tien procent van de gebruikte energie niet wordt gebruikt voor de rekenprestaties. Voor gebruik in het datacentrum is niet noodzakelijk een bestaande infrastructuur voor waterkoeling vereist. Met de RACKCDU-F008 biedt de fabrikant een mobiele koelunit die kan worden geïnstalleerd in serverracks die zijn ontworpen voor luchtkoeling. Meerdere koelunits kunnen worden gestapeld om de koelcapaciteit voor meerdere servers te vergroten.
KI-servers voor PCIe-kaarten
Naast de NF5488LA5 lanceert Inspur ook drie luchtgekoelde servers voor AI- of HPC-workloads. Ze zijn ontworpen voor gebruik met PCI Express 4.0 kaarten. De NF5468A5 is eveneens een 4U-server met twee AMD-Epyc-7003 CPU’s die plaats bieden aan maximaal acht Nvidia A100-, A40- of A30-kaarten. De nieuwe A100 modellen met 80 GB geheugen zijn reeds beschikbaar, die met hun vijf HBM2e stacks een geheugenbandbreedte creëren van bijna twee TB/s. Als alternatief kunnen Instinct MI100 kaarten van AMD worden besteld. De NF5468M6 4U-server is gebaseerd op Intels derde generatie Xeon schaalbare processoren (Ice Lake SP) met maximaal 40 cores. De server met vier hoogte-eenheden is beschikbaar met dezelfde kaarten als de NF5468A5. Er is ook een variant met 16 Nvidia A10 single-slot kaarten.