Waarom is Nvidia’s Turing een sprong voorwaarts?

Om het samen te vatten: Nvidia breidt met de Turing architectuur de accelerator uit met nieuwe typen – purpose-built – verwerkingseenheden, zoals de RTX cores en de Tensor cores. De RTX cores voegen vooral kracht toe in rendering applicaties, de Tensor cores voegen specifieke vaardigheden toe voor inferring.

Dubbel

In het toepassen van GPU-accelerated workstation virtualisatie is de praktijk dat een GPU, zoals de Tesla T4, wordt verdeeld onder de vSphere VMs middels een profiel. Ten opzichte van de populaire Nvidia Tesla P4, is de T4 voorzien van de dubbele hoeveelheid frame buffer geheugen: 16 GB. Die bovendien als GDDR6 is uitgevoerd ± razendsnel. Ideaal voor die applicaties die sprongen vooruit maken als ze meer en sneller frame buffer kunnen benutten.

Effect

Dat in technologische zin de Nvidia Turing architectuur een sprong voorwaarts is, lijdt geen twijfel, maar wat heeft u eraan? In het geval van Virtual Workstations , afhankelijk van de applicatie, meer tot significant meer performance. Onderstaande grafiek geeft enig inzicht.

Meer

Het vreemde is dat deze manier om de Nvidia T4 te beoordelen de innovatie niet helemaal recht doet. vDWS gebruikers blijken met een T4 hun Inference workloads 25x sneller te kunnen draaien dan als ze die workload op standaard CPU kracht draaien.

In het geval van VDI, oftewel virtual desktops, voor de knowledge workers onder ons, is het antwoord simpel: meer.

Meer gebruikers kunnen gebruik maken van de Nvidia T4 en daarmee is de T4 ondanks zijn lagere stroomverbruik een wederom efficiëntere oplossing voor gebruikers die meer verwerkingskracht moeiteloos omzetten in meer productiviteit.

Het VDI perspectief

Knowledge workers voorzien van een krachtige virtual desktop vraagt om een NVIDIA.

Vergelijken we Tesla T4 met de in deze hoek populaire Tesla M10, dan zijn de stappen significant. De Tesla T4 past namelijk in een single-wide PCI Express slot en neemt genoegen met 70 watt. Daar krijg je 2560 CUDA cores en 16 GB GDDR6 memory voor. Twee Tesla T4 accelerators in een ProLiant DL380 Gen10 brengt 5120 CUDA cores en 32 GB. De Tesla M10 is twee PCI Express sloten dik en lust een schrikbarende 225watt, met alle gevolgen van dien. Met 2560 CUDA cores en 32 GB geheugen als resultaat.

De twee Tesla T4’s geven ook nog eens de flexibiliteit om verschillende kracht uit te rollen naar verschillende gebruikers. Kortom: minder stroom, minder koeling, veel meer power.

Tegen een betere prijs.