Nvidia dringt door in het datacenter – embedded / hardware – elektronisch netwerk
Met BlueField 3 levert Nvidia een chip die niet alleen AI versnelt, maar ook de datacenterinfrastructuur een boost geeft.
Terwijl de Jetson-microborden de modules zijn die de AI-taken in het uiteindelijke apparaat berekenen, is BlueField de peer en zorgt ervoor dat kunstmatige neurale netwerktraining wordt versneld in datacenters. Op zijn GTC 21-technologieconferentie kondigde Nvidia BlueField-3 aan, een gegevensverwerkingseenheid (DPU) die versnellingsfuncties biedt, niet alleen voor kunstmatige intelligentie, maar ook voor netwerk-, opslag- en cyberbeveiligingstaken in datacenters.
Datacenters in de cloud zijn volledig virtueel. Op een platform met enorme rekenkracht, netwerkconnectiviteit en opslagruimte krijgt elke gebruiker zijn aandeel: of het nu gaat om een virtuele machine, netwerkbandbreedte, softwarediensten of geheugen voor het opslaan van gegevens. De acceleratormodules van BlueField-DPU zorgen voor infrastructuur, zoals netwerkbeheer, scheiding van verschillende gebruikersdomeinen, verkeersscannen voor beveiliging, IPsec-codering en nog veel meer. De daadwerkelijke toepassingen worden nog steeds afgehandeld door “traditionele” verwerkers die nu hun zaken kunnen afhandelen, vrijgesteld van alle administratieve taken. BlueField-3 maakt dus een scheiding tussen datacenterinfrastructuur en bedrijfstoepassingen. Wat het laatste betreft, BlueField-3 heeft 16 Arm-A78-processors aan boord. Dankzij de accelerator zou de DPU volgens Nvidia echter prestaties moeten hebben die overeenkomen met het equivalent van ongeveer 300 Xeons in het middenbereik.
Huur $ 9000 per maand
Er is weinig bekend over Nvidia als leverancier van niet alleen componenten of grafische kaarten en computerborden, maar ook van complete systemen. In het geval van BlueField biedt Nvidia apparaten in verschillende uitbreidingsfasen, van het DGX Station, dat fungeert als werkstation voor teams, tot de DGX-server, tot de “DGX Superpod”, een kant-en-klare infrastructuur voor data centra. Omdat de investeringen in deze apparaten hoog zijn, heeft Nvidia ook een huurmodel geïntroduceerd in GTC: je kunt een DGX-werkstation huren voor $ 9.000 per maand.
© Nvidia
BlueField-3 biedt ook Nvidia volledig geïntegreerd in volledige DGX-systemen, van het werkstation (voorkant) tot de “pod”, die uit drie servers bestaat, tot de “superpod” voor datacenters.
“De moderne, hyper-scale cloud vereist fundamenteel een nieuwe architectuur voor een datacenter. Er is een nieuw type processor nodig dat is ontworpen voor datacenterinfrastructuursoftware om de enorme computerbelasting van virtualisatie, netwerk, opslag, beveiliging en andere diensten, “zei Jensen Huang, oprichter en CEO van Nvidia. Van de oorspronkelijke kunstmatige-intelligentiediensten.”
Software-ondersteuning voor “on-chip datacenter”
Naast de hardware heeft Nvidia ook softwareframeworks die kunnen worden gebruikt om de hardware te laten werken. Nvidia biedt een softwareontwikkelingskit voor BlueField genaamd DOCA, wat staat voor “datacenter op chip”. “Wat is CUDA voor GPU’s, DOCA is voor DPU’s”, zo vat de verantwoordelijke productmanager de functie van DOCA in een notendop samen. Het omvat een runtime-omgeving voor het bouwen, vertalen en optimaliseren van BlueField DPU-applicaties, coördinatietools om duizenden DPU’s in het datacenter te implementeren, bij te werken en te bewaken, evenals bibliotheken, API’s en een groeiend aantal applicaties zoals deep packet scanning en load balanceren.
Mogelijk bent u ook geïnteresseerd in
Gerelateerde artikelen
NVIDIA Corporation
“Coffee fanatic. Gamer. Award-winning zombie aficionado. College student. Hardcore internet proponent. Twitter guru. Subtly charming bacon nerd. Thinker.”