Hoe Gigabyte en AMD de volgende generatie datacenters mogelijk maken
Gigabyte heeft naast een consumententak ook al zeer lang een bedrijfsonderdeel met apparatuur voor commerciële cq. zakelijke toepassingen. De laatste jaren is dat onderdeel zeer succesvol, waarbij het niveau van servers en workstations allang is ontstegen. De nadruk ligt nu op complete oplossingen, die het in samenwerking met een groot aantal vaste partners - alle klinkende namen in de pro IT, van Schneider Electric tot Vast - produceert. Een van de vaste leveranciers voor processors én AI accelerators is AMD. Op de stand op Computex 2026 had het een compleet modulair datacenter neergezet. Precies zoals het ook levert aan klanten in tal van sectoren.
Gigabyte modulaire datacenters: datacenter in een container
Die datacenters maakt Gigabyte geheel op maat. Het heeft een eigen ontwikkelde toepassing, waarin klanten precies kunnen aangeven wat hun vereisten zijn. Daar rolt dan een blauwdruk uit, die samen met partners wordt gerealiseerd. Een van de mogelijke opties voor de racks in zo'n datacenter is de AMD-gebaseerde G4L3-ZX1-LAT4 server. Inderdaad, waar namen van consumentenproducten zijn niet altijd even duidelijk, maar vergeleken met professioneel spul vallen ze alles mee.
Deze 4U server draait op een AMD EPYC 9005 of 9004 processor, en kan acht vloeistofgekoelde AMD Instinct MI355X videokaarten bevatten. EPYC 9005 is een aanduiding voor de 5e generatie Zen-architectuur chip. Deze is er in varianten 8 rekenkernen op maximaal 4,1 GHz met 64 MB cache en een tdp van 125 watt (EPYC 9015) tot met 192 kernen (!) op maximaal 3,7 GHz, 384 MB cache en 500W tdp (EPYC 9965). De vierde generatie EPYC 9004 is wat bescheidener, en loopt van 16 kernen op 3,7 GHz met 64 MB cache en 200W tdp (EPYC 9124) tot en met 128 kernen op 3,1 GHz met 256 MB cache en 360W tdp.
De AMD Instinct MI355X bevat 16.384 stream processors, 1024 matrix cores en 256 compute units - en 288 GB HDM3E eigen videogeheugen. Voor 4-bit berekeningen kan hij een snelheid van 10,1 petaflops behalen. Voor dit type server zit deze videokaart op een zogeheten OAM, een Open Accelerator Module.
En dat is dus een enkel exemplaar. In een zogeheten DLC Gigapod passen meedere racks, waarvan elk meerdere van deze servers kan bevatten. Potentieel een enorme dichtheid aan rekenkracht, al zal dat per geleverde 'pod' (performance optimized datacenter') variëren. Een rack bevat in de regel ook aparte servers voor opslag, netwerkverbindingen en andere zaken. Bovendien is er doorgaans een bovengrens qua koeling cq. warmteafvoer, al heeft Gigabyte daar ook wat op gevonden - daarover verderop meer.
Naast de G4L3-ZX1-LAT4 introduceert Gigabyte ook de TO46-ZX1-LA04. Deze server is zeer vergelijkbaar gespecificeerd, maar dan opgebouwd als ORv3 (OpenRack v3) systeem. Dit sluit aan bij de specificaties van het Open Compute Project. Dit uit 2011 stammende initiatief, voortkomend uit een project van Facebook in 2009 voor het ontwikkelen van energie-efficiënte datacenters, is een samenwerking van zowel leveranciers als afnemers van cloud compute voor eenvoudig uitwisselbare en onderhoudbare infrastructuur.
Gigabyte en AMD: een uitgebreid assortiment
Buiten de demo-opstelling van de Gigapod zagen we nog veel meer voorbeelden van Gigabyte en AMD hardware. Zoals de imposante Gigabyte G893-ZX1-AAX4, een 8U grote HPC/AI server. Waarom zo groot? Omdat deze ruimte biedt aan niet minder dan acht AMD Instinct MI355X accelerators, aangesloten op een moederbord met twee AMD EPYC 9005 / 9004 processors, die voorzien zijn van 12-kanaals (per cpu) geheugen, verdeeld over in totaal 24 modules. Voor de stroomvoorziening beschikt deze server over niet minder dan 6 redundant uitgevoerde 3000 watt voedingen met zeer hoge efficiëntie (80 Plus Titanium).
Een hele andere, meer compacte benadering van een GPU server is de Gigabyte G294-Z22-AAP2. Deze combineert een enkele AMD EPYC 9005 / 9004 processor met maximaal 8 dual-slot videokaarten. Dat kunnen onder meer de AMD Radeon AI Pro R9700S zijn, die we op Computex zagen bij deze server. MEt ruimte voor twee PCIe Gen 5 m.2 ssd's, vier Gen 5 2,5" ssd's en vier 2,5" sata/sas drives is er ruim voldoende opslag, terwijl twee redundante 3000W 80 Plus Titanium voedingen voor de noodzakelijke stabiliteit zorgen.
Een compleet andere benadering is de Gigabyte W793-ZU0-LA71, een GPU workstation met vloeistofkoeling. In een fors chassis is ruimte voor tot vier watergekoelde AMD Radeon AI Pro R9700S videokaarten, verbonden met een AMD EPYC 9005 / 9004 processor en een forse hoeveelheid opslag. Het systeem beschikt naast uitgebreide snelle netwerkverbindingen ook over drie redundante 2400W-voedingen - die eveneens watergekoeld zijn.
Gigabyte levert zo'n closed loop waterkoeling niet alleen in workstations, maar ook in server units. Bijvoorbeeld in de Gigabyte B353-C60-LAS1. Die stond niet op de stand in Computex, maar de luchtgekoelde versie wel. De Gigabyte B343-C40-AAJ3 is ook een 3U hoge unit, waarin maar liefst 10 servers passen. Deze zogeheten blades bevatten elk een AMD EPYC 4005 of een Ryzen 9000 serie processor, gecombineerd met maximaal 4 geheugenmodules. Elke node heeft twee razendsnelle 25 gigabit netwerkaansluitingen en eigen opslag. De hele unit beschikt over vier 2000W 80 Plus Titanium voedingen om de nodes van stroom te voorzien.
De Gigabyte R143-EG2-AAC2 ten slotte is een 1U rack server - soms oneerbiedig een pizzadoos genaamd - die een zeer hoge dichtheid aan rekenkracht mogelijk maakt. Hij biedt ruimte aan een enkele AMD EPYC 8005 / 8004 processor, bijgestaan door 6-kanaals geheugen, verdeeld over 12 modules. Met 4x 2,5" NVMe en 8x 2,5" sata/sas is er veel ruimte voor snellere en back-up storage, terwijl het dunne chassis alsnog plek biedt aan een 2-slot gpu en een 16-lane pci-e 5.0 netwerkkaart. Voor het voeden van dit alles is een riante 1300W 80 Plus Platinum psu aanwezig.
Voorbij waterkoeling: immersion tanks
Naarmate de dichtheid van compute (rekenkracht) toeneemt, worden de eisen aan koeling hoger. Voor de laatste generatie gpus is waterkoeling al bijkans een verreiste. Niet alleen op serverniveau, maar voor complete racks. Ook deze vorm van koeling heeft echter zijn grenzen. What's next? Het antwoord: immersion tanks. Dit zijn speciale units waarin complete servers ondergedompeld kunnen worden. Het is een concept dat lang geleden al gedemonstreerd werd, maar nu dus zelfs in datacenters wordt toegepast.
Op de stand in Taipei demonstreerde Gigabyte een opstelling met een hele rij aan A1P0-EE0 immersion tanks. Elke tank kan 28U aan servers bevatten en tot 80 kilowatt aan warmte afvoeren. Vergeleken met een rack is de dichtheid een stuk lager, maar in een rack kan je dan weer niet zoveel rekenkracht op elkaar persen. Een immersion tank bevat alle benodigde aansluitingen voor stroom en netwerk, en functioneert als één geheel. Het is een tamelijk onwerkelijke verschijning om in het echt te zien. De koelvloeistof is overigens een niet nader geduide substantie, maar de leverancier laat al zien dat het een vorm van olie is.