Netflix omarmt in zijn zoektocht naar alsmaar meer bandbreedte de Epyc-servers van AMD. Na uitgebreide tests leverden die veruit de beste prestaties vergeleken met Intel en zelfs een ARM-alternatief.
Videospecialist Netflix wil zoveel mogelijk bandbreedte uit zijn servers halen. Sinds 2020 levert een enkele server al 200 Gbps aan TLS-versleutelde video maar de streamingspecialist mikt op een verdubbeling. Tijdens de EuroBSD 2021-conferentie geeft Netflix aan die hogere prestaties bereikt te hebben.
De hardware van dienst wordt aangedreven door een 32 core AMD Epyc 7502P, gebaseerd op Zen 2. De chip heeft een basiskloksnelheid van 2,5 GHz en 128 PCIe 4.0-lanes. Netflix combineert de chip met 256 GB aan DDR4-3200-geheugen. De PCIe-lanes ondersteunen een doorvoersnelheid van 2 Tbps en met het geheugen haalt de server een maximum van 1,2 Tbps.
De opslag is afkomstig van 18 WSN720 NVMe-SSD’s met ieder een capaciteit van 2 TB. Verder stopt Netflix twee Nvidia Mellanox ConnectX-6 Dx-netwerkadapters in het systeem. Ondanks de hoge capaciteit van de individuele componenten haalde het bedrijf maar 240 Gbps uit het systeem omwille van beperkingen met het geheugen.
optimalisatie
Netflix probeerde de verwerking van videostreams te optimaliseren en zette de Mellanox ConnectX-6 Dx in op de TLS-versleuteling voor zijn rekening te nemen. Die konden ieders 190 Gbps verwerken, goed voor 380 Gbps in totaal. Omdat de TLS-encryptie niet meer langs de cpu loopt, wordt ook de gebruikte geheugenbandbreedte gehalveerd. Met een geoptimaliseerde geheugenconfiguratie kon het systeem zo 380 Gbps verwerken: bijna het uiteindelijke doel van 400 Gbps.
Optimaal gebruik van de netwerkkaarten van Nvidia, geheugenoptimalisatie en softwaretweaks maken die prestaties mogelijk. Het valt op dat Intel op dit vlak niet competitief was. Netflix probeerde een gelijkaardig resultaat te halen met een systeem gebouwd rond een op Ice Lake-SP gebaseerde Intel Xeon 8352V, met teleurstellend resultaat. Het Intel-systeem piekte rond 230 Gbps, onder andere omwille van problemen met de PCIe-configuratie.
Netflix keek ook naar de Altra-processor van Ampere. Opnieuw schoot de PCIe-configuratie tekort. Met een doorvoersnelheid van 320 Gbps deed de ARM-gebaseerde Altra-chip het wel beter dan de processor van Intel.
Zichtbaar succes voor AMD
Netflix werkt momenteel al aan een serverprototype dat de bandbreedte nog moet verdubbelen. We zijn benieuwd of AMD ook daarin een centrale rol speelt. Het valt op dat AMD-chips de laatste tijd de voorkeur genieten boven exemplaren van Intel. Zo liet Cloudflare vorig jaar al weten dat het AMD verkiest boven Intel voor zijn servers. Dit jaar hamerde dat bedrijf nog op de onaantrekkelijke prestatie per watt-verhouding van Intel Xeon.