Nvidia chce zrychlit datové přenosy připojením GPU datacenter k SSD 

Tento týden Microsoft představil DirectStorage pro Windows PC. API slibuje rychlejší načítání a detailnější grafiku, což umožňuje vývojářům her vytvářet aplikace, které načítají grafická data z SSD přímo do GPU. Nvidia a IBM nyní vytvořily podobnou technologii SSD/GPU, ale jsou zaměřeny na řešení masivních datových sad v datových centrech.

Namísto zaměření na konzolové nebo počítačové hry, jako je DirectStorage, je Big Accelerator Memory (BaM) navržena tak, aby datovým centrům poskytla rychlý přístup k obrovskému množství dat v aplikacích náročných na GPU, jako je školení strojového učení, analýzy a vysoce výkonné výpočty. na výzkumný článek, který tento týden objevil The Register . Dokument nazvaný „BaM: Případ pro poskytování jemně zrnitého, širokopásmového a GPU řízeného přístupu k úložišti“ ( PDF ), výzkumníků z Nvidie, IBM a několika amerických univerzit, nabízí efektivnější způsob, jak provozovat aplikace nové generace v datová centra s masivním výpočetním výkonem a šířkou pásma paměti.

BaM se také liší od DirectStorage v tom, že architekti systému plánují, že bude open source.

Článek uvádí, že zatímco CPU-řízený přístup k datům úložiště je vhodný pro „klasické“ GPU aplikace, jako je trénování husté neuronové sítě s „předdefinovanými, pravidelnými, hustými“ vzory přístupu k datům, přináší příliš mnoho „režie“. na synchronizaci CPU-GPU a/nebo zesílení I/O provozu.“ Díky tomu je méně vhodný pro aplikace nové generace, které používají grafovou a datovou analýzu, doporučovací systémy, grafové neuronové sítě a další „jemně zrnité vzory přístupu závislé na datech,“ píší autoři.

Stejně jako DirectStorage funguje BaM společně s NVMe SSD. Podle dokumentu BaM „snižuje zesílení I/O provozu tím, že umožňuje vláknům GPU číst nebo zapisovat malá množství počítačově určených dat na vyžádání“.

Konkrétně BaM využívá integrovanou paměť GPU, což je softwarově řízená mezipaměť, a také knihovnu softwarových vláken GPU. Vlákna přijímají data z SSD a přesouvají je pomocí vlastního ovladače linuxového jádra. Výzkumníci testovali prototyp systému s 40GB Nvidia A100 PCIe GPU, dvěma procesory AMD EPYC 7702 se 64 jádry a 1TB paměti DDR4-3200. Systém běží na Ubuntu 20.04 LTS.

Autoři poznamenali, že dokonce i „spotřebitelské“ SSD může podporovat BaM s výkonem aplikace, který „konkuruje mnohem dražšímu řešení pouze s DRAM“.