Nvidia haluaa nopeuttaa tiedonsiirtoa yhdistämällä datakeskuksen GPU:t SSD-levyihin 

Tällä viikolla Microsoft esitteli DirectStoragen Windows-tietokoneille. API lupaa nopeammat latausajat ja yksityiskohtaisemman grafiikan, minkä ansiosta pelien kehittäjät voivat luoda sovelluksia, jotka lataavat grafiikkatietoja SSD-levyltä suoraan GPU:lle. Nyt Nvidia ja IBM ovat luoneet samanlaisen SSD/GPU-tekniikan, mutta niiden tarkoituksena on käsitellä valtavia tietojoukkoja palvelinkeskuksissa.

Sen sijaan, että keskittyisi konsoli- tai PC-peleihin, kuten DirectStorage, Big Accelerator Memory (BaM) on suunniteltu antamaan datakeskuksille nopea pääsy valtaviin tietomääriin grafiikkasuoritteita vaativissa sovelluksissa, kuten koneoppimiskoulutuksessa, analytiikan ja korkean suorituskyvyn tietojenkäsittelyssä. The Registerin tällä viikolla löytämään tutkimuspaperiin . Nvidian, IBM:n ja useiden yhdysvaltalaisten yliopistojen tutkijat käsittelevät Nvidian, IBM:n ja useiden yhdysvaltalaisten yliopistojen tutkijoita BaM : Tarkoituksena tarjota hienojakoisia, suuren kaistanleveyden, GPU-ohjattuja tallennusmahdollisuuksia, ja tarjoaa tehokkaamman tavan käyttää seuraavan sukupolven sovelluksia tietokeskuksia, joissa on valtava prosessointiteho ja muistin kaistanleveys.

BaM eroaa DirectStoragesta myös siinä, että järjestelmäarkkitehdit aikovat tehdä siitä avoimen lähdekoodin.

Paperissa todetaan, että vaikka CPU-ohjattu tallennustietojen käyttö sopii ”klassisille” GPU-sovelluksille, kuten tiheän hermoverkkokoulutukselle ”ennalta määritetyillä, säännöllisillä, tiheillä” tiedonsaantimalleilla, siitä aiheutuu liikaa ”ylikustannuksia”. CPU-GPU-synkronointiin ja/tai I/O-liikenteen vahvistamiseen.” Tämä tekee siitä vähemmän sopivan seuraavan sukupolven sovelluksille, jotka käyttävät graafi- ja dataanalytiikkaa, suosittelujärjestelmiä, graafin hermoverkkoja ja muita ”hienorakeisia tiedoista riippuvia pääsymalleja”, kirjoittajat kirjoittavat.

Kuten DirectStorage, BaM toimii NVMe SSD:n rinnalla. Asiakirjan mukaan BaM ”vähentää I/O-liikenteen vahvistusta sallimalla GPU-säikeiden lukea tai kirjoittaa pieniä määriä tietokoneella määritettyä dataa pyynnöstä”.

Tarkemmin sanottuna BaM käyttää GPU:n sisäistä muistia, joka on ohjelmistoohjattu välimuisti, sekä GPU:n ohjelmistosäiekirjastoa. Säikeet vastaanottavat tietoja SSD-levyltä ja siirtävät sitä mukautetun Linux-ytimen ajurin avulla. Tutkijat testasivat prototyyppijärjestelmää, jossa oli 40 Gt:n Nvidia A100 PCIe GPU, kaksi AMD EPYC 7702 -prosessoria, joissa kummassakin oli 64 ydintä, ja 1 Tt DDR4-3200-muistia. Järjestelmässä on Ubuntu 20.04 LTS.

Kirjoittajat huomauttivat, että jopa ”kuluttajatason” SSD voi tukea BaM:ää sovelluksen suorituskyvyllä, joka on ”kilpaileva paljon kalliimman vain DRAM-ratkaisun kanssa”.