Nvidia soovib andmeedastust kiirendada, ühendades andmekeskuse GPU-d SSD-dega 

Sel nädalal tutvustas Microsoft Windowsi arvutitele mõeldud DirectStorage’i. API lubab kiiremat laadimisaega ja üksikasjalikumat graafikat, võimaldades mänguarendajatel luua rakendusi, mis laadivad graafikaandmeid SSD-lt otse GPU-sse. Nüüd on Nvidia ja IBM loonud sarnase SSD/GPU-tehnoloogia, kuid nende eesmärk on käsitleda andmekeskustes tohutuid andmekogumeid.

Selle asemel, et keskenduda konsooli- või arvutimängudele, nagu DirectStorage, on Big Accelerator Memory (BaM) loodud selleks, et anda andmekeskustele kiire juurdepääs tohututele andmehulkadele GPU-mahukates rakendustes, nagu masinõppe koolitus, analüütika ja suure jõudlusega andmetöötlus. uurimistööle, mille The Register sel nädalal avastas. Nvidia, IBM-i ja mitme USA ülikooli teadlaste raamat pealkirjaga „BaM: peeneteralise, suure ribalaiusega, GPU-põhise salvestusruumi juurdepääsu tagamise juhtum” (PDF ) pakub tõhusamat viisi järgmise põlvkonna rakenduste käitamiseks. tohutu töötlemisvõimsuse ja mälu ribalaiusega andmekeskused.

BaM erineb DirectStorage’ist ka selle poolest, et süsteemiarhitektid kavatsevad selle muuta avatud lähtekoodiga.

Dokumendis öeldakse, et kuigi CPU-põhine juurdepääs salvestusandmetele sobib “klassikaliste” GPU-rakenduste jaoks, nagu näiteks tiheda närvivõrgu koolitus koos “eelmääratletud, korrapäraste ja tihedate” andmete juurdepääsu mustritega, tekitab see liiga palju “üldikulusid”. CPU-GPU sünkroonimiseks ja/või I/O-liikluse võimendamiseks. Autorid kirjutavad, et see muudab selle vähem sobivaks järgmise põlvkonna rakendustele, mis kasutavad graafiku- ja andmeanalüütikat, soovitussüsteeme, graafiku närvivõrke ja muid “peeneteralisi andmepõhiseid juurdepääsumustreid”.

Nagu DirectStorage, töötab BaM koos NVMe SSD-ga. Dokumendi kohaselt “vähendab BaM I/O liikluse võimendamist, võimaldades GPU lõimedel lugeda või kirjutada nõudmisel väikeses koguses arvutiga määratud andmeid.”

Täpsemalt kasutab BaM GPU sisemälu, mis on tarkvaraga juhitav vahemälu, ja GPU tarkvaralõimede teeki. Lõimed saavad andmeid SSD-lt ja liigutavad neid kohandatud Linuxi kerneli draiveri abil. Teadlased testisid prototüüpsüsteemi, millel oli 40 GB Nvidia A100 PCIe GPU, kaks AMD EPYC 7702 protsessorit 64 tuumaga ja 1 TB DDR4-3200 mälu. Süsteemis töötab Ubuntu 20.04 LTS.

Autorid märkisid, et isegi “tarbijaklassi” SSD suudab toetada BaM-i rakenduse jõudlusega, mis on “konkurentsivõimeline palju kallima ainult DRAM-i lahendusega”.