Nvidia vēlas paātrināt datu pārsūtīšanu, savienojot datu centra GPU ar SSD 

Šonedēļ Microsoft iepazīstināja ar DirectStorage Windows datoriem. API sola ātrāku ielādes laiku un detalizētāku grafiku, ļaujot spēļu izstrādātājiem izveidot lietojumprogrammas, kas ielādē grafikas datus no SSD tieši uz GPU. Tagad Nvidia un IBM ir izveidojuši līdzīgu SSD/GPU tehnoloģiju, taču to mērķis ir apstrādāt lielas datu kopas datu centros.

Tā vietā, lai koncentrētos uz konsoļu vai datoru spēlēm, piemēram, DirectStorage, Big Accelerator Memory (BaM) ir izstrādāta, lai nodrošinātu datu centriem ātru piekļuvi milzīgam datu apjomam GPU intensīvās lietojumprogrammās, piemēram, mašīnmācības apmācībā, analīzē un augstas veiktspējas skaitļošanā. uz pētniecības darbu, ko The Register atklāja šonedēļ. Nvidia, IBM un vairāku ASV universitāšu pētnieki piedāvā efektīvāku veidu, kā palaist nākamās paaudzes lietojumprogrammas . datu centri ar milzīgu apstrādes jaudu un atmiņas joslas platumu.

BaM arī atšķiras no DirectStorage ar to, ka sistēmas arhitekti plāno to padarīt atvērtā koda avotu.

Rakstā teikts, ka, lai gan CPU vadīta piekļuve datu uzglabāšanai ir piemērota “klasiskām” GPU lietojumprogrammām, piemēram, blīvu neironu tīklu apmācībai ar “iepriekš definētiem, regulāriem, blīviem” datu piekļuves modeļiem, tā rada pārāk daudz “pieskaitāmās izmaksas”. CPU-GPU sinhronizācijai un/vai I/O trafika pastiprināšanai. Tas padara to mazāk piemērotu nākamās paaudzes lietojumprogrammām, kas izmanto grafiku un datu analīzi, ieteikumu sistēmas, grafu neironu tīklus un citus “smalki graudainus datu atkarīgus piekļuves modeļus”, raksta autori.

Tāpat kā DirectStorage, BaM darbojas kopā ar NVMe SSD. Saskaņā ar dokumentu BaM “samazina I/O trafika pastiprinājumu, ļaujot GPU pavedieniem pēc pieprasījuma lasīt vai rakstīt nelielu daudzumu datora noteiktu datu.”

Konkrēti, BaM izmanto GPU iebūvēto atmiņu, kas ir programmatūras kontrolēta kešatmiņa, kā arī GPU programmatūras pavedienu bibliotēka. Pavedieni saņem datus no SSD un pārvieto tos, izmantojot pielāgotu Linux kodola draiveri. Pētnieki pārbaudīja sistēmas prototipu ar 40 GB Nvidia A100 PCIe GPU, diviem AMD EPYC 7702 procesoriem ar 64 kodoliem katrā un 1 TB DDR4-3200 atmiņu. Sistēmā darbojas Ubuntu 20.04 LTS.

Autori atzīmēja, ka pat “patērētāju klases” SSD var atbalstīt BaM ar lietojumprogrammu veiktspēju, kas ir “konkurētspējīga ar daudz dārgāku tikai DRAM risinājumu”.