Nvidia хоче прискорити передачу даних, підключивши графічні процесори центру обробки даних до SSD 

Цього тижня Microsoft представила DirectStorage для ПК з Windows. API обіцяє швидший час завантаження та більш детальну графіку, дозволяючи розробникам ігор створювати програми, які завантажують графічні дані з SSD безпосередньо на GPU. Тепер Nvidia та IBM створили подібну технологію SSD/GPU, але вони націлені на роботу з масивними наборами даних у центрах обробки даних.

Замість того, щоб зосереджуватися на консольних або комп’ютерних іграх, таких як DirectStorage, Big Accelerator Memory (BaM) розроблено, щоб надати центрам обробки даних швидкий доступ до величезних обсягів даних у програмах із інтенсивним використанням GPU, таких як навчання машинного навчання, аналітика та високопродуктивні обчислення. на дослідницьку статтю, виявлену The Register цього тижня. Дослідники з Nvidia, IBM і кількох американських університетів пропонують більш ефективний спосіб запуску додатків наступного покоління в документі під назвою «BaM: The case for provide fine-grained, high-bandwidness, GPU-driven access» (PDF) . центри обробки даних із величезною обчислювальною потужністю та пропускною здатністю пам’яті.

BaM також відрізняється від DirectStorage тим, що архітектори системи планують зробити його відкритим кодом.

У документі стверджується, що хоча доступ до сховищ, керований центральним процесором, підходить для «класичних» програм GPU, таких як навчання щільної нейронної мережі з «попередньо визначеними, звичайними, щільними» шаблонами доступу до даних, він несе занадто багато «накладних витрат». для синхронізації CPU-GPU та/або посилення трафіку введення-виведення». Це робить його менш придатним для додатків наступного покоління, які використовують графіки та аналітику даних, системи рекомендацій, графові нейронні мережі та інші «точні шаблони доступу, що залежать від даних», пишуть автори.

Як і DirectStorage, BaM працює разом із NVMe SSD. Згідно з документом, BaM «зменшує збільшення трафіку вводу-виводу, дозволяючи потокам графічного процесора читати або записувати невеликі обсяги даних, визначених комп’ютером, на вимогу».

Зокрема, BaM використовує вбудовану пам’ять GPU, яка є кеш-пам’яттю, керованою програмним забезпеченням, а також бібліотеку програмних потоків GPU. Потоки отримують дані з SSD і переміщують їх за допомогою спеціального драйвера ядра Linux. Дослідники протестували прототип системи з графічним процесором Nvidia A100 PCIe на 40 ГБ, двома процесорами AMD EPYC 7702 з 64 ядрами кожен і 1 ТБ пам’яті DDR4-3200. Система працює під управлінням Ubuntu 20.04 LTS.

Автори відзначили, що навіть твердотільний накопичувач «споживчого класу» може підтримувати BaM із продуктивністю додатків, яка «конкурентоспроможна з набагато дорожчим рішенням лише з DRAM».