Китай продовжує купувати погані карти Nvidia для навчання своїх моделей ШІ

Минулого року США діяли агресивно, щоб обмежити можливості Китаю розробляти штучний інтелект для військових цілей, заблокувавши продаж найдосконаліших американських чіпів, які використовуються для навчання систем ШІ.

Великий прогрес у мікросхемах, які використовуються для розробки генеративного штучного інтелекту, означав, що новітні американські технології, які продаються в Китаї, є потужнішими, ніж будь-які раніше доступні. Це незважаючи на той факт, що чіпи були навмисно обмежені для китайського ринку, щоб обмежити їхні можливості, роблячи їх менш ефективними, ніж продукти, доступні в інших країнах світу.

Результатом стало стрімке зростання китайських замовлень на новітні передові американські процесори. Провідні інтернет-компанії Китаю розмістили замовлення на чіпи на 5 мільярдів доларів у Nvidia, чиї графічні процесори стали робочою конячкою для навчання великих моделей ШІ.

Вплив стрімкого зростання глобального попиту на продукцію Nvidia, ймовірно, стане основою фінансових результатів виробника мікросхем за другий квартал, які мають бути оголошені в середу.

Окрім відображення попиту на вдосконалені мікросхеми для навчання останніх великих мовних моделей Інтернет-компаній, ажіотаж також був викликаний занепокоєнням, що США можуть ще більше посилити контроль за експортом, у результаті чого навіть ці обмежені продукти будуть недоступні в майбутньому.

Проте Білл Деллі, головний науковий співробітник Nvidia, припустив, що експортний контроль США матиме більший вплив у майбутньому.

«Оскільки вимоги до навчання [для найдосконаліших систем ШІ] продовжують подвоюватись кожні шість-12 місяців», розрив між чіпами, які продаються в Китаї, та тими, що доступні в решті світу, «швидко зростатиме», – сказав він.

Обмеження швидкості обробки

Минулорічний експортний контроль США щодо чіпів був частиною пакету, який включав заборону китайським клієнтам купувати обладнання, необхідне для виробництва передових чіпів.

Вашингтон встановив максимальну швидкість обробки чіпів, які можна було б продавати в Китаї, а також швидкість, з якою чіпи можуть передавати дані, що є критичним фактором, коли мова йде про навчання великих моделей штучного інтелекту, роботи з інтенсивним об’ємом даних, яка вимагає з’єднання великої кількості мікросхем разом.

Nvidia відповіла зниженням швидкості передачі даних на своїх процесорах A100, на той час її топових графічних процесорах, створивши новий продукт для Китаю під назвою A800, який задовольняв експортний контроль.

Цього року він обмежив передачу даних на своєму H100, новому та набагато потужнішому процесорі, який був спеціально розроблений для навчання великих мовних моделей, створивши версію під назвою H800 для китайського ринку.

Виробник мікросхем не розкриває технічні можливості процесорів, виготовлених для Китаю, але виробники комп’ютерів відкрито говорять про деталі. Lenovo, наприклад, рекламує сервери, що містять мікросхеми H800, які, за її словами, у всіх відношеннях ідентичні H100, які продаються в інших країнах світу, за винятком того, що вони мають швидкість передачі лише 400 гігабайт на секунду.

Це нижче обмеження в 600 ГБ/с, встановленого США для експорту мікросхем до Китаю. Для порівняння, Nvidia заявила, що її H100, який вона почала поставляти клієнтам на початку цього року, має швидкість передачі 900 ГБ/с.

Нижча швидкість передачі в Китаї означає, що тамтешні користувачі чіпів стикаються з більш тривалою підготовкою до своїх систем штучного інтелекту, ніж клієнти Nvidia в інших країнах світу — важливе обмеження, оскільки моделі зросли в розмірах.

Довший час навчання збільшує витрати, оскільки чіпи потребуватимуть більше енергії, що є однією з найбільших витрат для великих моделей.

Однак, навіть з урахуванням цих обмежень, чіпи H800, які продаються в Китаї, є потужнішими, ніж будь-які інші доступні до цього року, що призводить до величезного попиту.

Чіпи H800 у п’ять разів швидші за чіпи A100, які були найпотужнішими графічним процесором Nvidia, за словами Патріка Мурхеда, американського аналітика мікросхем Moor Insights & Strategy.

Це означає, що китайські інтернет-компанії, які навчали свої моделі штучного інтелекту за допомогою передових чіпів, придбаних до експортного контролю США, все ще можуть очікувати значних покращень, купуючи новітні напівпровідники, сказав він.

«Схоже, що уряд США хоче не припинити роботу штучного інтелекту в Китаї, а лише ускладнити її», — сказав Мурхед.

Витрати-вигоди

Багато китайських технологічних компаній все ще перебувають на етапі попереднього навчання великих мовних моделей, що споживає велику продуктивність окремих графічних процесорів і вимагає високого рівня можливостей передачі даних.

Тільки чіпи Nvidia можуть забезпечити ефективність, необхідну для попереднього навчання, кажуть китайські інженери ШІ. Продуктивність окремого чіпа серії 800, незважаючи на низьку швидкість передачі даних, все ще випереджає інші на ринку.

«Графічні процесори Nvidia можуть здатися дорогими, але насправді є найбільш економічно ефективним варіантом», — сказав один інженер зі штучного інтелекту в провідній китайській інтернет-компанії.

Інші постачальники графічних процесорів вказували нижчі ціни з більш своєчасним обслуговуванням, сказав інженер, але компанія вирішила, що витрати на навчання та розробку зростуть і це матиме додатковий тягар невизначеності.

Пропозиція Nvidia включає екосистему програмного забезпечення з її обчислювальною платформою Compute Unified Device Architecture або Cuda, яку вона створила в 2006 році і яка стала частиною інфраструктури ШІ.

Галузеві аналітики вважають, що китайські компанії незабаром можуть зіткнутися з обмеженнями швидкості з’єднань між чіпами 800-ї серії. Це може перешкодити їхній здатності справлятися зі зростаючим обсягом даних, необхідних для навчання штучному інтелекту, і вони будуть перешкоджати, коли вони глибше заглиблюються в дослідження та розробку великих мовних моделей.

Чарлі Чай, шанхайський аналітик 86Research, порівняв ситуацію з будівництвом багатьох заводів із перевантаженими автомагістралями між ними. Навіть компанії, які можуть використовувати ослаблені чіпи, можуть зіткнутися з проблемами протягом наступних двох-трьох років, додав він.

© 2023 The Financial Times Ltd. Усі права захищено. Будь ласка, не копіюйте та не вставляйте статті FT і не розповсюджуйте їх електронною поштою чи публікацією в Інтернеті.