Uw huidige pc heeft waarschijnlijk geen AI-processor, maar uw volgende misschien wel

Toen het vorige maand de nieuwe Copilot-sleutel voor pc-toetsenborden aankondigde , riep Microsoft 2024 uit tot ‘het jaar van de AI-pc’. Op één niveau is dit slechts een ambitieuze PR-vriendelijke proclamatie, bedoeld om investeerders te laten zien dat Microsoft van plan is om de AI-hypecyclus waardoor het met Apple concurreert om de titel van meest waardevolle beursgenoteerde onderneming .

Maar op technisch niveau is het waar dat pc’s die in 2024 en daarna worden gemaakt en verkocht over het algemeen over AI- en machine learning-verwerkingsmogelijkheden zullen beschikken die oudere pc’s niet hebben. Het belangrijkste is de neurale verwerkingseenheid (NPU), een gespecialiseerd blok op recente high-end Intel- en AMD-CPU’s die sommige soorten generatieve AI- en machine-learning-workloads sneller kunnen versnellen (of terwijl ze minder stroom verbruiken) dan de CPU of GPU zou kunnen.

De Windows-pc’s van Qualcomm waren enkele van de eersten die een NPU bevatten, aangezien de Arm-processors die in de meeste smartphones worden gebruikt al een paar jaar een soort machine-learning-versnelling bieden (de chips uit de M-serie van Apple voor Macs hebben ze allemaal ook. helemaal terug naar de M1 van 2020). Maar de Arm-versie van Windows is een onbeduidend klein stukje van de hele pc-markt; x86-pc’s met Intel’s Core Ultra-chips, AMD’s Ryzen 7040/8040-serie laptop-CPU’s of de Ryzen 8000G desktop-CPU’s zullen voor veel reguliere pc-gebruikers de eerste kennismaking zijn met dit soort hardware.

Op dit moment kan Windows deze, zelfs als er een NPU in zit, niet veel gebruiken, afgezien van vervaging van de webcam-achtergrond en een handvol andere video-effecten. Maar dat gaat langzaam veranderen, en een deel daarvan zal het voor ontwikkelaars relatief eenvoudig maken om NPU-onafhankelijke apps te maken op dezelfde manier waarop pc-game-ontwikkelaars momenteel GPU-onafhankelijke games maken.

Het spelvoorbeeld is leerzaam, want dat is feitelijk hoe Microsoft DirectML benadert, de API voor machinaal leren. Hoewel het tot nu toe vooral werd gebruikt om deze AI-workloads op GPU’s uit te voeren, kondigde Microsoft vorige week aan dat het DirectML-ondersteuning voor Intel’s Meteor Lake NPU’s toevoegde in een preview voor ontwikkelaars, te beginnen in DirectML 1.13.1 en ONNX Runtime 1.17 .

Hoewel het alleen een niet-gespecificeerde “subset van machine learning-modellen zal draaien die zijn gericht op ondersteuning” en waarvan sommige “helemaal niet werken of een hoge latentie of lage nauwkeurigheid hebben”, opent het de deur naar meer apps van derden. begin te profiteren van ingebouwde NPU’s. Intel zegt dat Samsung Intel’s NPU en DirectML gebruikt voor gezichtsherkenningsfuncties in zijn fotogalerij-app, iets waar Apple ook zijn Neural Engine voor gebruikt in macOS en iOS.

De voordelen kunnen aanzienlijk zijn, vergeleken met het uitvoeren van deze werklasten op een GPU of CPU.

“De NPU zal, althans in Intel-land, grotendeels worden gebruikt om redenen van energie-efficiëntie”, vertelde Intel Senior Director of Technical Marketing Robert Hallock aan Ars in een interview over de mogelijkheden van Meteor Lake. “Camerasegmentatie, dat hele achtergrondvervagende gedoe… door dat naar de NPU te verplaatsen, wordt ongeveer 30 tot 50 procent stroom bespaard vergeleken met het ergens anders uitvoeren.”

Intel en Microsoft werken allebei aan een model waarin NPU’s vrijwel op dezelfde manier worden behandeld als GPU’s tegenwoordig: ontwikkelaars richten zich doorgaans op DirectX in plaats van op een specifieke fabrikant van grafische kaarten of GPU-architectuur, en nieuwe functies, eenmalige bugfixes en prestatieverbeteringen kunnen allemaal worden verholpen via GPU-stuurprogramma-updates. Sommige GPU’s draaien specifieke games beter dan andere, en ontwikkelaars kunnen ervoor kiezen meer tijd te besteden aan het optimaliseren voor Nvidia-kaarten of AMD-kaarten, maar over het algemeen is het model hardware-agnostisch.

Op dezelfde manier biedt Intel al driverupdates in GPU-stijl aan voor zijn NPU’s . En Hallock zegt dat Windows de NPU in wezen al herkent als “een grafische kaart zonder weergavemogelijkheden.”