En ny rapport menar att intresset för ChatGPT ökar efterfrågan för beräkningskort med stor AI-prestanda. Något som ska ha resulterat i att både Samsung och SK Hynix fått svårt att förse världen med tillräckligt mycket HBM-minne.
ChatGPT ökar i popularitet med ordentlig fart. Nu menar en ny rapport att efterfrågan för beräkningskort från Nvidia ökar minst lika mycket. Detta då dessa enheter är bland de bäst lämpade att stå för beräkningskraften bakom tjänster som just den språkmodellbaserade chatroboten. OpenAI som utvecklar den artificiella intelligensen sägs till exempel använda omkring 25 000 Nvidia-enheter redan nu för att möta prestandakraven.
Då ChatGPT blivit en enorm snackis och populariteten ökar förväntas antalet beräkningskort som behövs för att driva tjänsten öka markant. Detta ska enligt BusinessKorea ha resulterat i att Samsung och SK Hynix som tillverkar High Bandwidth Memory (HBM) inte längre kan möta efterfrågan på minnesmoduler. Detta då HBM-minne är den minnesstandard Nvidia använt i sina senaste generationer av beräkningskort.
Nvidia är inte de enda intresserade av HBM-minne. Även Intel förväntas integrera minnesstandarden i sina kommande generationer av server- och beräkningshårdvara. Resultatet av denna snabbt ökande efterfrågan på HBM-minne sägs vara att priset för denna typ av minne ska ha stigit med så mycket som 500 procent för den senaste generationen.
Det är inte bara HBM3 som ska ha sett en ökad popularitet. Även äldre beräkningskort baserade på arkitekturerna Ampere och Volta med HBM2 och HBM2e-minne rapporteras ha blivit mer eftertraktade. ChatGPT har redan sett stora framgångar och utmanande tjänster från andra aktörer är på ingång. AI-marknaden kan således komma att bli ett allt dyrare att agera på om de inblandade parterna inte kan möta den kraftigt ökande efterfrågan på hårdvara kapabel till att driva de komplicerade systemen.
Huruvida priserna för andra minnesstandarder som GDDR6 kan komma att märkbart påverkas av ChatGPT och andra systems popularitet i framtiden återstår att se. Just nu ser det dock ut som att vi kan vara tacksamma för att HBM endast hade en kort stint på konsumentmarknaden innan minnestypen i princip förvisades till just beräkningskort.