Muundo wa Blackwell wa Nvidia Umefafanuliwa: Kwa Nini Ni Muhimu kwa Bei za AI

Nambari Inayoandika Upya Kila Mkataba wa AI

Muundo wa GPU wa Blackwell wa Nvidia, ambao sasa unasambazwa kwa wingi hadi katikati ya mwaka 2026, hutoa takriban mara 25 ya uwezo wa inference (uendeshaji wa modeli ya AI kutoa majibu) wa mtangulizi wake Hopper, kwa matumizi ya nguvu yanayolingana. Maana yake ni kwamba gharama ya kuzalisha token milioni moja za majibu ya AI imeshuka kwa kasi ndani ya miezi kumi na minane kuliko timu nyingi za manunuzi za makampuni zilivyokadiria kwa miaka mitano. Pengo hilo kati ya hali halisi ya vifaa na matarajio ya bajeti ndipo pesa zinapopotea na kupatikana kimya kimya sasa hivi.

Blackwell Imebadilisha Nini Hasa, na Kwa Nini Ilikuwa Ngumu

Ili kuelewa matokeo yake, unahitaji kuelewa gharama halisi ya inference. Modeli kubwa ya lugha inapojibu swali, hufanya mabilioni ya hesabu za floating-point (hesabu za nambari zenye desimali), yaani kuzidisha na kujumlisha kwenye matriki zinazowakilisha uzito ambao modeli imejifunza. Kikwazo hakijawahi kuwa kasi ya hesabu pekee; kimekuwa kipimo cha data cha kumbukumbu (memory bandwidth), yaani kasi ambayo chipu inaweza kuhamisha uzito huo kutoka kwenye kumbukumbu hadi kwenye vitengo vya hesabu kwa haraka ya kutosha kuvifanya viendelee kufanya kazi.

Blackwell inashughulikia kikwazo hiki kwenye kiwango cha muundo wenyewe. NVLink Switch fabric yake huunganisha hadi GPU 576 kuwa dimbwi moja la kumbukumbu, na hivyo kuondoa uhamishaji wa mara kwa mara wa uzito ambao ulifanya inference ya chipu nyingi ya awali kuwa ghali. Muundo wake wa usahihi wa FP4, njia mpya ya kuwakilisha nambari, unaonyesha uzito wa modeli kwa biti nne badala ya kumi na sita. Hii ina maana kwamba thamani mara nne zaidi zinatosha kwenye nafasi ile ile ya kumbukumbu, na zinasafiri kwa kasi mara nne zaidi, huku Nvidia ikidai kwamba upungufu wa usahihi ni mdogo sana kwa kazi nyingi za uzalishaji. Kwa pamoja, mabadiliko haya yanamaanisha kwamba kundi moja la Blackwell linaweza kuhudumia modeli ambayo hapo awali ilihitaji makundi manne, kwa sehemu ndogo tu ya gharama ya nishati kwa kila swali.

Ugumu ulikuwa kufanya FP4 ifanye kazi bila kuharibu ubora wa modeli. Usahihi mdogo wa nambari huleta makosa ya kuzungusha nambari yanayojilimbikiza kupitia tabaka za modeli. Suluhisho la Nvidia lilihusisha kubuni upya tensor core, kitengo cha hesabu kilicho kiini cha kompyuta ya AI, ili kutumia microscaling. Hii ni mbinu inayorekebisha kwa nguvu wigo wa nambari unaowakilishwa kulingana na mifumo ya data ya eneo husika, badala ya kuweka wigo mmoja usiobadilika kwenye hesabu nzima. Ilichukua hadi nusu ya pili ya mwaka 2025 kuifanya mbinu hii kuwa thabiti vya kutosha kwa modeli za uzalishaji za ukubwa ambao makampuni huendesha kwa kweli.

Nani Anafaidika, Nani Yuko Hatarini, Nani Hajaona Bado

Hyperscalers wa cloud (watoa huduma wakubwa wa kompyuta ya mtandaoni) wanaoendesha makundi ya Blackwell, kama Microsoft Azure, Google Cloud na Oracle, sasa wanaweza kutoa inference kwa bei zinazofanya uwekezaji wa GPU za ndani ya kampuni (on-premises) uonekane umekosa wakati kwa yeyote aliyenunua vifaa vya Hopper mwaka 2024 akitegemea muda wa miaka mitano wa kushuka thamani. Wanunuzi hao wako hatarini: vifaa vyao havijapitwa na wakati, lakini hoja yao ya kiuchumi imedhoofika kwa kiasi kikubwa.

Hatari isiyoonekana kwa urahisi iko kwenye safu ya programu. Kampuni za SaaS (programu zinazotolewa kama huduma za usajili) zilizopanga bei za vipengele vya AI kama nyongeza za hadhi ya juu, zikihalalishwa na gharama halisi ya inference, zinashuhudia sakafu hiyo ya gharama ikishuka chini yao. Washindani sasa wanaweza kutoa uwezo unaolingana kwa bei zinazoharibu faida. Kipengele chochote cha AI kinachopangiwa bei zaidi ya takriban $0.50 kwa kila token elfu moja kwa kazi za kawaida za maandishi sasa kinatetewa tu na chapa au kufungwa kwa mteja (lock-in), si na gharama. Wauzaji kadhaa wa teknolojia ya HR na sheria wa kiwango cha kati hawajapanga upya bei zao, kumaanisha kwamba ama wanakaribia kubanwa kwenye faida zao, ama wanakaribia kupoteza wateja kwa wapinzani waliofanya hivyo.

Maswali Unayopaswa Kuuliza

• Ikiwa unanunua inference ya AI ya cloud leo: je, bei za mtoa huduma wako tayari zinaakisi gharama za enzi ya Blackwell, au bado unalipa viwango vya enzi ya Hopper kwenye vifaa vipya? Waulize ni kizazi gani cha GPU kinahudumia kazi yako.
• Ikiwa unamiliki GPU za Hopper au Ampere ndani ya kampuni: gharama yako halisi kwa kila swali la inference leo ni kiasi gani ikilinganishwa na kifaa kinacholingana cha Blackwell cha cloud, ukijumuisha nguvu, ubaridi na wafanyakazi kikamilifu?
• Ikiwa unauza bidhaa ya SaaS inayotumia AI: je, unaweza kueleza kwa nini bei yako kwa kila mtumiaji au kwa matumizi inabaki imara wakati mshindani mwenye mtaji mkubwa sasa anaweza kuendesha modeli ile ile kwa sehemu ndogo ya gharama yako ya miundombinu?
• Ikiwa unatathmini wauzaji wa AI: je, nambari zao za benchmark (vipimo vya ulinganisho wa utendaji) zinatoka kwenye makundi ya Blackwell, au kwenye vizazi vya awali, na je, mkataba unahakikisha ni kiwango gani cha vifaa kitahudumia trafiki yako?
• Ikiwa wewe ni mdhibiti au afisa wa manunuzi: usahihi wa FP4 hupunguza ubora kwa njia zinazotegemea aina ya kazi. Je, muuzaji wako ameeleza ni muundo gani wa usahihi unaotumiwa na mfumo wake wa uzalishaji, na je, umejaribiwa kwenye data ya sekta yako?

Cha Kufuatilia Baadaye

Kiashiria cha wazi zaidi cha awali kitakuwa simu za mapato za Robo ya Tatu ya 2026 za makampuni ya SaaS ya kiwango cha kati yenye vipengele vya AI vilivyozinduliwa kati ya 2023 na 2025. Sikiliza kama faida ghafi imebanwa na kulaumiwa kwa "gharama za miundombinu", au badala yake kimya cha ghafla kuhusu bei za vipengele vya AI. Vyote viwili vinaashiria kwamba uchumi wa Blackwell umefika kwenye taarifa zao za mapato kabla ya mkakati wao wa bei. Ukiona mchezaji mkubwa akipunguza bei za vipengele vya AI kwa zaidi ya asilimia 40 kabla ya Septemba, wimbi la kupanga upya bei limeanza, na waliochelewa wana takriban robo moja ya mwaka kuchukua hatua.