Dawa ya Huang kwa AI distillation: wajue wateja wako, kisha uwakatie huduma
Mkurugenzi Mtendaji wa Nvidia aliiambia CNBC kwamba kufunza modeli kwa kutumia majibu ya modeli za washindani ni "ushindani," si wizi, na kwamba suluhisho ni udhibiti wa upatikanaji, si vikwazo vya kiuchumi.
Mkurugenzi Mtendaji na Waziri wa Hazina, wakielezea kitendo kimoja
Alipoulizwa kwenye kipindi cha Squawk Box cha CNBC siku ya Jumatatu iwapo AI model distillation (uchimbaji wa uwezo wa modeli ya AI kwa kuifunza modeli nyingine kwa majibu yake) "si wizi," Mkurugenzi Mtendaji wa Nvidia, Jensen Huang, alijibu: "Hiyo inaitwa ushindani." Mwezi Julai, Waziri wa Hazina Scott Bessent alikuwa ameeleza mazoea hayo hayo kama "wizi" na kutishia kuziwekea vikwazo kampuni za nje ya nchi zinazoyatumia kuchota uwezo kutoka kwa modeli zilizojengwa Marekani. Ikulu ya White House haikujibu mara moja ombi la maoni kutoka CNBC.
Pengo kati ya maneno hayo mawili, ushindani na wizi, si la kimaneno tu. Linaamua iwapo suala hili litakuwa tatizo la udhibiti wa mauzo ya nje, mgogoro wa mkataba, au lisiwe chochote.
Distillation ni nini hasa
Distillation, katika umbo lake la asili na lililo halali kabisa, ni mbinu ya kubana modeli. Una modeli kubwa na ya gharama kubwa. Unaiendeshea kiasi kikubwa cha prompt (maelekezo unayoipa AI), unakusanya majibu yake, na kuyatumia kama data ya kufunzia modeli ndogo zaidi. Modeli ndogo hujifunza kuiga tabia ya ile kubwa bila kuona kamwe weights zake (vigezo vya ndani vya modeli) wala data iliyotumika kuifunza. Wahandisi huiita modeli kubwa mwalimu na ndogo mwanafunzi.
Mbinu hii ni ya zamani na haina utata maabara inapoichuja modeli yake yenyewe. Kinachopingwa ni kuifanya kwa modeli ya mtu mwingine, kupitia API yake ya umma (kiolesura kinachoruhusu programu kuwasiliana na huduma), kwa kiwango kikubwa.
Hii ndiyo sababu jambo hili ni muhimu. Sehemu ya gharama kubwa katika kujenga modeli ya hali ya juu si usanifu wake, kwa kuwa huo kwa ujumla huchapishwa wazi. Ni zoezi la kufunza, uteuzi wa data, na zaidi ya yote kazi ya post-training (hatua ya baada ya mafunzo ya msingi) inayofanya modeli iwe ya msaada, salama na yenye tabia njema. Safu hiyo ya mwisho ni matokeo yaliyokusanywa ya juhudi kubwa ya maoni ya binadamu. Majibu ya modeli yanabeba hayo yote. Ukiweza kununua upatikanaji wa API na kuzalisha mamilioni ya majibu bora, unakamata toleo lililobanwa la uwekezaji huo kwa bei ya tokeni za inference (uendeshaji wa modeli).
Muhimu zaidi, hakuna kinachonakiliwa kwa maana ya kawaida. Hakuna weights zinazotolewa kwa siri. Hakuna msimbo unaoibiwa. Modeli ya mwanafunzi inafunzwa kwa maandishi ambayo modeli ya mwalimuililipwa kuyazalisha.
Kwa nini "wizi" ni neno gumu zaidi kulitetea
Hapa ndipo msimamo wa Huang unapopata uzito wa kisheria, hata kama nia zake za kibiashara ni zipi. "Unaruhusiwa kujaribu bidhaa za mtu mwingine kadri unavyotaka," alisema, akibainisha kuwa vifaa vya Nvidia vyenyewe hufunuliwa "hadi mifupa" na washindani wanaojaribu kuvielewa. "Ningependelea sana wasifanye hivyo," aliongeza. "Ningependelea sana kwamba hakuna anayejifunza kutoka kwa bidhaa zetu... Lakini, kwa kweli, ushindani huboresha kila kitu."
Angalia kile ambacho tuhuma hizo zinadai kwa hakika. Cybersecurity and Infrastructure Security Agency (CISA), mapema mwezi huu, ilizituhumu kampuni za AI za China kwa "kampeni za distillation ya maarifa za kiwango cha viwanda" ambazo zilikiuka masharti ya matumizi ya kampuni za Marekani. Anthropic ilisema ilizikuta Alibaba, msanidi wa modeli za Qwen, na DeepSeek zikijihusisha na "distillation haramu." China imekanusha madai hayo.
Masharti ya matumizi ni mkataba kati ya mtoa huduma na mwenye akaunti. Kuukiuka si sawa na wizi, na kuutekeleza dhidi ya kampuni ya kigeni isiyo na uwepo Marekani ni vigumu, jambo ambalo ndilo hasa sababu mjadala umeelekea kwenye vikwazo.
Pendekezo mbadala la Huang ndilo sehemu mpya kweli ya mjadala huu, na halina mvuto: "Kama hupendi watu watumie bidhaa zako, unachohitaji kufanya ni kuwajua wateja wako, na kuzima huduma." Hilo linaweka mzigo kwenye uthibitishaji wa utambulisho na ugunduzi wa matumizi mabaya wa watoa modeli wenyewe, badala ya sera ya biashara ya shirikisho. Pia, kwa bahati nzuri kwake, ni mtazamo ambao hakuna anayehitaji kuzuia mauzo ya chip.
Maswali Unayopaswa Kujiuliza
- Kama distillation ni ukiukaji wa masharti ya matumizi tu, ni chombo gani cha kisheria kinachounga mkono vikwazo, na je, kuna aliyekitaja?
- Je, mtoa huduma yeyote anaweza kuthibitisha kwamba modeli fulani ilichujwa kutoka kwake, au ushahidi ni ufanano wa kitakwimu ambao mshindani anaweza kuupinga?
- Mkataba wa API yako unasema nini kuhusu kutumia majibu kufunza modeli, na je, umeangalia iwapo mikataba ya wauzaji wako inawaruhusu kufunza kwa data yako?
- Nvidia inauza vifaa vinavyofunza modeli pande zote mbili za mgogoro huu. Hilo linapaswa kuathiri vipi uzito unaotolewa kwa ufafanuzi wa Mkurugenzi Mtendaji wake wa ushindani wa haki?
- Kama "wajue wateja wako" ndilo jibu, ni nani atathibitisha utambulisho kwa kiwango cha inference, na nini kitatokea kwa upatikanaji huru pindi watakapofanya hivyo?
Cha Kufuatilia Baadaye
Fuatilia iwapo Marekani itatoka kwenye tuhuma kwenda kwenye chombo cha utekelezaji. Tishio la Bessent la vikwazo la mwezi Julai bado ni tishio tu, na uamuzi wa CISA unategemea ukiukaji wa masharti ya matumizi, si sheria iliyotungwa. Ishara kwamba jambo hili ni la kweli itakuwa kutajwa rasmi kwa kampuni mahususi iliyowekewa vikwazo, au kanuni rasmi inayofafanua distillation kama shughuli inayodhibitiwa. Bila hivyo, mtazamo wa Huang, kwamba huu ni ushindani wa kawaida unaosimamiwa na udhibiti wa upatikanaji wa wauzaji wenyewe, utakuwa msimamo wa kawaida kwa kupita muda.
- 1Andika vifungu vya kupinga distillation kwenye masharti ya huduma ya API ya modeli yako sasa, kwa kuwa sheria ya mikataba ndiyo dawa yako ya haraka zaidi pale udhibiti wa mauzo ya nje usipotumika.
- 2Fuatilia matumizi ya API kutafuta dalili za distillation, yaani mifumo ya maswali ya kiwango cha juu, tofauti na ya kimfumo, na ukate akaunti zenye mashaka mara moja.
- 3Fanya uthibitishaji wa KYC (kumjua mteja wako) kwa wateja wa API wa makampuni ili ujue nani yuko nyuma ya kila ufunguo kabla uchotaji wa uwezo haujawa jambo lisiloweza kurudishwa nyuma.
Ready to implement AI in your business?
Our team builds the AI systems you just read about. Start with a free 30-minute discovery meeting.
