Karpathy: Watu ~5,000 wanaona AI ya hali ya juu kabisa (frontier AI). 75% ya wanadamu hawajaikutana nayo

Tarehe 11 Oktoba, Karpathy alichapisha kwamba pengo la uelewa wa pamoja kuhusu uwezo wa LLM (modeli kubwa za lugha) linazidi kupanuka, na sasa linaonekana kama kiunzi chenye umbo kali badala ya makundi mawili yanayozungumza bila kuelewana. Kwa hesabu zake za harakaharaka, takriban watu bilioni 6 (~75% ya idadi ya watu) wamegusa LLM kwa shida sana. Takriban bilioni 1-2 (~20%) hutumia chatbots (programu za mazungumzo za AI) za toleo la bure kwa kawaida. Takriban milioni 20 (0.2%) hutumia modeli za kiwango cha frontier kitaaluma katika hisabati na msimbo (code). Na takriban watu 5,000 (~0.00006%) wana ufikiaji wa ndani wa mifumo ya kiwango cha frontier. Hizi ni makadirio yake, si data iliyopimwa.

Ngazi nne, na kile ambacho kila moja inaona

Dai la Karpathy ni kwamba kila ngazi huunda mtazamo wake kutoka kwa mashine tofauti. Ngazi ya watumiaji wa kawaida huona kile anachokiita chatbots zisizo makini, zinazotumiwa kama injini bora ya utafutaji au msaada wa uandishi. Wataalamu wengi nje ya hisabati na msimbo wako hapa pia; anabainisha kwamba watendaji wakuu hutumia muda mwingi kuzungumza na watu, kwa hivyo wanachojua kuhusu AI ni cha kusimuliwa na cha dhahania.

Ngazi ya wataalamu milioni 20 ndiyo, anasema, ambapo mkondo umepanda wima. Anaeleza miradi iliyokuwa ikichukua wiki au miezi ikikamilishwa na agents (mawakala wa AI) kutoka kwa prompt (maelekezo unayompa AI) moja: kujenga, kunakili, kutafsiri na kubomoa programu (decompile). Anasema chini ya mwaka mmoja uliopita bado alikuwa akiandika msimbo kwa mkono. Ngazi ya juu kabisa, kwa maelezo yake, huonekana kwa watu wa nje kama onyesho la awali tu: makundi ya maelfu ya agents wakishirikiana kwa wiki kadhaa kwenye miradi mikubwa ya programu, wakigundua zero days (hitilafu za usalama zisizojulikana hapo awali), wakiendesha mashambulizi na ulinzi wa kimtandao kwa kasi ya mashine, na kuendeleza hisabati. Anaongeza kwamba mapitio ya binadamu yanaanza kubaki nyuma, akitaja "uchimbuzi wa kale" (archeology) unaoendelea wa tukio la OpenAI-HF na hati 722 kuhusu hisabati ya frontier ambazo wanahisabati wanaweza kuwa wakizisoma kwa muda.

Kwa nini kiunzi kina umbo hili

Karpathy anataja vichocheo vitatu. Kwanza, athari hukua kulingana na kiwango cha malengo: swali lenye jibu la aya moja halichoshi mfumo, kwa hivyo unahitaji hifadhi ya matatizo makubwa na magumu unayoyajali ili kuona kinachoweza kufanywa. Pili, kutokuwa sawa (jaggedness): uwezo hauko sawa kila mahali, ukifikia kilele katika nyanja zilizo za kidijitali, zinazoweza kuthibitishwa na zenye thamani ya kiuchumi. Maelezo yake ni kwamba uwezo huzuka kutoka reinforcement learning (kujifunza kwa kuimarisha) kwenye zawadi zinazoweza kuthibitishwa, yaani mafunzo ambamo modeli hupimwa kiotomatiki kama jibu lake lilikuwa sahihi (msimbo unaofaulu majaribio, uthibitisho unaokubalika), katika mchanganyiko wa mazingira ya mafunzo yaliyochaguliwa kwa uwezekano wa mapato. Pale majibu hayawezi kukaguliwa kiotomatiki, maendeleo ni polepole zaidi. Tatu, ufikiaji: toleo la bure, toleo la kulipia, na la ndani.

Mwongozo: la kufanya katika mwezi ujao

Hatari ya kivitendo ni kuamua kutoka ngazi isiyo sahihi. Kama maoni ya timu yako kuhusu AI yanatokana na chatbot ya bure iliyojaribiwa zamani, huenda inaeleza bidhaa tofauti na ile ambayo Karpathy anasema wataalamu sasa wanaitumia. Kama kazi yako ni ya msimbo au kazi zinazofanana na hisabati zinazoweza kukaguliwa, hoja yake inaashiria kwamba faida inaweza kuwa kubwa zaidi kuliko kwingineko. Kama kazi yako zaidi ni mazungumzo na uamuzi wa busara, faida ndogo inaweza kuwa jibu la kweli, na anaita mtazamo huo wa busara.

Hatua zinazofaa: mwombe mtu kwenye timu yako aendeshe kazi halisi, kubwa, ya siku nyingi kwa zana ya kisasa ya kulipia ya frontier kisha atoe ripoti. Chagua kazi zenye ukaguzi wa kiotomatiki. Usitoe makisio kutoka ngazi moja kwenda nyingine. Kosa ni kinyume cha kila moja: kupuuza teknolojia kwa sababu ya onyesho la chatbot, au kudhani kwamba makundi ya agents ya ngazi ya juu yanaeleza unachoweza kununua leo.

Maswali Unayopaswa Kujiuliza

• Watu wanaounda mtazamo wetu kuhusu AI walitumia lini mara ya mwisho zana ya kulipia ya kiwango cha frontier, na kwa tatizo la ukubwa gani?
• Je, kazi yetu ni ya kidijitali na inayoweza kuthibitishwa vya kutosha kukaa pale uwezo unapofikia kilele, au tunadhani faida za mtindo wa msimbo zinatumika kwake?
• Kama muuzaji (vendor) anataja matokeo kutoka kwa mifumo yenye ufikiaji wa ndani pekee, tunaweza kununua na kujaribu nini hasa leo?
• Kama agents wanazalisha kazi kwa kasi kuliko tunavyoweza kuipitia, nani anawajibika kwa kinachotolewa?
• Je, washindani wetu wako katika ngazi ya kitaaluma huku sisi tukitathmini kutoka ngazi ya kawaida?

Cha Kufuatilia Baadaye

Fuatilia kama kazi ya ngazi ya juu anayoieleza Karpathy itakuwa inaweza kukaguliwa kwa kujitegemea: mapitio yaliyochapishwa ya hati hizo 722, au matokeo kutoka tukio la OpenAI-HF, yataonyesha kama uelewa wa binadamu unakamata kasi au unabaki nyuma zaidi.