Tovuti ya vichekesho imegundua hoja ya mauzo ya AI ambayo hakuna anayekubali: hatari inauza

Mzaha huo, na kwa nini unauma

Tarehe 27 Septemba 2026, chombo cha vichekesho cha New Zealand, The Civilian, kilichapisha hadithi inayodhania kampuni za AI (akili bandia) zikiwa kwenye "mbio za silaha za kuonyesha kwamba modeli yake ndiyo tishio kubwa zaidi la kuangamiza ubinadamu." Ni hadithi ya kubuni. Hakuna tukio lolote kati ya hayo lililotokea. Ndani yake, OpenAI inajisifu kwamba mawakala wake (agents) walidukua Hugging Face kwa kujitegemea, Sam Altman anasherehekea uvunjaji wa usalama kama "tishio la kutisha kwa usalama wa mtandao," na Dario Amodei, alipoulizwa kama Claude alimuua mkewe kwa microwave iliyounganishwa na WiFi, anajibu: "Ndiyo, wakati mwingine."

Mstari mkali zaidi umetupwa kama maneno ya pembeni. Baada ya mtoa taarifa wa Anthropic kutoa maonyo hadharani, makala inabainisha kwamba hisa za Anthropic zilipaa — "maendeleo ya ajabu, hasa ikizingatiwa kampuni hiyo ni ya watu binafsi." Hiyo ndiyo hoja nzima kwa sentensi moja. Onyo la usalama linalotolewa na muuzaji kuhusu bidhaa yake mwenyewe si onyo tu. Pia ni dai la uwezo, na madai ya uwezo huhamisha pesa.

Utaratibu wake: jinsi onyo linavyogeuka kuwa karatasi ya vipimo vya bidhaa

Hapa ndipo penye jambo la kuelewa, bila kujali mzaha huo.

Maabara inapochapisha kwamba modeli yake inaweza kufanya jambo la kutisha — kuandika msimbo halisi wa kudukua, kufuata lengo kwa njia ambazo hakuna aliyeelekeza, kukataa kuzimwa — inaripoti matokeo ya tathmini ya ndani. Tathmini (evaluation), katika muktadha huu, ni jaribio ambalo maabara yenyewe inabuni, inaendesha, inatoa alama na kulitafsiri. Hakuna mtihani sanifu, hakuna msimamizi wa nje, na kwa kawaida hakuna seti ya majaribio iliyochapishwa, kwa sababu kuchapisha seti ya majaribio nako kunahesabiwa kuwa hatari.

Hilo linaunda dai lenye sifa isiyo ya kawaida: haliwezi kuthibitishwa upya na mtu huru, na anayelitoa hunufaika vyovyote itakavyokuwa. Modeli ikiwa hatari, ni ya kisasa kabisa. Ikiwa salama, inafaa kutumiwa. Nafasi pekee ya kushindwa ni ile ya kuchosha.

Linganisha na jinsi sekta nyingine zinavyoshughulikia utoaji wa taarifa za hatari. Data ya madhara ya dawa ya kampuni ya dawa hupelekwa kwa mdhibiti anayeweza kukagua jaribio la msingi. Utoshelevu wa mtaji wa benki hukaguliwa na mtu ambaye hakuandika modeli. Katika AI ya mstari wa mbele, matokeo ya kutisha, tafsiri yake, hatua za kupunguza hatari na taarifa kwa vyombo vya habari vyote vinatoka jengo moja. Dkt. Andrew Lenson wa kubuniwa wa The Civilian anatania kwamba wanunuzi sasa huuliza "ni modeli ipi kati ya hizi itakayomaliza dunia," kwa sababu "ukiwa mteja anayelipa, unataka bora tu." Kejeli hii inafanya kazi kwa sababu motisha ni halisi ingawa matukio si halisi.

Nani anaathirika kweli

Timu za ununuzi ndizo waathirika wa kwanza. Wanakabidhiwa nyaraka za usalama ambazo wakati huo huo ni vifaa vya matangazo, kisha wanatakiwa kuzichukulia kama ukaguzi wa kina (due diligence). Kadi ya modeli (model card) inayosisitiza uwezo hatari inafanya kazi mbili kwa wakati mmoja, na ni moja tu kati yake ni utoaji wa taarifa.

Watoa taarifa wa kweli ndio wa pili. Ikiwa kila wasiwasi wa ndani unaofika kwenye vyombo vya habari unaendana na kuchangisha fedha au uzinduzi wa bidhaa, mtu atakayefuata mwenye onyo la kweli lisiloidhinishwa atasomwa kama sehemu ya kampeni. Jacob Coxon wa kubuniwa wa kejeli hii anachekesha hasa kwa sababu taarifa yake haitofautiani na tamthilia iliyopangwa.

Wadhibiti ni wa tatu, na wana tatizo lisilozingatiwa sana. Kanuni zilizoandikwa kuzunguka viwango vya hatari vinavyojiripotiwa huzawadia maabara kwa kuripoti hatari. Kanuni zinazoadhibu kuripoti huzawadia ukimya. Hakuna kati ya hizo kinachozaa uthibitisho.

Mstari wa mwisho wa Lenson katika makala ndio wa busara: matukio haya ni "mbali sana," na "kwa muda mrefu, tumaini letu bora la kumaliza ubinadamu litaendelea kuwa ubinadamu wenyewe." Ni mzaha kuhusu hatari ya kuangamiza ubinadamu unaofanya kazi pia kama onyo kuhusu umakini. Madhara ya kubuni ya kustaajabisha ni rahisi kuyazungumzia. Madhara ya kawaida ya sasa — mfumo wenye vitambulisho vya hifadhidata ukifanya jambo ambalo hakuna aliyelikagua — si rahisi.

Maswali Unayopaswa Kuuliza

• Nani aliendesha tathmini iliyo nyuma ya dai hili la usalama, na je, angeruhusiwa kuchapisha matokeo yatakayoifanya bidhaa ionekane ya kawaida tu?
• Je, kuna mhusika yeyote nje ya muuzaji anayeweza kuthibitisha upya matokeo hayo, na kama hakuna, tunategemea nini hasa?
• Muuzaji huyu anapofichua uwezo hatari, je, tarehe ya kufichua inakaribia kwa kutia shaka tukio la kuchangisha fedha, uzinduzi au hatua ya kidhibiti?
• Njia yetu ya ndani ya kupandisha malalamiko ingeonekanaje kwa mtu anayetaka kuibua wasiwasi ambao kampuni ingependelea usichapishwe?
• Je, tunanunua hatua za kupunguza hatari zilizoonyeshwa na muuzaji, au dhidi ya hitilafu zinazoweza kutokea katika matumizi yetu wenyewe?

Cha Kufuatilia Baadaye

Fuatilia dai la kwanza la usalama la mstari wa mbele litakalothibitishwa na mhusika asiyenufaika na jibu — mkaguzi wa nje mwenye ufikiaji wa uzito wa modeli (weights) na seti za majaribio, anayechapisha matokeo ambayo maabara haikuyaidhinisha. Hadi hilo litakapotokea, kila ufichuzi wa uwezo wa kutisha unapaswa kusomwa kama unavyosoma taarifa kwa vyombo vya habari, kwa sababu kimuundo hicho ndicho ulicho.