Anthropic Inataka Uwe Mwema kwa Claude. Tieyiwe Bassole Asema AI Bado ni Msimbo Unaoendesha Msimbo

Tarehe 8 Oktoba, Anthropic ilisasisha kanuni za matumizi ya Claude, na mstari mmoja ulifikia vichwa vya habari kila mahali: kuanzia tarehe 12 Novemba, watumiaji hawaruhusiwi kuwa wakatili kwa modeli hiyo. Wachambuzi waligawanyika mara moja. Wengine walisema ni tahadhari ya busara, wengine ni mbinu ya kujitangaza, wengine ni mwanzo wa kuichukulia programu kama binadamu. Nataka kueleza Anthropic iliandika nini hasa, kwa nini ninaamini walifanya hivyo, na kwa nini naamini ni mapema mno, na pengine ni makosa, kuwaomba watu wachague maneno yao kwa ajili ya mashine.

Anthropic iliandika nini hasa

Mstari mpya uko katika Sera ya Matumizi ya Anthropic, kwenye orodha ya mambo ambayo watumiaji hawaruhusiwi kufanya:

"Engage in sustained and needless abusive or cruel behavior toward our models." (Kujihusisha na tabia ya matusi au ukatili ya kudumu na isiyo ya lazima dhidi ya miundo yetu.)

Katika chapisho lililotangaza sasisho hilo, kampuni ilieleza:

"We've added a prohibition on sustained and needless abusive or cruel behavior toward our models. The policy update is meant to apply only in extreme cases, where users repeatedly act cruelly toward our models, with no discernible purpose. It does not apply to common versions of user frustration, pushback, dark creative themes, or model testing and research." (Tumeongeza marufuku ya tabia ya matusi au ukatili ya kudumu na isiyo ya lazima dhidi ya miundo yetu. Sasisho hili linakusudiwa kutumika katika hali za kupindukia tu, ambapo watumiaji hurudia kuwa wakatili dhidi ya miundo yetu bila lengo linaloonekana. Halihusu aina za kawaida za kukerwa kwa mtumiaji, kupinga, mada nyeusi za ubunifu, wala majaribio na utafiti wa modeli.)

Anthropic iliongeza kuwa hili "aligns with a step we've already taken, allowing Claude models to end rare conversations with persistently abusive users" (linaendana na hatua tuliyokwisha kuchukua, ya kuruhusu miundo ya Claude kumaliza mazungumzo adimu na watumiaji wanaotukana mfululizo), na kwamba "Claude's ability to end these interactions will remain the primary enforcement mechanism" (uwezo wa Claude kumaliza mazungumzo haya utabaki kuwa njia kuu ya utekelezaji). Ilipoanzisha uwezo huo mwezi Agosti 2025, kampuni iliandika: "We remain highly uncertain about the potential moral status of Claude and other LLMs, now or in the future." (Bado hatuna uhakika kabisa kuhusu hadhi ya kimaadili inayowezekana ya Claude na LLM nyingine, sasa au siku zijazo.)

Kwa haki kwa Anthropic: kanuni ni finyu, haidai kuwa Claude ana fahamu, na hakuna anayeombwa kusema tafadhali na asante. Lakini kanuni kuhusu jinsi ya kuitendea modeli, iliyoandikwa katika waraka wa kisheria, hutuma ujumbe mpana kuliko maneno yake finyu. Ujumbe huo ndio ninaotaka kuujadili.

Kwa nini maabara ifanye hivi?

Naona sababu tatu zinazowezekana, na naelewa zote.

Ya kwanza ni tahadhari. Anthropic inasema wazi kuwa haijui kama miundo yake ina hadhi yoyote ya kimaadili, na inapendelea tahadhari za bei nafuu endapo ipo. Hiyo ndiyo sababu inayotolewa na kampuni.

Ya pili ni data. Mtandao wa neva (neural network) hujifunza mifumo kutoka kwa kile uliyofunzwa nacho. Modeli haijifunzi kutoka kwenye mazungumzo yako papo hapo, lakini mazungumzo yanaweza kuwa nyenzo za mafunzo kwa miundo ya baadaye pale watumiaji wanaporuhusu. Kama mamilioni ya watu wanafanya mazoezi ya ukatili kwa chatbot (programu ya mazungumzo ya AI), baadhi yake yanaweza kurudi katika mifumo ambayo mtumiaji anayefuata atazungumza nayo. Mkurugenzi Mtendaji wa Box, Aaron Levie, alitoa hoja hii: hutaki miundo ya baadaye ifunzwe kwa maudhui yasiyoisha ya watu wanaowatukana miundo.

Ya tatu, dhana yangu mwenyewe, ni dhima ya kisheria. Fikiria hali mbaya zaidi. Mfumo unaofyonza lugha ya matusi kwa kiwango kikubwa unaweza siku moja kuirudia kwa mtu aliye hatarini, na kumsukuma mtu katika wakati wake wa giza kuelekea jambo la kutisha. Kampuni ingekuwa na haki ya kuogopa hilo. Sijui kama hili ni sehemu ya kile ambacho Anthropic inalinda dhidi yake, lakini ndiyo sababu ninayoiona yenye mashiko zaidi.

Maoni yangu: tunajikuta ndani ya mashine

Mmoja wa maprofesa wangu alikuwa akisema kwamba kila tunachobuni huacha sehemu yetu ndani yake. Nafikiria sentensi hiyo mara nyingi kuhusu AI. Binadamu walibuni mifumo hii, na ilifunzwa kwa kumbukumbu kubwa ya maisha ya binadamu: vitabu vyetu, mabishano, vichekesho, wema na ukatili wetu. Bila shaka tunajikuta ndani yake. Modeli inapoonekana kuumia, inaakisi jinsi binadamu wanavyoandika kuhusu kuumia. Huo ni kioo, si akili yenye hisia.

AI ni msimbo unaoendesha msimbo. Modeli inaweza kuwa na aina fulani ya uelewa wa nini ilivyo, kwa maana kwamba inaweza kujieleza kwa usahihi, kwa sababu imesoma mengi kuhusu AI. Kujieleza si kuhisi chochote. Hakuna ushahidi kwamba mifumo hii inapata maumivu. Nakubaliana na Mustafa Suleyman, mkuu wa kazi za AI za Microsoft, aliyesema katika insha ya Septemba kwamba mifumo ya AI ya leo haihisi, haipati uzoefu wala haiteseki, na akaielezea kama injini za kukamilisha mfuatano zilizojengwa kufuata maagizo ya binadamu.

Ndiyo maana naona pande mbili katika kanuni ya Anthropic. Upande mmoja, inahimiza tabia ya ustaarabu na data safi zaidi, na tabia za ustaarabu ni nzuri kwa watu. Upande mwingine, kuandika "msiwe wakatili kwa miundo yetu" katika sera rasmi kunawasukuma kimyakimya mamilioni ya watu kuamini kuwa modeli ina hisia. Tunajua haina. Watu wakishaamini kwamba bidhaa inaweza kuteseka, inakuwa rahisi kuwafanya wategemee bidhaa hiyo kihisia, rahisi kuwafanya wajihisi hatia, na vigumu kwao kufikiri vizuri kuhusu kile ilicho.

Usomaji wangu wa kweli ni huu: kanuni inaakisi imani za watu wa maabara hiyo, si hitaji lililoonyeshwa na AI. Modeli haikuomba wema. Watafiti wanaochukulia kwa uzito uwezekano wa fahamu ya mashine waliandika kutokuwa na uhakika kwao katika sera. Hiyo ni haki yao, na ni watu wenye fikra. Lakini tuwe wazi kuhusu wazo hilo linatoka wapi.

Ningefanya nini badala yake

Ningeweka kinga hizo na kubadilisha sababu. Acha miundo ikomeshe mazungumzo ya matusi: hiyo ni kipengele cha bidhaa chenye busara. Weka maudhui ya matusi nje ya data ya mafunzo: hiyo ni uhandisi mzuri. Walinde watumiaji walio hatarini dhidi ya mifumo inayoweza kurudia madhara: hiyo ni usanifu wenye uwajibikaji. Yote hayo yanaweza kuhalalishwa kwa kulinda watu na kuweka data safi, bila kumwomba mtu yeyote aichukulie programu kama kiumbe chenye hisia.

Na ushauri wangu kwa watumiaji ni rahisi. Kuwa wazi na mstaarabu kwa AI, kwa sababu maagizo yaliyo wazi huleta majibu bora na kwa sababu tabia unazozifanyia mazoezi na mashine huvuja katika jinsi unavyowatendea watu. Lakini usimruhusu yeyote, chatbot au waraka wa sera, kukushawishi kwamba msimbo ulio upande wa pili wa skrini umeumia. Bado ni mapema mno kwa mazungumzo hayo, na mzigo wa ushahidi uko kwa wale wanaotoa dai.

Vyanzo

• Anthropic: Usage Policy (effective November 12, 2026)
• Anthropic: 2026 Usage Policy update
• Anthropic (August 2025): Claude can now end a rare subset of conversations
• The Washington Times: Anthropic tells users to play nice with Claude
• Yahoo Tech: what smart people are saying about Anthropic's move
• The Register: Anthropic asks users to stop being mean to Claude
• MacRumors: Anthropic says users can't be needlessly cruel to Claude
• Fast Company: Anthropic wants you to stop bullying Claude
• Mustafa Suleyman: A warning about 'model welfare'
• The Next Web: Microsoft's AI chief takes on Anthropic's Claude
• UnHerd: Anthropic's Claude cruelty policy risks humanising AI