Binadamu Alisoma Shajara Yake ya Claude na Kuita Polisi. Sasa Ni Kosa la Jinai.

Tarehe 26 Septemba, Carli Michelle Heller wa Bonita Springs, Florida, anadaiwa kuandika katika Claude kwamba alipanga "kuwapiga risasi" watu katika ofisi ya Sheriff. Baadaye aliwaambia wachunguzi kwamba hutumia chatbot (programu ya mazungumzo ya akili bandia) hiyo kama "shajara". Kulingana na ripoti ya kukamatwa, mifumo ya usalama ya Claude iliweka alama kwenye ingizo hilo, mkaguzi binadamu alilihukumu kuwa tishio la kuaminika, na mkaguzi huyo akaliripoti kwa vyombo vya sheria. Maafisa walimtambua, wakatembelea nyumbani kwake, na wakamweka kizuizini bila tukio lolote. Sasa anakabiliwa na shtaka la tishio la maandishi chini ya sheria ya Florida.

Jinsi Ingizo la Faragha Lilivyomfikia Mpelelezi

Chanzo kinaeleza hatua tatu. Kwanza, mifumo ya usalama ya kiotomatiki iliweka alama kwenye ingizo. Pili, lilipelekwa kwa mkaguzi binadamu. Tatu, baada ya kuamua kwamba kauli hiyo ni tishio la kuaminika, mkaguzi aliripoti kwa polisi. Ofisi ya Sheriff ya Lee County (LCSO) kisha ilimtambua Heller, na mpelelezi wa intelijensia wa LCSO akachukua uchunguzi.

Mantiki ya muundo huu ni kama kichujio cha hatua kwa hatua. Vichambuzi vya kiotomatiki (classifiers) vinaweza kuchanganua kiasi kikubwa cha maandishi kwa gharama ndogo, lakini hukosea kuelewa muktadha: mwandishi wa riwaya, mtu anayetoa hasira, na mtu anayepanga madhara wanaweza kutumia maneno yanayofanana. Kwa hiyo alama ni kichocheo tu cha busara ya binadamu. Hatua ya binadamu ndipo alama inapogeuka kuwa uamuzi, na ni hatua ambayo watumiaji mara chache hujua kwamba ipo. Zingatia kile chanzo hakitueleza: vichambuzi vilitafuta nini, wakaguzi wangapi huchunguza ingizo lililowekewa alama, na "kuaminika" kunapimwa kwa kiwango gani.

Kile Kampuni Inasema Inaweza Kushiriki

Chanzo kinasema Anthropic inaweza kushiriki taarifa za mtumiaji katika dharura chache ikiwa inaamini kwamba kufichua ni muhimu ili kuzuia kifo au jeraha kubwa la mwili. Hiyo ndiyo sera iliyotajwa na kampuni, na ni kipimo kinachotegemea imani: mkaguzi anahitaji imani ya busara kuhusu hatari, si ushahidi kamili. Chanzo hakisemi kama akaunti ya Heller ilionyesha dalili nyingine za tahadhari, kama alikuwa na silaha au historia ya vurugu, wala maelezo kamili ya ingizo zaidi ya msemo ulioripotiwa.

Kwa Nini Shtaka Hili Si la Kawaida

Sheria ya Florida, Statute 836.10, inaainisha kama kosa la jinai la daraja la pili (second-degree felony) kutuma, kuchapisha, au kusambaza rekodi ya maandishi au ya kielektroniki inayotishia kuua au kujeruhi mtu, kutekeleza ufyatuaji risasi wa halaiki, au kufanya kitendo cha ugaidi. Sheria inahitaji kwamba mawasiliano hayo yafanywe kwa njia ambayo mtu mwingine anaweza kuyaona.

Kifungu hicho ndipo lilipo swali la kisheria linalovutia. Shajara kwa kawaida huandikwa bila kumlenga mtu yeyote. Hapa, watu pekee waliolisoma ingizo walikuwa wakaguzi wa kampuni, na kwa mujibu wa mchakato wa kampuni yenyewe, mtu alilisoma. Kama hilo linatimiza matakwa ya sheria ni jambo ambalo mahakama inaweza kulazimika kulishughulikia; chanzo hakisemi waendesha mashtaka watalijadili vipi.

Mwelekeo, Si Tukio la Pekee

Chanzo kinaweka kisa hiki pamoja na kesi nyingine za hivi karibuni. British Columbia inaishtaki OpenAI na Sam Altman kwa madai kwamba kampuni ingeweza kuzuia ufyatuaji risasi wa halaiki katika jimbo hilo. Mshambuliaji huyo inaripotiwa kuwa timu ya usalama ya OpenAI ilikuwa imemwekea alama kwa mazungumzo kuhusu vurugu za bunduki, lakini OpenAI haikuiarifu polisi kwa sababu mazungumzo hayo hayakufikia kiwango chake cha kupelekwa kisheria. Mwezi Juni, Florida iliishtaki OpenAI na Altman, ikidai ChatGPT ilichangia madhara halisi, ikiwemo ufyatuaji risasi wa Florida State University wa mwaka 2025. Kwa upande mwingine, ripoti za mwezi uliopita zilisema wakandarasi binadamu wanaokagua kihariri cha picha cha Microsoft Copilot wanaweza kuona prompt (maelekezo ya kuandikwa kwa AI) za watumiaji, picha walizopakia, na mabadiliko waliyofanya.

Zikisomwa pamoja, kesi hizi zinavuta pande tofauti: kampuni moja inashtakiwa kwa kushindwa kuripoti, nyingine iliripoti na mtumiaji akashtakiwa. Kila mtoa huduma wa AI sasa anakabiliwa na shinikizo la kisheria na la sifa la kuegemea upande wa kupeleka mashauri mbele, na wanaolipa gharama ya makosa ya tahadhari za uongo ni watumiaji.

Maswali Unayopaswa Kujiuliza

• Nani anaweza kusoma tunachoandika? Je, nyaraka za muuzaji wako zinasema ni lini wakaguzi binadamu huona mazungumzo, na je, wafanyakazi wako wanajua kabla ya kubandika taarifa nyeti?
• Kiwango cha kupeleka kwa mamlaka ni kipi? Ikiwa kiwango cha kampuni moja ni "tishio la kuaminika" na cha nyingine ni cha juu zaidi, nani anakiweka, na je, kimechapishwa au ni cha hiari?
• Nini hutokea baada ya tahadhari ya uongo? Je, kuna taarifa, rufaa, au marekebisho ingizo lililowekewa alama likigundulika kuwa ni kutoa hasira, hadithi ya kubuni, au mzaha?
• Mkataba wako unalishughulikia hili? Ikiwa wafanyakazi wako hutumia chatbot kazini na mkaguzi akapeleka jambo mbele, nani anaarifiwa, na je, makubaliano yako yanasema hivyo?
• Je, shajara ni hadhira? Ikiwa mkaguzi binadamu anahesabiwa kuwa mtu ambaye "anaweza kuona" maandishi, hilo linamaanisha nini kwa kila zana inayoonekana ya faragha unayotumia?

Cha Kufuatilia Baadaye

Fuatilia jinsi mahakama itakavyotafsiri kipengele cha "njia ambayo mtu mwingine anaweza kuyaona", na kama Anthropic itachapisha maelezo zaidi kuhusu mchakato wake wa ukaguzi na upelekaji kwa mamlaka. Shtaka likistahimili pingamizi, tarajia watoa huduma wengine waulizwe swali hilohilo: ni wakati gani mazungumzo yaliyowekewa alama hugeuka kuwa ripoti ya polisi?