Argon ya Google hurekebisha udhaifu wa programu yenyewe, ikiwasilishwa bila kinga za usalama wa mtandao

Tarehe 30 Septemba, Google ilitangaza Gemini 4 Argon na kusema kwamba, kwa watetezi wanaoaminika na timu zake za ndani, itatoa modeli hiyo bila kinga za usalama wa mtandao (cyber guardrails). Sababu, kulingana na Google, ni kwamba Argon inaweza kutafuta, kuthibitisha na kurekebisha kwa kujitegemea udhaifu hatari wa programu, na uwezo kamili ndio lengo lenyewe. Upatikanaji unaanza kwanza kupitia Fairwind Program kwa kundi la watetezi wa usalama wa mtandao wanaoaminika. Wengine wote wanasubiri.

Kile Google Inasema Argon Inaweza Kufanya

Argon inaelezwa kuwa imeundwa kwa kazi ndefu za hatua nyingi: uhandisi wa programu, kazi za kisheria na za fedha, na usalama wa kujilinda. Google inaripoti alama 77.9% kwenye DeepSWE v1.1, kipimo cha uhandisi wa programu wa muda mrefu, na 68% kwenye CWE-bench v1, ambayo inajaribu kama modeli inaweza kurekebisha udhaifu wa usalama, ikiwa sawa na iliyo ya kwanza. Pia inaripoti alama 51.3% kwenye AutomationBench ya Zapier na 91.7% kwenye LVBench kwa uelewa wa video ndefu. Hizi ni takwimu za kampuni yenyewe, na chanzo hakisemi ni nani aliyeendesha kila tathmini.

Dai la usalama lililo wazi zaidi linatoka kwa Wiz, ambayo ilitumia Argon katika programu yake ya Scan for Good ya kulinda miundombinu ya umma. Kulingana na Google, modeli hiyo iligundua udhaifu hatari unaofichua taarifa nyeti za kibinafsi kwenye programu za afya zinazotumiwa na hospitali duniani kote, hatari ambayo modeli za awali za hali ya juu zilikuwa zimeikosa.

Jinsi Urekebishaji wa Kujitegemea Unavyofanya Kazi, na Kwa Nini Una Pande Mbili

Kutafuta udhaifu na kuurekebisha ni ujuzi tofauti. Ugunduzi unamaanisha kusoma msimbo, au kuchunguza mfumo hai bila msimbo chanzo kabisa (kile ambacho jaribio la kupenya la black-box la Wiz hupima), na kubaini mahali ambapo mshambuliaji anaweza kuingia. Uthibitishaji unamaanisha kutengeneza uthibitisho wa dhana (proof of concept) unaoonyesha kwamba kasoro ni halisi, jambo linalochuja kengele za uongo zinazozidiwa na timu za usalama za binadamu. Urekebishaji unamaanisha kuandika badiliko linalofunga pengo bila kuvunja kitu kingine chochote. Argon inadaiwa kufanya hatua zote tatu bila binadamu kuongoza kila hatua.

Mfuatano huohuo unaelezea shambulio. Mfumo unaoweza kupata na kutumia kasoro ili kuthibitisha uwepo wake, hatua kwa hatua, unafanya kile anachofanya mvamizi. Ndiyo maana Google inazuia upatikanaji na kuondoa kinga kwa watumiaji waliokaguliwa tu: kinga hizo kwa kawaida hufanya modeli ikatae maombi ya aina hii hasa. Matokeo ya vitendo ni kwamba toleo la kujilinda na toleo la kushambulia la uwezo huu hutofautiana hasa kwa yule anayeshikilia funguo.

Dai linalohusiana kutoka kwenye tangazo ni kikomo cha matokeo cha tokeni 1M cha Argon, kutoka 64K. Kwa lugha rahisi, modeli inaweza kuzalisha mengi zaidi katika uendeshaji mmoja, jambo linaloiruhusu kukamilisha uchunguzi mrefu au uandishi upya bila kusimama. Google inasema hii inaongeza kina cha hoja kwenye matatizo magumu.

Nani Anafaidika, na Nani Hajagundua

Washindi walio wazi zaidi ni mashirika yanayoendesha mifumo muhimu na yasiyo na timu kubwa za usalama, kama hospitali na waendeshaji wa miundombinu ya umma, ikiwa watetezi watafikia kasoro zao kabla ya washambuliaji. Mashirika ya uhandisi pia yanafaidika: Google inasema mawakala wa Argon wanahamisha msimbo wa C/C++ kwenda Rust, ikiwemo mistari 800K+ kwa kernel ya Fuchsia Zircon, na waliongeza kasi ya kisimbuzi cha video kinachotumia kumbukumbu kwa usalama mara 2.7 zaidi ya toleo la Rust lililopo, kwa matokeo yaliyofanana kabisa.

Kundi lililo hatarini ni kila mtu ambaye programu yake iko kwenye foleni. Ikiwa watetezi watapata zana hizi kwanza, kila tegemezi lisilorekebishwa linakuwa kipimo cha muda kinachohesabu kurudi nyuma. Wauzaji wadogo wasio na ufikiaji wa Fairwind wanaweza kujua kuhusu kasoro zao kutoka kwa uchunguzi wa mtu mwingine. Argon inazinduliwa kwa bei ya utangulizi ya $2 kwa kila tokeni milioni moja za pembejeo na $10 kwa kila tokeni milioni moja za matokeo, hivyo gharama za kuchunguza kwa kiwango kikubwa hazitakuwa kikwazo mara upatikanaji utakapofunguliwa.

Maswali Unayopaswa Kujiuliza

• Nani anaamua ni watetezi gani wanahesabika kuwa "wanaoaminika," ukaguzi wa Fairwind unahusisha nini, na nini hutokea mmoja wao anapovamiwa?
• Google inasema modeli isiyo na kinga inakwenda kwa timu za ndani pia. Ni udhibiti gani unazuia kitambulisho kilichoibwa au mtu wa ndani aliyedukuliwa kuigeuza kuwa zana ya shambulio?
• Kasoro ya afya ilipatikana, lakini je, ilirekebishwa, na hospitali zinazotumia programu hiyo zilibaki wazi kwa muda gani kabla ya kufichuliwa?
• Alama 68% ya Argon kwenye CWE-bench v1 ni sawa na iliyo ya kwanza. Inakosea nini katika asilimia 32 nyingine ya nyakati, na nani anakagua marekebisho kabla hayajatolewa?
• Uhamishaji wa Rust bado uko chini ya ukaguzi na majaribio ya emulation. Ni mistari mingapi ya msimbo wa kernel ulioandikwa na AI ambayo Google inaiona kuwa tayari kwa uzalishaji, na kwa ushahidi gani?

Cha Kufuatilia Baadaye

Ishara ni pengo kati ya Fairwind na toleo la umma. Google inasema itapanua kwa wateja wa API wanaolipa na wanaojisajili kwa Google AI Ultra mara kinga zitakapoimarishwa, na kwamba inashiriki katika mchakato wa hiari wa upatikanaji wa kabla ya kutolewa wa serikali ya Marekani. Ikiwa toleo la jumla litakuja na kinga zinazodumu chini ya majaribio ya nje, na udhaifu uliofichuliwa ukaanza kurekebishwa kwa kasi zaidi, dau la kujilinda linalipa. Ikiwa toleo lisilo na kinga litaonekana kwanza kwenye ripoti za matumizi mabaya, hiyo inakuonyesha mizani iko wapi hasa.