AI inayoelezeka katika AML: SHAP, uwashaji kwa idhini ya watu wawili (four-eyes) na swichi ya kuzima

Muundo unaompa mteja alama ya hatari kubwa lakini hauwezi kukueleza kwa nini si rasilimali kwa mpango wako wa uzingatiaji; ni dhima inayomngoja mkaguzi. Ahadi ya akili bandia (AI) katika kazi ya kupambana na utakatishaji fedha haramu (AML) ni ya kweli — upangaji bora wa vipaumbele vya tahadhari, saa chache zinazopotea kwenye tahadhari zisizo sahihi (false positives) zilizo dhahiri, na kuona mapema mienendo ambayo kanuni ingeikosa. Lakini ahadi hiyo hutimia tu ikiwa kila uamuzi unaoguswa na muundo unaweza kuelezwa, kuhojiwa na kubatilishwa na binadamu, na ikiwa muundo wenyewe unasimamiwa kama sehemu ya miundombinu yenye athari kubwa, jinsi ulivyo hasa. AI inayoelezeka katika AML — sababu 3 kuu za SHAP, alama za uhakika, udhibiti wa binadamu katika kila uamuzi (human-in-the-loop), uwashaji kwa idhini ya watu wawili, ufuatiliaji wa mkengeuko (drift) na swichi ya kuzima — ndiyo inayogeuza muundo werevu kuwa muundo unaoweza kutetewa.

Makala hii inahusu tofauti hiyo. Inaeleza kwa nini upimaji wa "sanduku jeusi" (black-box) hushindwa katika usimamizi wa hatari za miundo, kile ambacho uwezo wa kuelezeka unapaswa hasa kuonyesha kwenye skrini iliyo mbele ya mchambuzi, na jinsi udhibiti unaozunguka muundo — rejista, uwashaji, ufuatiliaji, urejeshaji wa toleo la awali (rollback) na urekodi wa maamuzi — unavyoiweka AI ndani ya mipaka inayowekwa na wasimamizi na sera yako mwenyewe ya hatari za miundo. Kuhusu jinsi AI inavyoingia katika mpango mpana pamoja na tathmini ya hatari, uchujaji, ufuatiliaji na kuripoti, angalia mwongozo kamili wa jukwaa la AML. Makala hii inaangazia kwa karibu muundo wenyewe na usimamizi unaouzunguka.

Kwa nini upimaji wa sanduku jeusi hushindwa katika usimamizi wa AML

Usimamizi wa hatari za miundo (model risk management) una matarajio yaliyokwisha kuimarika, na yalikuwepo kabla ya wimbi la sasa la ujifunzaji wa mashine (machine learning). Muundo unaoathiri uamuzi unaodhibitiwa lazima ueleweke na watu wanaoutegemea. Dhana zake lazima ziandikwe, utendaji wake ufuatiliwe, mapungufu yake yajulikane, na matokeo yake yawe chini ya uhoji madhubuti wa binadamu. Wasimamizi hutarajia taasisi zijue jinsi miundo yao inavyofanya kazi, si tu kwamba inafanya kazi.

Alama ya sanduku jeusi huvunja matarajio hayo yote kwa wakati mmoja. Muundo unaporudisha "0.87" na hakuna kingine, mchambuzi hawezi kujua kama tarakimu hiyo inaakisi ishara halisi ya hatari au ni kasoro inayotokana na data iliyotumika kuufunza muundo. Afisa wa kuripoti utakatishaji fedha (MLRO) hawezi kumweleza mdhibiti maamuzi ya hatari ya taasisi. Kitengo cha uthibitishaji wa miundo hakiwezi kupima kama muundo unafanya kile unachodai kufanya. Na jambo linapokwenda kombo — kundi zima la wateja likiibuliwa kupita kiasi kwa namna ya kimfumo, au njia fulani ya miamala ikikosekana kimya kimya — hakuna uzi wa kuvuta, kwa sababu hoja zenyewe hazikuwahi kuwekwa wazi tangu mwanzo.

Kushindwa huku si kwa kiufundi tu; ni kwa kiutaratibu pia. Maamuzi ya AML lazima yastahimili uchunguzi muda mrefu baada ya kufanywa. Uamuzi kuhusu shughuli yenye mashaka unaofanywa leo unaweza kuhojiwa katika ukaguzi miaka miwili kuanzia sasa. Ikiwa rekodi pekee ya mchango wa muundo ni namba isiyoeleweka, taasisi haiwezi kuunda upya sababu za mteja kupandishwa ngazi au kuondolewa shaka. Uamuzi huwa hauwezi kutetewa si kwa sababu ulikuwa mbaya, bali kwa sababu hauwezi kuonyeshwa kuwa ulitokana na hoja. Ndiyo sababu uwezo wa kuelezeka si kipengele cha ziada kilichobandikwa kwenye muundo wa AML. Ni sharti la msingi la kuutumia muundo huo hata kidogo.

Kile ambacho uwezo wa kuelezeka unapaswa kuonyesha kwenye skrini

Uwezo wa kuelezeka ni jambo halisi, si matamanio. Katika Jukwaa la AML la Creodata, huduma ya Uendeshaji wa miundo ya AI (AI Inference) imejengwa ili kila sehemu ya AI — popote ambapo muundo huchangia alama au pendekezo — ibebe mambo manne yaleyale, yanayoonekana kwa mchambuzi wakati wa kufanya uamuzi.

• Lebo ya utambulisho. Kila sehemu ya AI huonyesha lebo ya "AI · model · vversion". Mchambuzi huona, bila kuchimba, kwamba AI ilihusika, ni muundo upi ulizalisha matokeo, na ni toleo lipi la muundo huo. Hakuna uamuzi wa mashine uliofichwa unaojifanya kuwa ukweli wa mfumo.
• Sababu 3 kuu za SHAP. Kila alama huja na vigezo vitatu vilivyoiathiri zaidi, vinavyotokana na mgawanyo wa michango kwa mtindo wa SHAP (SHAP-style attribution). Badala ya "0.87", mchambuzi huona vigezo vitatu vinavyosukuma alama juu au chini — uhusiano na nchi fulani, mwenendo wa miamala, ishara ya uchujaji — vikiwa vimepangwa kulingana na mchango wake. Hoja ziko wazi juu juu, hazijazikwa ndani ya muundo ambao mchambuzi hataufungua kamwe.
• Asilimia ya uhakika. Matokeo hueleza kiwango cha uhakika wa muundo. Tahadhari yenye uhakika mkubwa na ile iliyo mpakani husomeka tofauti, na mchambuzi anaweza kuzipa uzito unaostahili badala ya kuchukulia kila alama kuwa na uhakika sawa.
• Udhibiti wa binadamu wa kukubali, kurekebisha au kukataa (Accept / Modify / Reject). Muundo hupendekeza; binadamu huamua. Kila sehemu ya AI humpa mchambuzi kidhibiti cha wazi cha kukubali matokeo ya muundo, kuyarekebisha au kuyakataa kabisa. Muundo hauchukui hatua peke yake kamwe. Ni mchango katika uamuzi wa binadamu, kamwe si mbadala wake.

Hivi ndivyo kumshirikisha binadamu katika kila uamuzi (human-in-the-loop) kunavyomaanisha kwa vitendo. Mchambuzi haombwi kupitisha tu, bila kuhoji, namba asiyoweza kuichunguza. Hupewa pendekezo lenye lebo, lililoelezwa na kupimwa kwa kiasi, pamoja na njia ya wazi ya kulibatilisha. Hoja zilezile za sababu 3 kuu za SHAP zinazojitokeza hapa huendelea pia hadi kwenye uchunguzi wa kesi, hivyo tahadhari inapofikia hatua ya kuwa kesi, mchambuzi tayari huona kwa nini muundo ulichangia na anaweza kuchunguza alama za AI sambamba na mantiki ya kanuni iliyotoa tahadhari badala ya kuzichukulia hizo mbili kama mifumo tofauti isiyowajibika.

Uwezo wa kuelezeka una faida ya pili ambayo timu za uzingatiaji huihisi mara moja: huiwezesha AI kupunguza tahadhari zisizo sahihi bila kuwa chanzo kipya cha kelele isiyoelezeka. Muundo unaposhusha nafasi ya ulinganifu fulani, huonyesha sababu, hivyo mchambuzi anaweza kuamini ushushaji huo wa kipaumbele badala ya kuuogopa. Hiyo ndiyo tofauti kati ya muundo unaozima tahadhari kimya kimya na ule unaomsaidia mchambuzi kuzifunga kwa njia inayoweza kutetewa — mada iliyochambuliwa kwa kina katika jinsi AI inavyopunguza tahadhari zisizo sahihi kwa njia unayoweza kuitetea mbele ya mkaguzi.

Kusimamia muundo, si matokeo yake tu

Kueleza alama moja ni muhimu lakini hakutoshi. Muundo wenyewe ni kitu kinachodhibitiwa chenye mzunguko wa maisha, na usimamizi wa AML hutarajia udhibiti unaozunguka mzunguko huo uwe madhubuti kama udhibiti unaozunguka badiliko lingine lolote muhimu katika mfumo wa uzingatiaji. Huduma ya Uendeshaji wa miundo ya AI huushughulikia muundo kwa namna ileile ambayo sehemu nyingine za jukwaa hushughulikia hatua yoyote nyeti.

Rejista na uwashaji kwa idhini ya watu wawili

Miundo haiingii katika mazingira halisi ya kazi kwa bahati mbaya. Huduma hii huendesha rejista ya miundo iliyojengwa ndani ya jukwaa — rekodi inayodhibitiwa ya kila muundo na kila toleo linalopatikana kwa mteja husika (tenant). Kuanza kutumia muundo katika mazingira halisi ni hatua yenye athari kubwa, hivyo hulindwa na uwashaji kwa idhini ya watu wawili (four-eyes activation): mtu mmoja hupendekeza uwashaji, na mtu wa pili anayejitegemea huuidhinisha. Hakuna mtu mmoja anayeweza peke yake kuingiza muundo mpya, au toleo jipya la muundo uliopo, katika maamuzi yanayowaathiri wateja. Hili linaakisi kanuni ya idhini ya watu wawili inayolinda kila hatua nyingine muhimu katika jukwaa zima, kuanzia ubatilishaji wa ukadiriaji wa hatari hadi uwasilishaji wa ripoti, na hukipa kitengo cha uthibitishaji wa miundo kituo cha asili cha udhibiti: muundo hauwezi kuanza kutumika hadi jozi ya pili ya macho yenye mamlaka iwe imeidhinisha.

Swichi ya kuzima

Muundo unapoanza kwenda kombo — mkengeuko, mwenendo usiotarajiwa wa matokeo, dosari iliyobainishwa na kitengo cha uthibitishaji — kusubiri si chaguo. Huduma hutoa swichi ya kuzima (kill switch): njia ya papo hapo ya kuuondoa muundo kazini. Uwashaji umeundwa kwa makusudi kuwa wa tahadhari na wa polepole; uzimaji umeundwa kwa makusudi kuwa wa haraka. Tofauti hiyo ndiyo lengo lenyewe. Kuwasha muundo kunapaswa kuhitaji uangalifu na sahihi ya pili; kuuzima jambo linapoonekana kwenda vibaya hakupaswi kuhitaji ucheleweshaji wala mjadala.

Ufuatiliaji wa haki na mkengeuko

Muundo uliokuwa sahihi wakati wa kuwashwa haubaki sahihi wenyewe. Tabia za wateja hubadilika, mbinu za uhalifu (typologies) hubadilika, na data inayolisha muundo husogea chini yake. Huduma huendesha mfululizo ufuatiliaji wa haki na mkengeuko (fairness and drift monitoring), ikichunguza kama utendaji wa muundo unashuka au matokeo yake yanaegemea dhidi ya kundi fulani la wateja kwa namna ambayo taasisi haikuwahi kukusudia. Ufuatiliaji ndio unaogeuza swichi ya kuzima kutoka kitufe cha dharura kuwa udhibiti unaosimamiwa — hukueleza lini uitumie, kabla hujaelezwa hilo na mkaguzi au na ripoti iliyokosekana.

Urejeshaji wa toleo la awali (rollback)

Uwashaji unaweza kutenguliwa. Mchanganyiko wa rejista yenye matoleo na urejeshaji wa toleo la awali (rollback) humaanisha kwamba toleo jipya la muundo likifanya kazi chini ya kiwango, taasisi inaweza kurudi kwenye toleo lililothibitishwa awali kwa urahisi, bila kulijenga upya kwa mkono. Mabadiliko ya miundo huwa maamuzi yanayoweza kutenguliwa badala ya milango ya njia moja, na hiyo ndiyo sifa hasa ambayo kitengo cha uthibitishaji hutaka kinapoidhinisha toleo jipya kuanza kutumika.

Kurekodi uamuzi ili ustahimili ukaguzi

Tabaka la mwisho la usimamizi ni rekodi. Uamuzi wa AI usioweza kuundwa upya baadaye, kwa madhumuni ya ukaguzi, si uamuzi hata kidogo. Huduma ya Uendeshaji wa miundo ya AI hurekodi kila uamuzi muhimu wa AI pamoja na mambo matatu yanayouwezesha kuundwa upya: toleo la muundo lililouzalisha, hashi ya data iliyoingizwa (inputs hash) inayonasa hasa kile ambacho muundo uliona, na matokeo ya SHAP yanayoeleza kwa nini ulitoa alama ulivyotoa.

Mambo hayo matatu ni muhimu kwa sababu hujibu maswali matatu ambayo mkaguzi au mhakiki wa ndani atauliza kuhusu uamuzi wowote wa zamani. Ni muundo upi uliamua hili? Toleo. Uliamua kwa msingi wa nini? Hashi ya data iliyoingizwa, inayofunga data halisi iliyolishwa kwa muundo ili isiweze kupingwa kimya kimya baadaye. Kwa nini uliamua hivyo? Matokeo ya SHAP, yaliyohifadhiwa pamoja na alama. Kwa pamoja huiwezesha taasisi kusimama nyuma ya uamuzi uliofanywa miezi au miaka kadhaa iliyopita, si kwa kuukumbuka, bali kwa kuucheza upya kutoka kwenye rekodi.

Kwa kuwa maamuzi haya huingia katika kumbukumbu zilezile za ukaguzi zinazoongezewa tu bila kufutwa (append-only) na zisizoweza kubadilishwa, ambamo sehemu nyingine za jukwaa huandika, hukaa kando ya hatua za kibinadamu zinazoyazunguka — nani alikubali au kukataa matokeo ya muundo, nani aliwasha muundo, nani aliidhinisha uwashaji huo. Mchango wa muundo si tabaka tofauti lisilowajibika; ni sehemu ya rekodi moja endelevu ya ushahidi. Kuhusu jinsi rekodi hiyo inavyojengwa na kulindwa katika jukwaa zima, angalia jinsi maamuzi ya AI yanavyorekodiwa katika kumbukumbu za ukaguzi chini ya udhibiti wa idhini ya watu wawiliEN.

Jinsi skrini na rekodi zinavyowiana

Nusu mbili za AI inayoelezeka — kile ambacho mchambuzi huona na kile ambacho mfumo hurekodi — kwa makusudi ni taarifa ileile, iliyonaswa kwa wakati mmoja.

Hakuna kitu ambacho mchambuzi hutegemea wakati wa uamuzi kinachopotea baadaye, na hakuna kitu katika rekodi kilichofichwa kwa mchambuzi wakati huo. Uwiano huo ndio unaoifanya AI iweze kutetewa: maelezo yaliyoonyeshwa na maelezo yaliyohifadhiwa ni kitu kimoja.

Jinsi hali bora inavyoonekana

Uwezo wa AI unaosimamiwa vizuri katika mpango wa AML hutambulika. Kila tokeo la AI ambalo mchambuzi huona lina lebo, limeelezwa kwa sababu 3 kuu za SHAP, limepimwa kwa asilimia ya uhakika, na linaambatana na kidhibiti cha kulikubali, kulirekebisha au kulikataa. Hakuna muundo unaofikia mazingira halisi ya kazi bila watu wawili wenye mamlaka kukubaliana kuuwasha. Muundo unaokwenda kombo unaweza kusimamishwa ndani ya muda mfupi. Haki na mkengeuko hufuatiliwa mfululizo, si kukaguliwa mara moja kwa mwaka. Matoleo yanaweza kurejeshwa nyuma, na kila uamuzi muhimu hurekodiwa pamoja na toleo lake la muundo, hashi ya data iliyoingizwa na hoja zake ili uweze kuundwa upya muda mrefu baadaye.

Matokeo yake ni AI inayostahili nafasi yake katika mpango badala ya kuudhoofisha. Muundo hunoa ugunduzi na kupunguza juhudi zinazopotea, huku usimamizi ukiweka kila uamuzi ndani ya mipaka inayotarajiwa na sera yako ya hatari za miundo na msimamizi wako. Hiyo ndiyo aina pekee ya AI inayofaa kuendeshwa katika kitengo cha AML kinachodhibitiwa — yenye manufaa kwa sababu inaelezeka, na inayoweza kutumika kwa sababu inasimamiwa.

Maswali yanayoulizwa mara kwa mara

Je, kutumia AI katika AML humaanisha kwamba muundo ndio hufanya uamuzi?

Hapana. Katika jukwaa la Creodata muundo hauamui kamwe peke yake. Kila sehemu ya AI huwasilisha pendekezo lenye lebo, lililoelezwa kwa SHAP na lenye alama ya uhakika, na mchambuzi hufanya uamuzi kupitia kidhibiti cha wazi cha kukubali, kurekebisha au kukataa (Accept, Modify, Reject). Muundo ni mchango katika uamuzi wa binadamu, na hatua ya binadamu hurekodiwa pamoja na matokeo ya muundo.

SHAP ni nini na kwa nini ni muhimu kwa uzingatiaji?

SHAP ni mbinu ya kugawa michango (attribution) inayopima kwa kiasi jinsi kila kigezo cha data iliyoingizwa kilivyochangia alama ya muundo. Kwa uzingatiaji ni muhimu kwa sababu huchukua nafasi ya namba isiyoeleweka kwa kuweka sababu 3 kuu zilizo nyuma yake, hivyo mchambuzi anaweza kuichunguza alama, MLRO anaweza kumweleza mdhibiti uamuzi, na kitengo cha uthibitishaji kinaweza kupima kama muundo unafikia hitimisho kwa namna inavyopaswa.

Muundo mpya wa AML huanzishwa vipi kwa usalama katika mazingira halisi ya kazi?

Kupitia rejista ya miundo na uwashaji kwa idhini ya watu wawili. Muundo na toleo lake huhifadhiwa katika rejista inayodhibitiwa, na kuanza kuutumia katika mazingira halisi kunahitaji mtu mmoja kupendekeza uwashaji na mtu wa pili anayejitegemea kuuidhinisha. Muundo ukija kwenda kombo baadaye, swichi ya kuzima huuondoa kazini mara moja, na urejeshaji wa toleo la awali humrudisha mteja husika (tenant) kwenye toleo lililothibitishwa awali.

Unathibitishaje baadaye uamuzi uliosaidiwa na AI?

Kwa kuucheza upya kutoka kwenye rekodi. Kila uamuzi muhimu wa AI hurekodiwa pamoja na toleo la muundo, hashi ya data iliyoingizwa inayofunga hasa kile ambacho muundo ulikipa alama, na matokeo ya SHAP yanayoeleza alama hiyo, vyote katika kumbukumbu za ukaguzi za jukwaa zinazoongezewa tu bila kufutwa. Hilo huiwezesha taasisi kuunda upya kwa usahihi kile kilichoamuliwa, kwa data ipi, na kwa nini — miezi au miaka kadhaa baadaye.

AI inayoelezeka na inayosimamiwa ndiyo tofauti kati ya muundo unaowasaidia wachambuzi wako na ule unaouweka mpango wako hatarini. Ili kuona jinsi maelezo ya SHAP, uwashaji kwa idhini ya watu wawili, swichi ya kuzima, ufuatiliaji wa mkengeuko na urekodi wa maamuzi vinavyofanya kazi pamoja katika mpango halisi wa AML — na jinsi udhibiti huo huo unavyoenea hadi kwenye ripoti za goAML na huduma zetu za ushauri kuhusu uzingatiaji dhidi ya uhalifu wa kifedha — panga onyesho la Jukwaa la AML la Creodata.