ML-For-Beginners/translations/sw/1-Introduction/3-fairness

Kujenga suluhisho za Kujifunza kwa Mashine kwa AI yenye Uwajibikaji

Sketchnote na Tomomi Imura

Mtihani wa kabla ya mihadhara

Utangulizi

Katika mtaala huu, utaanza kugundua jinsi kujifunza kwa mashine kunavyoweza na kuathiri maisha yetu ya kila siku. Hata sasa, mifumo na modeli zinahusika katika kazi za maamuzi ya kila siku, kama vile utambuzi wa matibabu, kuidhinisha mikopo au kugundua ulaghai. Kwa hivyo, ni muhimu kwamba modeli hizi zifanye kazi vizuri kutoa matokeo ambayo yanaaminika. Kama ilivyo kwa programu yoyote, mifumo ya AI itakosa matarajio au kupata matokeo yasiyotakikana. Ndio maana ni muhimu kuelewa na kueleza tabia ya mfano wa AI.

Fikiria kinachoweza kutokea wakati data unayotumia kujenga modeli hizi haijumuishi makundi fulani ya watu, kama vile rangi, jinsia, mtazamo wa kisiasa, dini, au inawakilisha makundi hayo kwa njia isiyo ya usawa. Vipi kuhusu wakati matokeo ya mfano yanatafsiriwa kupendelea kundi fulani la watu? Ni madhara gani kwa matumizi yake? Zaidi ya hayo, nini kinapotokea wakati mfano unatoa matokeo mabaya na yanayoharibu watu? Nani anawajibika kwa tabia ya mifumo ya AI? Hizi ni baadhi ya maswali tutakayachambua katika mtaala huu.

Katika somo hili, utajifunza:

• Kuongeza uelewa wako kuhusu umuhimu wa usawa katika kujifunza kwa mashine na madhara yanayohusiana na usawa.
• Kufahamiana na mazoezi ya kuchunguza matukio yasiyo ya kawaida na waasi ili kuhakikisha uaminifu na usalama
• Kupata uelewa wa hitaji la kuwawezesha kila mtu kwa kubuni mifumo jumuishi
• Kuchunguza jinsi ilivyo muhimu kulinda faragha na usalama wa data na watu
• Kuona umuhimu wa kuwa na njia ya uwazi kueleza tabia za modeli za AI
• Kuwa makini jinsi uwajibikaji ulivyo muhimu kujenga imani katika mifumo ya AI

Mahitaji ya awali

Kama hitaji la awali, tafadhali chukua Njia ya Kujifunza "Kanuni za AI yenye Uwajibikaji" na tazama video hapa chini kuhusu mada hiyo:

Jifunze zaidi kuhusu AI yenye Uwajibikaji kwa kufuata Njia ya Kujifunza

🎥 Bonyeza picha hapo juu kupata video: Njia ya Microsoft kuelekea AI yenye Uwajibikaji

Usawa

Mifumo ya AI inapaswa kutenda kwa haki kwa kila mtu na kuepuka kuathiri makundi yanayofanana ya watu kwa njia tofauti. Kwa mfano, wakati mifumo ya AI inatoa mwongozo juu ya matibabu ya afya, maombi ya mikopo, au ajira, inapaswa kutoa mapendekezo sawa kwa kila mtu aliye na dalili, hali za kifedha, au sifa za kitaaluma zinazofanana. Kila mtu wetu kama binadamu tunabeba upendeleo ulio dhahiri ambao huathiri maamuzi na matendo yetu. Upendeleo huu unaweza kuonekana katika data tunayotumia kufundisha mifumo ya AI. Uendeshaji huu unaweza kutokea mara nyingine bila makusudi. Mara nyingi ni vigumu kwa makusudi kujua wakati unachangia upendeleo katika data.

“Kutokuwa na usawa” kunajumuisha athari mbaya, au “madhara”, kwa kundi la watu, kama vile wale waliotajwa kwa misingi ya rangi, jinsia, umri, au hali ya ulemavu. Madhara makuu yanayohusiana na usawa yanaweza kugawanywa kama:

• Mgawanyo, kama jinsia au kabila kwa mfano linafavored zaidi kuliko jingine.
• Ubora wa huduma. Ikiwa unafundisha data kwa hali moja maalum lakini uhalisia ni mgumu zaidi, husababisha huduma duni. Kwa mfano, kifaa cha kupeperusha sabuni mikononi kisichoweza kugundua watu wenye ngozi nyeusi. Marejeleo
• Kudharau. Kukosoa kwa njia isiyo haki na kutilia sifa kitu au mtu. Kwa mfano, teknolojia ya kutambulisha picha ilitambulisha picha za watu wenye ngozi nyeusi kama gorila kwa ujinga.
• Uwawakilishi kupita kiasi au wa chini. Wazo ni kwamba kundi fulani halioniwi katika taaluma fulani, na huduma au kazi yoyote inayohamasisha hilo inachangia madhara.
• Kuweka dhana potofu. Kuunganisha kundi fulani na sifa zilizotengwa awali. Kwa mfano, mfumo wa kutafsiri lugha kati ya Kiingereza na Kituruki unaweza kuwa na makosa kutokana na maneno yenye muunganiko wa kijinsia.

tafsiri kwa Kituruki

tafsiri kurudi Kiingereza

Wakati wa kubuni na kujaribu mifumo ya AI, tunahitaji kuhakikisha kwamba AI ni ya haki na haipangi na kufanya maamuzi yenye ubaguzi au upendeleo, jambo ambalo binadamu pia wamefungwa kufanya. Kuhakikisha usawa katika AI na kujifunza kwa mashine ni changamoto ngumu za kijamii na kiteknolojia.

Uaminifu na usalama

Ili kujenga imani, mifumo ya AI inapaswa kuwa ya kuaminika, salama, na thabiti chini ya hali za kawaida na zisizotarajiwa. Ni muhimu kujua jinsi mifumo ya AI itakavyo jibu katika hali tofauti, hasa zile zisizo za kawaida. Wakati wa kujenga suluhisho za AI, inahitaji kuwepo na umakini mkubwa juu ya jinsi ya kushughulikia hali mbalimbali ambazo suluhisho la AI litakutana nazo. Kwa mfano, gari kinayotumia AI kinapaswa kuweka usalama wa watu kipaumbele cha juu. Katika matokeo, AI inayopatia gari hilo nguvu inapaswa kuzingatia hali zote zinazowezekana kama vile usiku, radi, mvua kubwa, watoto wakikimbia barabarani, wanyama wa kufugwa, ujenzi wa barabara n.k. Jinsi mfumo wa AI unavyoweza kushughulikia hali mbalimbali kwa uaminifu na usalama inaonyesha kiwango cha matarajio aliyochukulikiwa na mtaalamu wa data au mtaalamu wa AI wakati wa kubuni au kujaribu mfumo.

🎥 Bonyeza hapa kwa video: Uaminifu na usalama katika AI

Ushiriki jumuishi

Mifumo ya AI inapaswa kubuniwa kuwahusisha na kuwawezesha kila mtu. Wakati wa kubuni na kutekeleza mifumo ya AI, wataalamu wa data na waendelezaji wa AI hutambua na kushughulikia vizingiti vinavyoweza kuondoa watu kwa makusudi. Kwa mfano, kuna watu bilioni 1 wenye ulemavu duniani kote. Kwa maendeleo ya AI, wanaweza kupata taarifa na fursa mbalimbali kwa urahisi zaidi katika maisha yao ya kila siku. Kwa kushughulikia vizingiti, inaunda fursa za kuleta ubunifu na kuendeleza bidhaa za AI zenye uzoefu bora unaowanufaisha kila mtu.

🎥 Bonyeza hapa kwa video: Ushiriki jumuishi katika AI

Usalama na faragha

Mifumo ya AI inapaswa kuwa salama na kuheshimu faragha ya watu. Watu wana imani kidogo na mifumo inayoweka faragha yao, taarifa, au maisha yao hatarini. Wakati wa kufundisha modeli za kujifunza kwa mashine, tunategemea data kutoa matokeo bora zaidi. Katika kufanya hivyo, chanzo cha data na uadilifu lazima kuchukuliwe. Kwa mfano, data ilikuwa imetumwa na mtumiaji au inapatikana kwa umma? Kisha, wakati wa kufanya kazi na data, ni muhimu kuendeleza mifumo ya AI inayoweza kulinda taarifa za siri na kustahimili mashambulizi. AI inapokuwa maarufu zaidi, kulinda faragha na usalama wa taarifa muhimu za kibinafsi na biashara kunakuwa jambo muhimu na tata zaidi. Masuala ya faragha na usalama wa data yanahitaji umakini mkubwa hasa kwa AI kwa sababu upatikanaji wa data ni muhimu kwa mifumo ya AI kufanya utabiri na maamuzi sahihi na yenye taarifa kuhusu watu.

🎥 Bonyeza hapa kwa video: Usalama katika AI

• Kama sekta tumeendelea sana katika Faragha & usalama, imechochewa sana na kanuni kama GDPR (Kanuni ya Ulinzi wa Data kwa Jumla).
• Hata hivyo kwa mifumo ya AI lazima tukiri mvutano kati ya hitaji la data za kibinafsi zaidi kufanya mifumo kuwa ya kibinafsi na yenye ufanisi – na faragha.
• Kama ilivyokuwa kwa kuzaliwa kwa kompyuta zilizounganishwa na intaneti, tunashuhudia pia ongezeko kubwa la masuala ya usalama yanayohusiana na AI.
• Wakati huo huo, tumeona AI ikitumika kuboresha usalama. Kwa mfano, scanna nyingi za kisasa za antivirus zinatumia heuristics za AI leo.
• Tunahitaji kuhakikisha kuwa michakato yetu ya Sayansi ya Data inaendana vizuri na mbinu za hivi karibuni za faragha na usalama.

Uwajibikaji

Mifumo ya AI inapaswa kueleweka. Sehemu muhimu ya uwazi ni kueleza tabia za mifumo ya AI na vipengele vyake. Kuboresha uelewa wa mifumo ya AI kunahitaji wadau kuelewa jinsi na kwa nini mifumo inafanya kazi ili waweze kubaini masuala ya utendaji, usalama, na faragha, upendeleo, mazoea ya kuwatenga wengine, au matokeo yasiyotakikana. Pia tunaamini wale wanaotumia mifumo ya AI wanapaswa kuwa waaminifu na wa wazi kuhusu wakati, kwanini, na jinsi wanavyosumbua au kutumia mifumo hiyo. Pamoja na vizuizi vya mifumo wanazotumia. Kwa mfano, ikiwa benki inatumia mfumo wa AI kusaidia maamuzi ya mikopo kwa wateja, ni muhimu kuchunguza matokeo na kuelewa ni data gani inaathiri mapendekezo ya mfumo. Serikali zinaanza kuweka kanuni kwa AI katika sekta mbalimbali, kwa hivyo wataalamu wa data na mashirika lazima waeleze kama mfumo wa AI unakidhi mahitaji ya kisheria, hasa wakati kuna matokeo mabaya.

🎥 Bonyeza hapa kwa video: Uwazi katika AI

• Kwa sababu mifumo ya AI ni ngumu mno, ni vigumu kuelewa jinsi inavyofanya kazi na kutafsiri matokeo.
• Ukosefu huu wa uelewa huathiri jinsi mifumo hii inavyosimamiwa, kuendeshwa, na kuripotiwa.
• Ukosefu huu wa uelewa muhimu zaidi huathiri maamuzi yanayofanywa kwa kutumia matokeo ambayo mifumo hii hutoa.

Uwajibikaji

Watu wanaobuni na kuanzisha mifumo ya AI wanapaswa kuwajibika kwa jinsi mifumo yao inavyofanya kazi. Hitaji la uwajibikaji ni muhimu hasa kwa teknolojia zinazohusiana na matumizi nyeti kama utambuzi wa uso. Hivi karibuni, kumekuwa na mahitaji yanayoongezeka kwa teknolojia ya utambuzi wa uso, hasa kutoka kwa mashirika ya ulinzi wa sheria wanaoona uwezo wa teknolojia hiyo katika matumizi kama vile kutafuta watoto waliopotea. Hata hivyo, teknolojia hizi zinaweza kutumiwa na serikali kuweka hatarini uhuru wa msingi wa raia wao kwa mfano kwa kuwezesha uangalizi endelevu wa watu fulani. Hivyo, wataalamu wa data na mashirika wanapaswa kuwajibika kwa jinsi mfumo wao wa AI unavyoathiri watu binafsi au jamii.

🎥 Bonyeza picha hapo juu kwa video: Onyo la Uangalizi Mkubwa Kupitia Utambuzi wa Uso

Hatimaye moja ya maswali makubwa kwa kizazi chetu, kama kizazi cha kwanza kinachowasilisha AI kwa jamii, ni jinsi ya kuhakikisha kompyuta zitabaki kuwajibika kwa watu na jinsi ya kuhakikisha watu wanaobuni kompyuta watabaki kuwajibika kwa kila mtu mwingine.

Tathmini ya athari

Kabla ya kufundisha mfano wa kujifunza kwa mashine, ni muhimu kufanya tathmini ya athari ili kuelewa madhumuni ya mfumo wa AI; matumizi yanayokusudiwa; wapi utatumika; na nani atakayegusa na mfumo. Hizi ni muhimu kwa mkaguzi au mtendaji wa mitihani kuamua sababu za kuzingatia wakati wa kubaini hatari na matokeo yanayotarajiwa.

Hapa chini ni maeneo ya kuzingatia wakati wa kufanya tathmini ya athari:

• Madhara mabaya kwa watu binafsi. Kuwajua vikwazo vyovyote au mahitaji, matumizi yasiyo supported au vizingiti vinavyojulikana vinavyokwamisha utendaji wa mfumo ni muhimu kuhakikisha mfumo hautumiwi kwa njia inayoweza kuathiri watu binafsi.
• Mahitaji ya data. Kupata uelewa wa jinsi na wapi mfumo utakavyotumia data kunawasaidia wakaguzi kuchunguza mahitaji yoyote ya data yanayopaswa kuzingatiwa (mfano GDPR au kanuni za HIPAA). Zaidi, angalia kama chanzo au kiasi cha data ni cha kutosha kwa ajili ya kufundisha.
• Muhtasari wa athari. Kusanya orodha ya madhara yanayoweza kutokea kutokana na kutumia mfumo. Kwenye mzunguko wa maisha wa ML, angalia kama masuala yaliyoainishwa yamepunguzwa au kushughulikiwa.
• Malengo yanayohusika kwa kila kanuni kuu sita. Tathmini kama malengo ya kila kanuni yamekamilika na kama kuna mapungufu yoyote.

Kurekebisha tatizo kwa AI yenye Uwajibikaji

Kama vile kurekebisha programu za kompyuta, kurekebisha mfumo wa AI ni mchakato muhimu wa kubaini na kutatua matatizo kwenye mfumo. Kuna sababu nyingi zinazoathiri mfano usifanya kazi kama inavyotarajiwa au kwa uwajibikaji. Kipimo cha utendaji cha kawaida cha modeli ni jumla ya utendaji wa modeli, ambayo haitoshi kuchambua jinsi mfano unavyokiuka kanuni za AI yenye uwajibikaji. Zaidi ya hayo, mfano wa kujifunza kwa mashine ni kisanduku giza kinachofanya iwe vigumu kuelewa kinachosababisha matokeo yake au kutoa maelezo wakati unafanya kosa. Baadaye katika kozi hii, tuta jifunza jinsi ya kutumia dashibodi ya AI yenye Uwajibikaji kusaidia katika kurekebisha mifumo ya AI. Dashibodi hutoa zana kamili kwa wataalamu wa data na waendelezaji wa AI kufanya:

• Uchambuzi wa makosa. Kubaini usambazaji wa makosa ya mfano ambayo inaweza kuathiri usawa au uaminifu wa mfumo.
• Muhtasari wa mfano. Kugundua wapi kuna tofauti katika utendaji wa mfano kati ya makundi ya data.
• Uchambuzi wa data. Kuelewa usambazaji wa data na kubaini upendeleo wowote unaoweza kusababisha masuala ya usawa, ushiriki jumuishi, na uaminifu.
• Ufahamu wa mfano. Kuelewa kinachoathiri au kuathiri utabiri wa mfano. Hii husaidia katika kueleza tabia ya mfano, jambo muhimu kwa uwazi na uwajibikaji.

🚀 Changamoto

Ili kuzuia madhara kutokea tangu mwanzo, tunapaswa:

• kuwa na utofauti wa asili na mitazamo kati ya watu wanaofanya kazi kwenye mifumo
• kuwekeza katika seti za data zinazoakisi utofauti wa jamii yetu
• kuendeleza mbinu bora katika mzunguko wa maisha ya kujifunza kwa mashine kugundua na kurekebisha AI isiyo ya uwajibikaji inapojitokeza

Fikiria hali halisi ambapo kutokuwa na uaminifu kwa mfano kunaonekana wazi katika ujenzi wa mfano na matumizi. Nini kingine tunapaswa kuzingatia?

Mtihani wa baada ya mihadhara

Mapitio & Kujifunza binafsi

Katika somo hili, umejifunza baadhi ya misingi ya dhana za usawa na kutokuwa na usawa katika kujifunza kwa mashine.

Tazama warsha hii ili kutaftia kwa undani zaidi mada hizi:

• Katika kuendeleza AI yenye Uwajibikaji: Kuleta kanuni kwenye mazoezi na Besmira Nushi, Mehrnoosh Sameki na Amit Sharma

🎥 Bonyeza picha hapo juu kwa video: Sanduku la Zana za RAI: Mfumo wa chanzo wazi wa kujenga AI zilizo na uwajibikaji na Besmira Nushi, Mehrnoosh Sameki, na Amit Sharma

Pia, soma:

• Kituo cha rasilimali cha RAI cha Microsoft: Rasilimali za AI Zilizohakikisha – Microsoft AI

• Kikundi cha utafiti cha FATE cha Microsoft: FATE: Haki, Uwajibikaji, Uw透明bazaji, na Maadili katika AI - Utafiti wa Microsoft

Sanduku la Zana za RAI:

• Hifadhi ya GitHub ya Sanduku la Zana za AI Zilizohakikisha

Soma kuhusu zana za Azure Machine Learning kuhakikisha haki:

• Azure Machine Learning

Kazi ya nyongeza

Chunguza Sanduku la Zana za RAI

---

Kionyozo: Hati hii imetafsiriwa kwa kutumia huduma ya tafsiri ya AI Co-op Translator. Ingawa tunajitahidi kupata usahihi, tafadhali fahamu kwamba tafsiri za kiotomatiki zinaweza kuwa na makosa au upungufu wa usahihi. Hati ya asili katika lugha yake halisi inapaswa kuchukuliwa kama chanzo cha mamlaka. Kwa taarifa muhimu, tafsiri ya kitaalamu inayofanywa na binadamu inapendekezwa. Hatutojibu kwa kuelewa vibaya au tafsiri potofu zinazotokea kutokana na matumizi ya tafsiri hii.