Ինչպես ինտելեկտի նկատմամբ խելամիտ մոտեցում ցուցաբերելը կրճատում է կողմնակալ տվյալների հավաքածուները

Կողմնակալ տվյալների հավաքածուներ և էթիկական AI

Արհեստական ​​ինտելեկտով աշխատող լուծումներին անհրաժեշտ են տվյալների հավաքածուներ՝ արդյունավետ լինելու համար: Եվ այդ տվյալների հավաքածուների ստեղծումը հղի է համակարգված մակարդակով անուղղակի կողմնակալության խնդիրով: Բոլոր մարդիկ տառապում են կողմնակալությամբ (գիտակից և անգիտակից): Կողմնակալությունները կարող են ունենալ տարբեր ձևեր՝ աշխարհագրական, լեզվական, սոցիալ-տնտեսական, սեքսիստական ​​և ռասիստական: Եվ այդ համակարգված կողմնակալությունները վերածվում են տվյալների մեջ, ինչը կարող է հանգեցնել AI արտադրանքների, որոնք հավերժացնում և մեծացնում են կողմնակալությունը: Կազմակերպություններին անհրաժեշտ է զգույշ մոտեցում՝ տվյալների հավաքածուների մեջ սողացող կողմնակալությունը մեղմելու համար:

Օրինակներ, որոնք ցույց են տալիս կողմնակալության խնդիրը

Տվյալների հավաքածուի այս կողմնակալության նշանավոր օրինակներից մեկը, որն այն ժամանակ շատ բացասական մամուլ էր հավաքել, ռեզյումե ընթերցանության լուծումն էր, որը նպաստում էր արական սեռի թեկնածուներին, քան իգական սեռի ներկայացուցիչներին: Դա պայմանավորված է նրանով, որ հավաքագրման գործիքի տվյալների հավաքածուները մշակվել են՝ օգտագործելով վերջին տասնամյակի ռեզյումեները, երբ դիմորդների մեծ մասը արական սեռի ներկայացուցիչներ էին: Տվյալները կողմնակալ էին, և արդյունքներն արտացոլում էին այդ կողմնակալությունը: 

Մեկ այլ լայնորեն հաղորդված օրինակ. Google I/O մշակողների ամենամյա համաժողովում Google-ը կիսվել է AI-ով աշխատող մաշկաբանության օգնության գործիքի նախադիտումով, որն օգնում է մարդկանց հասկանալ, թե ինչ է կատարվում իրենց մաշկի, մազերի և եղունգների հետ կապված խնդիրների հետ: Մաշկաբանության օգնականն ընդգծում է, թե ինչպես է արհեստական ​​ինտելեկտը զարգանում՝ օգնելու առողջապահությանը, բայց այն նաև ընդգծեց AI-ի մեջ կողմնակալության ներթափանցման պոտենցիալը՝ քննադատության ֆոնին, որ գործիքը համարժեք չէ գունավոր մարդկանց համար:

Երբ Google-ը հայտարարեց գործիքի մասին, ընկերությունը նշեց.

Որպեսզի համոզվենք, որ մենք կառուցում ենք բոլորի համար, մեր մոդելը հաշվի է առնում այնպիսի գործոններ, ինչպիսիք են տարիքը, սեռը, ռասան և մաշկի տեսակները՝ գունատ մաշկից, որը չի արևայրանում, մինչև շագանակագույն մաշկ, որը հազվադեպ է այրվում:

Google, օգտագործելով արհեստական ​​ինտելեկտը ՝ մաշկի ընդհանուր վիճակների պատասխանները գտնելու համար

Սակայն Vice-ում հրապարակված հոդվածում ասվում է, որ Google-ը չի կարողացել օգտագործել ներառական տվյալների հավաքածու.

Առաջադրանքն իրականացնելու համար հետազոտողները օգտագործել են երկու նահանգներում գտնվող 64,837 հիվանդների 12,399 պատկերների վերապատրաստման տվյալների հավաքածու: Բայց պատկերված մաշկի հազարավոր պայմաններից միայն 3.5 տոկոսն է եկել Fitzpatrick մաշկի V և VI տիպի հիվանդներից, որոնք համապատասխանաբար ներկայացնում են շագանակագույն և մուգ շագանակագույն կամ սև մաշկ: Ըստ հետազոտության տվյալների բազայի 90 տոկոսը կազմված է եղել բաց մաշկ, ավելի մուգ սպիտակ կամ բաց շագանակագույն մաշկ ունեցող մարդկանցից: Կողմնակալ նմուշառման արդյունքում մաշկաբաններն ասում են, որ հավելվածը կարող է ավարտել չափից ավելի կամ թերագնահատում այն ​​մարդկանց, ովքեր սպիտակամորթ չեն:

Vice, Google-ի նոր մաշկաբանական հավելվածը նախատեսված չէր ավելի մուգ մաշկ ունեցող մարդկանց համար

Google-ը պատասխանեց՝ ասելով, որ այն կմշակի գործիքը՝ նախքան այն պաշտոնապես թողարկելը.

AI-ով աշխատող մեր մաշկաբանության աջակցության գործիքը ավելի քան երեք տարվա հետազոտության գագաթնակետն է: Քանի որ մեր աշխատանքը ցուցադրվել է Nature Medicine-ում, մենք շարունակել ենք զարգացնել և կատարելագործել մեր տեխնոլոգիան՝ ներառելով լրացուցիչ տվյալների հավաքածուներ, որոնք ներառում են հազարավոր մարդկանց կողմից նվիրաբերված տվյալներ և մաշկի խնամքի միլիոնավոր այլ ընտրված պատկերներ:

Google, օգտագործելով արհեստական ​​ինտելեկտը ՝ մաշկի ընդհանուր վիճակների պատասխանները գտնելու համար

Որքան էլ մենք հուսանք, որ արհեստական ​​ինտելեկտը և մեքենայական ուսուցման ծրագրերը կարող են շտկել այս կողմնակալությունը, իրականությունը մնում է. խելացի քանի որ նրանց տվյալների հավաքածուները մաքուր են: Ծրագրավորման հին ասացվածքի թարմացում աղբը ներսում/աղբը դուրս, AI լուծումները նույնքան ուժեղ են, որքան իրենց տվյալների հավաքածուի որակը սկզբից: Առանց ծրագրավորողների կողմից ուղղման, այս տվյալների հավաքածուները չունեն իրենց շտկելու ֆոնային փորձը, քանի որ նրանք պարզապես չունեն այլ հղման շրջանակ:

Բոլորի հիմքում ընկած է տվյալների հավաքածուների պատասխանատու ձևավորումը էթիկական արհեստական ​​բանականություն. Իսկ լուծման հիմքում կանգնած են մարդիկ: 

Mindful AI-ն էթիկական AI է

Կողմնորոշությունը վակուումի մեջ չի լինում: Ոչ էթիկական կամ կողմնակալ տվյալների հավաքածուները գալիս են զարգացման փուլում սխալ մոտեցում ցուցաբերելուց: Կողմնակալության սխալների դեմ պայքարելու միջոցը պատասխանատու, մարդակենտրոն մոտեցում ընդունելն է, որը արդյունաբերության մեջ շատերն անվանում են Mindful AI: Mindful AI-ն ունի երեք կարևոր բաղադրիչ.

1. Մտածող AI-ն մարդակենտրոն է

AI նախագծի սկզբից, պլանավորման փուլերում, մարդկանց կարիքները պետք է լինեն յուրաքանչյուր որոշման կենտրոնում: Եվ դա նշանակում է, որ բոլոր մարդիկ, ոչ միայն ենթաբազմություն: Ահա թե ինչու ծրագրավորողները պետք է ապավինեն գլոբալ վրա հիմնված մարդկանց բազմազան թիմի վրա, որպեսզի ուսուցանեն AI հավելվածները ներառական և անկողմնակալ լինելու համար:

Համաշխարհային, բազմազան թիմից տվյալների հավաքագրումը ապահովում է կողմնակալության հայտնաբերում և վաղաժամ զտում: Տարբեր ազգությունների, տարիքային խմբերի, սեռերի, կրթության մակարդակի, սոցիալ-տնտեսական ծագման և տեղանքների ներկայացուցիչները կարող են ավելի հեշտությամբ հայտնաբերել տվյալների հավաքածուներ, որոնք արժեքներից մեկին գերադասում են մյուսից, այդպիսով մարելով չնախատեսված կողմնակալությունը:

Նայեք ձայնային հավելվածներին: Ուշադիր արհեստական ​​ինտելեկտի մոտեցում կիրառելիս և գլոբալ տաղանդների ֆոնդի հզորությունը օգտագործելիս մշակողները կարող են հաշվի առնել լեզվական տարրերը, ինչպիսիք են տարբեր բարբառներն ու շեշտադրումները տվյալների հավաքածուներում:

Սկզբից մարդակենտրոն դիզայնի շրջանակի ստեղծումը շատ կարևոր է: Այն երկար ճանապարհ է տանում ապահովելու համար, որ ստեղծված, մշակված և պիտակավորված տվյալները բավարարում են վերջնական օգտագործողների ակնկալիքները: Բայց նաև կարևոր է մարդկանց պահել արտադրանքի զարգացման ողջ ցիկլի ընթացքում: 

Շրջանակի մեջ գտնվող մարդիկ կարող են նաև օգնել մեքենաներին ստեղծել ավելի լավ AI փորձ յուրաքանչյուր կոնկրետ լսարանի համար: Pactera EDGE-ում մեր AI տվյալների նախագծի թիմերը, որոնք տեղակայված են աշխարհում, հասկանում են, թե ինչպես կարող են տարբեր մշակույթներ և համատեքստեր ազդել AI-ի ուսուցման հուսալի տվյալների հավաքագրման և պահպանման վրա: Նրանք ունեն անհրաժեշտ գործիքներ՝ խնդիրները նշելու, դրանք վերահսկելու և դրանք շտկելու համար, նախքան արհեստական ​​ինտելեկտի վրա հիմնված լուծումը կսկսվի:

Human-in-the-loop AI-ն «անվտանգության ցանց» նախագիծ է, որը միավորում է մարդկանց ուժեղ կողմերը և նրանց բազմազան ծագումը մեքենաների արագ հաշվողական հզորության հետ: Մարդկանց և AI-ի այս համագործակցությունը պետք է հաստատվի ծրագրերի սկզբից, որպեսզի կողմնակալ տվյալները հիմք չստեղծեն նախագծում: 

2. Մտածող AI-ն պատասխանատու է

Պատասխանատու լինելը պետք է ապահովի, որ AI համակարգերը զերծ լինեն կողմնակալությունից և հիմնված լինեն էթիկայի վրա: Խոսքը գնում է այն մասին, թե ինչպես, ինչու և որտեղ են ստեղծվում տվյալները, ինչպես են դրանք սինթեզվում արհեստական ​​ինտելեկտի համակարգերի կողմից և ինչպես են դրանք օգտագործվում որոշումներ կայացնելու համար, որոշումներ, որոնք կարող են էթիկական հետևանքներ ունենալ: Բիզնեսի համար դա անելու եղանակներից մեկն է աշխատել թերներկայացված համայնքների հետ՝ ավելի ներառական և ավելի քիչ կողմնակալ լինելու համար: Տվյալների անոտացիաների ոլորտում նոր հետազոտությունն ընդգծում է, թե ինչպես բազմակի ծանոթագրող բազմաբնույթ առաջադրանքների մոդելը, որը յուրաքանչյուր ծանոթագրողի պիտակները վերաբերվում է որպես առանձին ենթաառաջադրանք, կարող է օգնել մեղմել տիպիկ հիմքային ճշմարտության մեթոդներին բնորոշ հնարավոր խնդիրները, որտեղ ծանոթագրողների անհամաձայնությունները կարող են պայմանավորված լինել թերներկայացմամբ և կարող է անտեսվել մեկ հիմնավոր ճշմարտության ծանոթագրությունների համախմբման մեջ: 

3. Վստահելի

Վստահելիությունը բխում է այն բանից, որ բիզնեսը թափանցիկ է և բացատրելի, թե ինչպես է ուսուցանվում AI մոդելը, ինչպես է այն աշխատում և ինչու են նրանք խորհուրդ տալիս արդյունքները: Բիզնեսին անհրաժեշտ է արհեստական ​​ինտելեկտի տեղայնացման հետ կապված փորձ, որպեսզի իր հաճախորդներին հնարավորություն ընձեռվի ավելի ընդգրկուն և անհատականացված դարձնել իրենց AI հավելվածները՝ հարգելով տեղական լեզվի կարևորագույն նրբությունները և օգտատերերի փորձառությունները, որոնք կարող են ստեղծել կամ կոտրել AI-ի լուծման վստահելիությունը մի երկրից մյուսը: . Օրինակ, բիզնեսը պետք է նախագծի իր հավելվածները անհատականացված և տեղայնացված համատեքստերի համար, ներառյալ լեզուներ, բարբառներ և ձայնի վրա հիմնված հավելվածների շեշտադրումներ: Այդ կերպ հավելվածը բերում է ձայնային փորձի նույն մակարդակի բարդությունը յուրաքանչյուր լեզվի՝ անգլերենից մինչև թերներկայացված լեզուները:

Արդարություն և բազմազանություն

Ի վերջո, խելամիտ AI-ն երաշխավորում է, որ լուծումները կառուցված են արդար և բազմազան տվյալների վրա, որտեղ վերահսկվում և գնահատվում են որոշակի արդյունքների հետևանքներն ու ազդեցությունը, նախքան լուծումը շուկա դուրս կգա: Ուշադիր լինելով և մարդկանց ներառելով լուծման մշակման յուրաքանչյուր մասում՝ մենք օգնում ենք ապահովել, որ AI մոդելները մնան մաքուր, նվազագույն կողմնակալ և հնարավորինս էթիկական:

Ինչ եք կարծում?

Այս կայքը օգտագործում է Akismet- ը սպամի նվազեցման համար: Իմացեք, թե ինչպես է ձեր տվյալները մշակվում.