localizeflow[bot]
c60c2e5841
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 7 months ago | |
README.md
Създаване на решения с машинно обучение с отговорен ИИ
Скичнот от Tomomi Imura
Предварителен тест преди лекцията
Въведение
В тази учебна програма ще започнете да откривате как машинното обучение може и вече влияе на нашия ежедневен живот. Дори сега системи и модели са включени в ежедневни задачи за вземане на решения, като медицински диагнози, одобрения на заеми или откриване на измами. Затова е важно тези модели да работят добре, за да предоставят резултати, на които може да се има доверие. Както при всяко софтуерно приложение, системите с ИИ могат да не отговорят на очакванията или да имат нежелан резултат. Затова е от съществено значение да можем да разбираме и обясняваме поведението на модел с ИИ.
Представете си какво може да се случи, когато данните, които използвате за създаване на тези модели, не включват определени демографски групи, като раса, пол, политически възглед, религия, или непропорционално представят такива групи. Какво става, ако изходът на модела бъде тълкуван в полза на някоя демографска група? Какви са последствията за приложението? Освен това, какво се случва, когато моделът има неблагоприятен резултат и вреди на хората? Кой е отговорен за поведението на системите с ИИ? Това са някои от въпросите, които ще разгледаме в тази учебна програма.
В този урок ще:
- Повишите осведомеността си за важността на справедливостта в машинното обучение и вредите, свързани със справедливостта.
- Запознаете се с практиката за изследване на крайните стойности и необичайни сценарии, за да се гарантира надеждност и безопасност.
- Получите разбиране за необходимостта от овластяването на всички чрез проектиране на приобщаващи системи.
- Изследвате колко е важно да се защитават поверителността и сигурността на данните и хората.
- Видите важността на стъкления подход за обяснение на поведението на моделите с ИИ.
- Бъдете внимателни към това как отговорността е съществена за изграждане на доверие в системите с ИИ.
Предварителни изисквания
Като предварително условие, моля, преминете курсa "Принципи на отговорния ИИ" и гледайте видеото по-долу по темата:
Научете повече за отговорния ИИ, като следвате този Учебен път
🎥 Кликнете върху изображението по-горе за видео: Подходът на Microsoft към отговорния ИИ
Справедливост
Системите с ИИ трябва да третират всички справедливо и да избягват да влияят по различен начин на сходни групи хора. Например, когато системите с ИИ предлагат насоки за медицинско лечение, кандидатстване за заем или заетиe, те трябва да дават същите препоръки на всички с подобни симптоми, финансови обстоятелства или професионални квалификации. Всеки от нас като човек носи със себе си наследени пристрастия, които влияят на решенията и действията ни. Тези пристрастия могат да бъдат видими в данните, които използваме за трениране на системите с ИИ. Такава манипулация понякога се случва неволно. Често е трудно съзнателно да се знае кога въвеждате пристрастие в данните.
„Несправедливост“ обхваща негативни въздействия или „вреди“ за група хора, като тези, определени по раса, пол, възраст или инвалидност. Основните вреди, свързани със справедливостта, могат да се класифицират като:
- Разпределение, ако например определен пол или етнос се предпочита пред друг.
- Качество на услугата. Ако тренирате данните за един специфичен сценарий, но реалността е много по-сложна, това води до слабо представяне на услугата. Например, дозатор за сапун, който не успява да засече хора с тъмна кожа. Референция
- Омаловажаване. Несправедливо критикуване и етикетиране на нещо или някого. Например, технология за етикетиране на изображения скандално е обозначила изображения на хора с тъмна кожа като горили.
- Прекомерна или недостатъчна представителност. Идеята е, че дадена група не се вижда в дадена професия, и всяка услуга или функция, която продължава да го насърчава, допринася за вредата.
- Стереотипизиране. Свързване на дадена група с предварително зададени атрибути. Например, система за превод на езици между английски и турски може да има неточности поради думи със стереотипни асоциации към пола.
превод на турски
превод обратно на английски
При проектирането и тестването на системи с ИИ трябва да се гарантира, че ИИ е справедлив и не е програмиран да взема пристрастни или дискриминационни решения, които и на човешките същества е забранено да вземат. Гарантирането на справедливостта в ИИ и машинното обучение остава сложен социотехнически проблем.
Надеждност и безопасност
За да се изгради доверие, системите с ИИ трябва да са надеждни, безопасни и последователни при нормални и неочаквани условия. Важно е да се знае как системите с ИИ ще се държат в различни ситуации, особено когато са крайни случаи. При създаване на решения с ИИ трябва да се обръща значително внимание на това как да се справят с широк кръг от обстоятелства, с които решенията ще се сблъскат. Например, самоуправляващата се кола трябва да постави безопасността на хората като топ приоритет. Поради това ИИ, който задвижва колата, трябва да взема предвид всички възможни сценарии, с които колата може да се срещне, като нощ, бури с гръмотевици или снежни виелици, деца, бягащи по улицата, домашни любимци, пътни ремонти и др. Колко добре дадена система с ИИ може да се справи надеждно и безопасно с широк спектър от условия отразява нивото на предвиждане, което специалистът по данни или разработчикът на ИИ е взел предвид по време на проектирането или тестването на системата.
Приобщаване
Системите с ИИ трябва да са проектирани така, че да ангажират и овластяват всеки. При проектирането и внедряването на системите с ИИ специалистите по данни и разработчиците идентифицират и адресират потенциални бариери в системата, които могат неволно да изключат хора. Например, около 1 милиард хора по света имат увреждания. С напредъка на ИИ те могат по-лесно да имат достъп до широка гама от информация и възможности в ежедневието си. Премахвайки бариерите, се създават възможности за иновации и разработване на продукти с ИИ с по-добри преживявания, които да са полезни за всички.
Сигурност и поверителност
Системите с ИИ трябва да са безопасни и да уважават поверителността на хората. Хората имат по-малко доверие към системи, които застрашават поверителността, информацията или живота им. При обучението на модели на машинно обучение се разчита на данни за постигане на най-добри резултати. При това трябва да се вземе предвид произходът и целостта на данните. Например, данните потребителски изпратени ли са или публично достъпни? След това, работейки с данните, е от решаващо значение да се разработят системи с ИИ, които могат да защитават поверителна информация и да устоят на атаки. С разрастването на ИИ защитата на поверителността и осигуряването на важна лична и бизнес информация става все по-критична и сложна. Въпросите с поверителността и сигурността на данните изискват особено внимание за ИИ, тъй като достъпът до данни е съществен за системите с ИИ, за да правят точни и информирани прогнози и решения за хората.
- Като индустрия направихме значителни постижения в областта на поверителността и сигурността, значително подпомогнати от регулации като GDPR (Общ регламент за защита на данните).
- Но при системите с ИИ трябва да признаем напрежението между нуждата от повече лични данни, за да се направят системите по-лични и ефективни – и поверителността.
- Подобно на раждането на свързаните компютри с интернета, наблюдаваме и голямо увеличение на проблемите със сигурността, свързани с ИИ.
- В същото време виждаме как ИИ се използва за подобряване на сигурността. Например, повечето съвременни антивирусни скенери се управляват от ИИ-хеуристики днес.
- Трябва да осигурим, че нашите процеси по наука за данните хармонично съжителстват с най-новите практики за поверителност и сигурност.
Прозрачност
Системите с ИИ трябва да са разбираеми. Ключова част от прозрачността е обяснението на поведението на системите с ИИ и техните компоненти. Подобряването на разбирането за системите с ИИ изисква заинтересованите страни да разбират как и защо те функционират, за да могат да идентифицират потенциални проблеми с представянето, притеснения относно безопасността и поверителността, пристрастия, изключващи практики или нежелани резултати. Също така вярваме, че тези, които използват системите с ИИ, трябва да са честни и откровени за това кога, защо и как избират да ги използват, както и за ограниченията на системите, които използват. Например, ако банка използва система с ИИ за подпомагане на решения за потребителски заеми, е важно да се анализират резултатите и да се разбере кои данни влияят на препоръките на системата. Управляващите органи започват да регулират ИИ в различни индустрии, затова специалистите по данни и организациите трябва да могат да обяснят дали дадена система с ИИ отговаря на регулаторните изисквания, особено когато има нежелан резултат.
- Тъй като системите с ИИ са толкова сложни, трудно е да се разбере как работят и да се интерпретират резултатите.
- Този недостиг на разбиране влияе върху начина, по който тези системи се управляват, експлоатират и документират.
- Това по-важното влияе на решенията, взети с помощта на резултатите, които тези системи произвеждат.
Отговорност
Хората, които проектират и внедряват системи с ИИ, трябва да са отговорни за начина, по който техните системи функционират. Необходимостта от отговорност е особено критична при чувствителни технологии за разпознаване на лица. Наскоро нарасна търсенето на технологии за разпознаване на лица, особено от правоохранителни организации, които виждат потенциала на технологията при намиране на изчезнали деца. Въпреки това тези технологии биха могли потенциално да бъдат използвани от правителство, за да поставят основните свободи на гражданите си под риск, например чрез непрекъснато наблюдение на конкретни лица. Следователно специалистите по данни и организациите трябва да поемат отговорност за това как системата с ИИ влияе на отделните лица или обществото.
🎥 Кликнете върху изображението по-горе за видео: Предупреждения за масово наблюдение чрез разпознаване на лица
В крайна сметка един от най-големите въпроси за нашето поколение, като първото поколение, което въвежда ИИ в обществото, е как да гарантираме, че компютрите ще останат отговорни пред хората и как да гарантираме, че хората, които проектират компютрите, остават отговорни пред всички останали.
Оценка на въздействието
Преди обучението на модел на машинно обучение е важно да се проведе оценка на въздействието, за да се разбере целта на системата с ИИ; какво е предназначеното й използване; къде ще бъде внедрена; и кой ще взаимодейства с нея. Това помага на ревизорите или тестерите, които оценяват системата, да знаят какви фактори да вземат предвид при идентифициране на потенциални рискове и очаквани последици.
Следните области са на фокус при провеждането на оценка на въздействието:
- Неблагоприятно въздействие върху индивидите. Осъзнаването на всякакви ограничения или изисквания, неподдържано използване или известни ограничения, които пречат на представянето на системата, е жизненоважно за гарантиране, че системата не се използва по начин, който би могъл да причини вреда на индивидите.
- Изисквания за данни. Разбирането как и къде системата ще използва данни позволява на ревизорите да разгледат каквито и да са изисквания към данните, за които трябва да се внимава (например регулации за данни като GDPR или HIPAA). Освен това трябва да се провери дали източникът или количеството на данните е достатъчно за обучение.
- Обобщение на въздействието. Съберете списък с потенциални вреди, които може да възникнат от използването на системата. През целия жизнен цикъл на машинното обучение преглеждайте дали идентифицираните проблеми са смекчени или адресирани.
- Приложими цели за всеки от шестте основни принципа. Оценете дали целите на всеки от принципите са постигнати и дали има пропуски.
Отстраняване на грешки с отговорен ИИ
Подобно на отстраняването на грешки в софтуерно приложение, отстраняването на грешки в система с ИИ е необходим процес за идентифициране и решаване на проблеми в системата. Много фактори могат да повлияят на това моделът да не работи както се очаква или отговорно. Повечето традиционни метрики за представяне на модели са количествени агрегати на представянето на модела, които не са достатъчни за анализ на това как модел нарушава принципите на отговорния ИИ. Освен това моделът на машинно обучение е черна кутия, която затруднява разбирането какво движи резултата му или предоставянето на обяснение при грешка. По-късно в този курс ще научим как да използваме таблото за управление на отговорен ИИ, за да помогнем при отстраняване на грешки в системите с ИИ. Таблото предлага холистичен инструмент за специалистите по данни и разработчиците на ИИ да извършват:
- Анализ на грешки. За идентифициране на разпределението на грешките на модела, които могат да засегнат справедливостта или надеждността на системата.
- Обзор на модела. За откриване на неравенства в представянето на модела между различни кохорти от данни.
- Анализ на данни. За разбиране на разпределението на данните и идентифициране на потенциални пристрастия в данните, които могат да доведат до проблеми със справедливостта, приобщаването и надеждността.
- Интерпретируемост на модела. За разбиране какво влияе на предсказанията на модела. Това помага за обяснение на поведението на модела, което е важно за прозрачност и отговорност.
🚀 Предизвикателство
За да предотвратим въвеждането на вреди от самото начало, трябва:
- да има разнообразие от среди и гледни точки сред хората, работещи по системите
- да се инвестира в набори от данни, които отразяват разнообразието на нашето общество
- да се развиват по-добри методи през целия жизнен цикъл на машинното обучение за откриване и коригиране на отговорен ИИ, когато се появи
Помислете за реални ситуации, при които недоверие към модела е очевидно при изграждането и използването на модела. Какво още трябва да вземем под внимание?
Тест след лекцията
Преглед и самостоятелно обучение
В този урок научихте някои основи на концепциите за справедливост и несправедливост в машинното обучение.
Гледайте този уъркшоп, за да се задълбочите в темите:
- В търсене на отговорния ИИ: Прилагане на принципите на практика от Besmira Nushi, Mehrnoosh Sameki и Amit Sharma
🎥 Кликнете върху горното изображение за видео: RAI Toolbox: Отворена рамка за изграждане на отговорен ИИ от Бесмира Нуши, Мехрноош Самеки и Амит Шарма
Също така, прочетете:
-
Центърът за ресурси на Microsoft за отговорен ИИ: Отговорни ресурси за ИИ – Microsoft AI
-
Изследователската група FATE на Microsoft: FATE: Справедливост, отчетност, прозрачност и етика в ИИ - Microsoft Research
RAI Toolbox:
Прочетете за инструментите на Azure Machine Learning за гарантиране на справедливост:
Задача
Отказ от отговорност: Този документ е преведен с помощта на AI преводачески услуга Co-op Translator. Въпреки че се стремим към точност, моля имайте предвид, че автоматизираните преводи могат да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за каквито и да е недоразумения или неправилни тълкувания, произтичащи от използването на този превод.