ML-For-Beginners/translations/uk/1-Introduction/3-fairness

Створення рішень машинного навчання з відповідальним ШІ

Схематична нотатка від Tomomi Imura

Прев’ю-вікторина

Вступ

У цій навчальній програмі ви почнете відкривати для себе, як машинне навчання може і впливає на наше повсякденне життя. Навіть зараз системи та моделі беруть участь у щоденних завданнях прийняття рішень, таких як діагностика здоров’я, схвалення кредитів або виявлення шахрайства. Тому важливо, щоб ці моделі добре працювали і давали довірчі результати. Як і будь-який програмний додаток, системи ШІ можуть не відповідати очікуванням або мати небажаний результат. Саме тому важливо розуміти і пояснювати поведінку моделі ШІ.

Уявіть, що може трапитися, коли дані, які ви використовуєте для створення цих моделей, не включають певні демографічні групи, такі як раса, стать, політичні погляди, релігія або непропорційно представлені такі демографічні категорії. Що, якщо вихідні дані моделі інтерпретуються на користь певної демографічної групи? Які наслідки для застосунку? Крім того, що трапляється, коли модель дає негативний результат і шкодить людям? Хто несе відповідальність за поведінку систем ШІ? Це деякі з питань, які ми досліджуватимемо у цій навчальній програмі.

У цьому уроці ви:

• Підвищите свою обізнаність щодо важливості справедливості у машинному навчанні та шкоди, пов’язаної з несправедливістю.
• Ознайомитесь з практикою дослідження викидів і незвичних сценаріїв, щоб забезпечити надійність і безпеку.
• Отримаєте розуміння потреби надати можливості всім, створюючи інклюзивні системи.
• Дослідите, наскільки важливо захищати конфіденційність і безпеку даних і людей.
• Зрозумієте важливість прозорості для пояснення поведінки моделей ШІ.
• Будете усвідомлювати, що відповідальність є основою довіри до систем ШІ.

Необхідні знання

Як необхідний мінімум пройдіть навчальний шлях "Принципи відповідального ШІ" та подивіться відео на цю тему нижче:

Дізнайтеся більше про відповідальний ШІ, пройшовши цей Навчальний шлях

🎥 Натисніть на зображення вище, щоб переглянути відео: Підхід Microsoft до відповідального ШІ

Справедливість

Системи ШІ повинні ставитися до всіх справедливо і уникати різного впливу на подібні групи людей. Наприклад, коли системи ШІ надають рекомендації щодо лікування, кредитних заявок або працевлаштування, вони мають робити однакові рекомендації всім з подібними симптомами, фінансовими обставинами або професійними кваліфікаціями. Кожна людина має в собі спадкові упередження, які впливають на її рішення та дії. Ці упередження можуть бути помітні у даних, які ми використовуємо для навчання систем ШІ. Такі маніпуляції іноді відбуваються ненавмисно. Іноді важко свідомо усвідомлювати, коли ви вводите упередження у дані.

“Несправедливість” охоплює негативні впливи, або «шкоди», для певної групи людей, наприклад за визначеними ознаками раси, статі, віку або інвалідності. Основні шкоди, пов’язані зі справедливістю, можна класифікувати так:

• Розподіл, якщо, наприклад, стать або етнічність віддається перевага над іншою.
• Якість послуг. Якщо ви тренуєте модель для конкретного сценарію, а реальність значно складніша, це призводить до поганого рівня послуг. Наприклад, диспенсер для рідкого мила не міг розпізнати людей із темною шкірою. Посилання
• Зневага. Несправедливо критикувати або клеймити щось або когось. Наприклад, технологія розпізнавання зображень сумнозвісно неправильно маркувала фото темношкірих людей як горил.
• Надмірне або недостатнє представлення. Ідея полягає в тому, що певна група не спостерігається у певній професії, і будь-яка послуга чи функція, що це підтримує, сприяє нанесенню шкоди.
• Стереотипізація. Призначення групі певних заздалегідь визначених атрибутів. Наприклад, система перекладу між англійською та турецькою може мати неточності через слова з гендерними стереотипічними асоціаціями.

переклад турецькою

повернення перекладу англійською

Під час проєктування й тестування систем ШІ потрібно забезпечити, щоб ШІ був справедливим і не був запрограмований приймати упереджені чи дискримінаційні рішення, що заборонено і людям. Забезпечення справедливості у ШІ та машинному навчанні залишається складним соціотехнічним викликом.

Надійність і безпека

Щоб вибудувати довіру, системи ШІ повинні бути надійними, безпечними та послідовними в нормальних і непередбачуваних умовах. Важливо знати, як системи ШІ поведуться в різноманітних ситуаціях, особливо коли вони є викидами. При створенні рішень ШІ потрібно багато уваги приділяти тому, як обробляти широкий спектр обставин, з якими може стикнутися система. Наприклад, автомобіль з автопілотом має ставити безпеку людей на перше місце. Таким чином, ШІ автомобіля має враховувати всі можливі сценарії, наприклад, ніч, грози або заметілі, діти, які вибігають на дорогу, домашні тварини, дорожні роботи тощо. Наскільки надійно і безпечно система ШІ може працювати в широкому діапазоні умов, відображає рівень передбачливості, який розробник або дата-сайентіст врахував під час проектування чи тестування системи.

🎥 Натисніть тут для перегляду відео: Надійність і безпека в ШІ

Інклюзивність

Системи ШІ повинні бути створені так, щоб залучати і надавати можливості кожному. При проєктуванні і впровадженні систем ШІ дата-сайентісти і розробники усувають потенційні бар’єри, які можуть ненавмисне виключати людей. Наприклад, у світі є 1 мільярд людей з інвалідністю. Зі зростанням ШІ вони можуть легше отримувати широкий спектр інформації та можливостей у повсякденному житті. Усунення бар’єрів створює можливості для інновацій і розвитку продуктів ШІ з кращим користувацьким досвідом, які приносять користь усім.

🎥 Натисніть тут для перегляду відео: Інклюзивність у ШІ

Безпека і конфіденційність

Системи ШІ повинні бути безпечними і поважати приватність людей. Люди менше довіряють системам, які ставлять під загрозу їх приватність, інформацію чи життя. Під час навчання моделей машинного навчання ми покладаємося на дані для отримання найкращих результатів. При цьому важливо враховувати походження даних і їх цілісність. Наприклад, чи надані дані користувачем або вони є публічно доступними? Далі під час роботи з даними важливо розробляти системи ШІ, які захищають конфіденційну інформацію і мають стійкість до атак. Оскільки ШІ стає більш поширеним, захист приватності і безпека важливої особистої та бізнес-інформації є дедалі більш критичними і складними. Проблеми приватності та безпеки даних вимагають особливої уваги у ШІ, тому що доступ до даних є необхідним для точних і обґрунтованих передбачень і рішень про людей.

🎥 Натисніть тут для перегляду відео: Безпека в ШІ

• Як індустрія ми зробили значні досягнення у галузі приватності й безпеки, значною мірою під впливом регуляцій, таких як GDPR (Загальний регламент захисту даних).
• Проте зі системами ШІ ми повинні визнавати конфлікт між потребою у більших обсягах персональних даних для підвищення персоналізації і ефективності систем — та приватністю.
• Так само, як з появою зв’язаних комп’ютерів із Інтернетом, ми бачимо різке зростання кількості проблем безпеки, пов’язаних із ШІ.
• Водночас ми бачимо, що ШІ використовується для покращення безпеки. Наприклад, більшість сучасних антивірусів сьогодні працюють на базі ШІ-евристик.
• Ми повинні забезпечити, щоб процеси Data Science гармонійно поєднувалися з найновішими практиками приватності та безпеки.

Прозорість

Системи ШІ повинні бути зрозумілими. Важливою частиною прозорості є пояснення поведінки систем ШІ та їх компонентів. Покращення розуміння систем ШІ вимагає, щоб зацікавлені сторони розуміли, як і чому вони працюють, щоб визначати можливі проблеми з продуктивністю, безпекою, конфіденційністю, упередженнями, практиками виключення або небажаними наслідками. Ми також вважаємо, що користувачі систем ШІ повинні бути чесними і відкритими щодо того, коли, чому і як вони вибирають їх застосовувати, а також про обмеження систем, які вони використовують. Наприклад, якщо банк використовує систему ШІ для підтримки рішень про споживчі кредити, важливо аналізувати результати і розуміти, які дані впливають на рекомендації системи. Уряди починають регулювати ШІ в різних галузях, тому дата-сайентісти і організації повинні пояснювати, чи відповідає система ШІ нормативним вимогам, особливо при наявності небажаних результатів.

🎥 Натисніть тут для перегляду відео: Прозорість у ШІ

• Через складність систем ШІ важко зрозуміти, як вони працюють, і інтерпретувати результати.
• Відсутність розуміння впливає на спосіб керування, експлуатації та документації цих систем.
• Відсутність розуміння, найголовніше, впливає на рішення, які приймають на основі результатів цих систем.

Відповідальність

Люди, які проєктують і впроваджують системи ШІ, повинні нести відповідальність за те, як функціонують їхні системи. Потреба в відповідальності особливо важлива при використанні чутливих технологій, таких як розпізнавання облич. Останнім часом зростає попит на технологію розпізнавання облич, особливо від правоохоронних органів, які бачать потенціал у пошуку зниклих дітей. Проте ці технології можуть потенційно використовуватися урядом для загрози основним свободам громадян, наприклад, через постійне спостереження за конкретними особами. Тому дата-сайентісти й організації повинні нести відповідальність за те, як їхні системи ШІ впливають на окремих людей або суспільство.

🎥 Натисніть на зображення вище, щоб переглянути відео: Попередження про Масове Спостереження через Розпізнавання Облич

Врешті-решт одне з найбільших питань для нашого покоління, як першого, що приносить ШІ у суспільство, це як гарантувати, що комп’ютери залишаться підзвітними людям і що ті, хто створює комп’ютери, залишатимуться відповідальними перед усіма іншими.

Оцінка впливу

Перед навчанням моделі машинного навчання важливо провести оцінку впливу, щоб зрозуміти мету системи ШІ; її передбачене використання; де вона буде застосовуватись; і хто взаємодіятиме з системою. Це допомагає рецензентам або тестувальникам оцінити, які чинники враховувати під час ідентифікації потенційних ризиків і очікуваних наслідків.

Наступні сфери є ключовими під час проведення оцінки впливу:

• Небажаний вплив на окремих осіб. Важливо знати про будь-які обмеження або вимоги, несумісне використання чи відомі обмеження, які можуть заважати роботі системи, щоб уникнути використання системи способом, що може завдати шкоди людям.
• Вимоги до даних. Розуміння того, як і де система використовуватиме дані, допомагає рецензентам визначити вимоги до даних (наприклад, щодо GDPR або HIPAA). Також слід оцінити, чи є джерело або кількість даних достатніми для навчання.
• Підсумок впливу. Зібрати список потенційних шкод, які можуть виникнути через використання системи. Протягом життєвого циклу машинного навчання перевіряти, чи проблеми усунено або пом’якшено.
• Відповідні цілі для кожного з шести основних принципів. Оцінити, чи досягаються цілі кожного принципу і чи є прогалини.

Відлагодження з відповідальним ШІ

Подібно до відлагодження програмного додатка, відлагодження системи ШІ — це необхідний процес виявлення і усунення проблем у системі. Існує багато факторів, що можуть вплинути на те, що модель не працює очікувано або відповідально. Більшість традиційних метрик продуктивності моделі є кількісними агрегатами результатів, які недостатні для аналізу того, як модель порушує принципи відповідального ШІ. Крім того, модель машинного навчання є чорною скринькою, що ускладнює розуміння, що впливає на її результат, або пояснення помилок. Пізніше в цьому курсі ми навчимося користуватися панеллю Responsible AI для відлагодження систем ШІ. Панель забезпечує комплексний інструмент для дата-сайентістів і розробників ШІ для виконання:

• Аналізу помилок. Щоб визначити розподіл помилок моделі, що може впливати на справедливість або надійність системи.
• Огляду моделі. Щоб виявити, де є розбіжності в продуктивності моделі серед різних груп даних.
• Аналізу даних. Щоб зрозуміти розподіл даних і виявити потенційний упередження, що може призвести до проблем зі справедливістю, інклюзивністю та надійністю.
• Інтерпретованості моделі. Щоб зрозуміти, що впливає чи обумовлює передбачення моделі. Це допомагає пояснити поведінку моделі, що важливо для прозорості і відповідальності.

🚀 Виклик

Щоб запобігти появі шкоди з самого початку, ми повинні:

• мати різноманітність походжень і точок зору серед людей, які працюють над системами
• інвестувати у набори даних, що відображають різноманітність нашого суспільства
• розробляти кращі методи протягом життєвого циклу машинного навчання для виявлення і виправлення відповідального ШІ, коли це відбувається

Подумайте про реальні ситуації, де недовіра до моделі є очевидною під час створення і використання моделі. Що ще слід врахувати?

Після-лекторна вікторина

Підсумок і Самостійне вивчення

У цьому уроці ви ознайомилися з основами понять справедливості і несправедливості у машинному навчанні.

Перегляньте цей воркшоп, щоб заглибитись у теми:

• У прагненні відповідального ШІ: втілення принципів у практику від Besmira Nushi, Mehrnoosh Sameki і Amit Sharma

🎥 Клікніть на зображення вище для перегляду відео: Інструментальний набір RAI: відкрита платформа для створення відповідального ШІ, автори: Бесміра Нуші, Мехрнуш Самекі й Амит Шарма

Також читайте:

• Центр ресурсів RAI від Microsoft: Відповідальний ШІ – Microsoft AI

• Дослідницька група FATE від Microsoft: FATE: Справедливість, відповідальність, прозорість і етика в ШІ - Microsoft Research

Інструментальний набір RAI:

• Репозиторій GitHub Інструментального набору відповідального ШІ

Читайте про інструменти Azure Machine Learning для забезпечення справедливості:

• Azure Machine Learning

Завдання

Ознайомтеся з Інструментальним набором RAI

---

Відмова від відповідальності: Цей документ було перекладено за допомогою сервісу штучного інтелекту для перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критично важливої інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.