ML-For-Beginners/translations/ru/1-Introduction/3-fairness

Создание решений на основе машинного обучения с ответственным ИИ

Скетчноут от Tomomi Imura

Викторина перед лекцией

Введение

В этой учебной программе вы начнете узнавать, как машинное обучение может влиять и уже влияет на нашу повседневную жизнь. Даже сейчас системы и модели участвуют в ежедневных задачах принятия решений, таких как диагностика в здравоохранении, одобрение кредитов или выявление мошенничества. Поэтому важно, чтобы эти модели работали хорошо и обеспечивали результаты, которым можно доверять. Как и любое программное обеспечение, системы ИИ могут не оправдать ожиданий или привести к нежелательным результатам. Именно поэтому важно уметь понимать и объяснять поведение модели ИИ.

Представьте, что может произойти, если данные, которые вы используете для построения этих моделей, не включают определённые демографические группы, такие как раса, пол, политические взгляды, религия, или непропорционально представлены. Что если результат модели интерпретируется так, что он благоприятствует какой-либо демографической группе? Каковы последствия для приложения? Кроме того, что происходит, если модель приводит к неблагоприятным последствиям и наносит вред людям? Кто несет ответственность за поведение системы ИИ? Эти вопросы мы рассмотрим в рамках этой учебной программы.

В этом уроке вы:

• Повысите осведомленность о важности справедливости в машинном обучении и связанных с ней вредах.
• Ознакомитесь с практикой исследования выбросов и необычных ситуаций для обеспечения надежности и безопасности.
• Поймете необходимость создания инклюзивных систем для расширения возможностей всех.
• Узнаете, как важно защищать конфиденциальность и безопасность данных и людей.
• Увидите важность подхода с «прозрачной коробкой» для объяснения поведения моделей ИИ.
• Осознаете, как ответственность необходима для построения доверия к системам ИИ.

Предварительные требования

В качестве предварительного шага пройдите учебный путь «Принципы ответственного ИИ» и посмотрите видео ниже по этой теме:

Узнайте больше об ответственном ИИ, пройдя этот Учебный путь

🎥 Нажмите на изображение выше для видео: Подход Microsoft к ответственному ИИ

Справедливость

Системы ИИ должны относиться к каждому справедливо и избегать разного воздействия на похожие группы людей. Например, когда системы ИИ дают рекомендации по лечению, подаче заявок на кредит или трудоустройству, они должны делать одинаковые рекомендации всем с похожими симптомами, финансовыми обстоятельствами или профессиональной квалификацией. Каждый из нас как человек несет в себе унаследованные предубеждения, которые влияют на наши решения и действия. Эти предубеждения могут проявляться в данных, которые мы используем для обучения систем ИИ. Такая манипуляция может происходить даже непреднамеренно. Часто трудно сознательно определить, когда вы вводите смещение в данные.

«Несправедливость» включает негативные последствия или «ущербы» для группы людей, таких как определённые по расе, полу, возрасту или статусу инвалидности. Основные типы ущерба, связанные с несправедливостью можно классифицировать как:

• Распределение, если, например, предпочтение отдается одному полу или этнической группе.
• Качество обслуживания. Если вы тренируете модель для одного конкретного сценария, а реальность гораздо сложнее, это ведет к плохому качеству сервиса. Например, диспенсер для мыла, который не мог распознавать людей с темной кожей. Ссылка
• Унижение. Несправедливое осуждение и навешивание ярлыков. Например, технология распознавания изображений печально известна ошибочной маркировкой изображений темнокожих людей как горилл.
• Избыточное или недостаточное представительство. Идея в том, что определенная группа не представлена в определенной профессии, и любое сервисное решение, способствующее этому, наносит вред.
• Стереотипизация. Ассоциация определённой группы с заранее приписанными атрибутами. Например, система перевода между английским и турецким языками может содержать неточности из-за слов с гендерными стереотипами.

перевод на турецкий язык

перевод обратно на английский

При проектировании и тестировании систем ИИ нам нужно обеспечить справедливость и запретить программирование на предвзятые или дискриминационные решения, которые также запрещены для людей. Гарантировать справедливость в ИИ и машинном обучении — сложная социотехническая задача.

Надежность и безопасность

Чтобы завоевать доверие, системы ИИ должны быть надежными, безопасными и согласованными в нормальных и неожиданных условиях. Важно знать, как системы ИИ будут вести себя в различных ситуациях, особенно при наличии выбросов. При создании решений на основе ИИ нужно уделять значительное внимание тому, как справляться с широким спектром условий, с которыми решения могут столкнуться. Например, самоуправляемый автомобиль должен ставить безопасность людей на первое место. Поэтому ИИ, управляющий автомобилем, должен учитывать все возможные ситуации: ночь, грозы, метели, дети, перебегающие улицу, животные, дорожные работы и т.д. Насколько хорошо система ИИ способна надежно и безопасно справляться с широким диапазоном условий, отражает уровень предусмотрительности специалистов по данным или разработчиков ИИ при проектировании или тестировании системы.

🎥 Нажмите здесь для видео: Надежность и безопасность в ИИ

Инклюзивность

Системы ИИ следует создавать так, чтобы они вовлекали и давали возможности всем. При проектировании и реализации систем ИИ специалисты по данным и разработчики выявляют и устраняют потенциальные барьеры в системе, которые могут непреднамеренно исключать людей. Например, в мире насчитывается около 1 миллиарда человек с инвалидностью. С развитием ИИ они получают более легкий доступ к разнообразной информации и возможностям в своей повседневной жизни. Устраняя эти барьеры, создаются возможности для инноваций и разработки продуктов ИИ с лучшим пользовательским опытом, выгодным для всех.

🎥 Нажмите здесь для видео: Инклюзивность в ИИ

Безопасность и конфиденциальность

Системы ИИ должны быть безопасными и уважать конфиденциальность людей. Люди меньше доверяют системам, которые ставят под угрозу их конфиденциальность, информацию или жизни. При обучении моделей машинного обучения мы опираемся на данные для получения лучших результатов. В этом процессе важно учитывать происхождение данных и их целостность. Например, были ли данные предоставлены пользователем или доступны публично? Далее, работая с данными, крайне важно разрабатывать системы ИИ, которые могут защищать конфиденциальную информацию и противостоять атакам. По мере расширения использования ИИ защита конфиденциальности и обеспечение безопасности важной личной и корпоративной информации становятся все более актуальными и сложными. Вопросы конфиденциальности и безопасности данных требуют особого внимания в ИИ, поскольку доступ к данным необходим системам ИИ для точного и информированного прогнозирования и принятия решений о людях.

🎥 Нажмите здесь для видео: Безопасность в ИИ

• Как индустрия, мы достигли значительных успехов в области конфиденциальности и безопасности, в значительной степени благодаря таким регламентам, как GDPR (Общий регламент по защите данных).
• В то же время с системами ИИ мы должны признавать напряженность между необходимостью большего объема личных данных для создания более персонализированных и эффективных систем и защитой конфиденциальности.
• Как и с появлением подключенных компьютеров и интернета, мы также наблюдаем резкий рост числа проблем безопасности, связанных с ИИ.
• Вместе с тем ИИ используют для улучшения безопасности. Например, большинство современных антивирусных сканеров сегодня работают на основе эвристик ИИ.
• Нам нужно гарантировать, что наши процессы работы с данными гармонично сочетаются с последними практиками конфиденциальности и безопасности.

Прозрачность

Системы ИИ должны быть понятными. Ключевой частью прозрачности является объяснение поведения систем ИИ и их компонентов. Повышение понимания систем ИИ требует, чтобы заинтересованные лица понимали, как и почему они функционируют, чтобы идентифицировать потенциальные проблемы с производительностью, вопросы безопасности и конфиденциальности, предвзятость, исключающие практики или непредвиденные последствия. Мы также считаем, что те, кто использует системы ИИ, должны честно и открыто сообщать, когда, почему и как они их применяют, а также об ограничениях используемых систем. Например, если банк использует систему ИИ для поддержки решений по кредитам клиентам, важно анализировать результаты и понимать, какие данные влияют на рекомендации системы. Правительства начинают регулировать ИИ в различных отраслях, поэтому специалисты по данным и организации должны объяснять, соблюдает ли система ИИ нормативные требования, особенно при наличии нежелательных исходов.

🎥 Нажмите здесь для видео: Прозрачность в ИИ

• Поскольку системы ИИ настолько сложны, трудно понять, как они работают, и интерпретировать результаты.
• Этот недостаток понимания влияет на управление, эксплуатацию и документацию таких систем.
• Более важно, этот недостаток понимания влияет на решения, принимаемые на основе результатов, которые эти системы выдают.

Ответственность

Люди, которые разрабатывают и разворачивают системы ИИ, должны нести ответственность за их работу. Потребность в ответственности особенно критична при использовании чувствительных технологий, таких как распознавание лиц. В последнее время спрос на технологии распознавания лиц растет, особенно со стороны правоохранительных органов, которые видят потенциал технологии, например, для поиска пропавших детей. Однако эти технологии могут быть использованы правительством для ограничения основных свобод граждан, например, путем постоянного наблюдения за отдельными лицами. Поэтому специалисты по данным и организации должны быть ответственными за влияние своих систем ИИ на отдельных людей и общество.

🎥 Нажмите на изображение выше для видео: Предупреждения о массовом наблюдении с помощью распознавания лиц

В конечном итоге один из главных вопросов для нашего поколения, как первого, кто приносит ИИ в общество, заключается в том, как обеспечить, чтобы компьютеры оставались подотчетными людям, и чтобы люди, разрабатывающие компьютеры, оставались ответственными перед всеми остальными.

Оценка воздействия

Перед обучением модели машинного обучения важно провести оценку воздействия, чтобы понять цель системы ИИ; каким будет ее предполагаемое использование; где она будет развернута; и кто будет взаимодействовать с системой. Это полезно для рецензентов или тестировщиков, оценивающих систему, чтобы знать, какие факторы следует учитывать при выявлении потенциальных рисков и ожидаемых последствий.

Внимание следует уделить следующим аспектам при проведении оценки воздействия:

• Неблагоприятное воздействие на людей. Важно осознавать любые ограничения или требования, неподдерживаемое использование или известные ограничения, препятствующие работе системы, чтобы гарантировать, что систему не используют таким образом, который может причинить вред людям.
• Требования к данным. Понимание того, как и где система будет использовать данные, позволяет рецензентам учитывать любые требования к данным (например, регламенты GDPR или HIPAA). Также следует проверить, достаточно ли источников и объема данных для обучения.
• Резюме воздействия. Составить список потенциальных ущербов, которые могут возникнуть при использовании системы. В ходе жизненного цикла машинного обучения проверять, решены ли выявленные проблемы.
• Применимые цели для каждого из шести основных принципов. Оценить, достигаются ли цели каждого принципа и есть ли пробелы.

Отладка с ответственным ИИ

Аналогично отладке программного приложения, отладка системы ИИ — необходимый процесс выявления и устранения проблем в системе. Существует множество факторов, которые могут влиять на то, что модель работает не так, как ожидалось или ответственно. Большинство традиционных метрик производительности модели являются количественными агрегатами работы модели, что недостаточно для анализа того, как модель нарушает принципы ответственного ИИ. Кроме того, модель машинного обучения — чёрный ящик, что затрудняет понимание факторов, влияющих на результат, и объяснение ошибок. Позже в курсе мы научимся использовать панель управления Responsible AI для отладки систем ИИ. Эта панель представляет собой целостный инструмент для специалистов по данным и разработчиков ИИ, позволяющий выполнять:

• Анализ ошибок. Для выявления распределения ошибок модели, которые могут повлиять на справедливость или надежность системы.
• Обзор модели. Чтобы обнаружить различия в производительности модели по разным когорте данных.
• Анализ данных. Для понимания распределения данных и обнаружения потенциальных предубеждений, влияющих на проблемы справедливости, инклюзивности и надежности.
• Интерпретируемость модели. Чтобы понять, что влияет на предсказания модели. Это помогает объяснить поведение модели, что важно для прозрачности и ответственности.

🚀 Задача

Чтобы предотвратить появление вреда с самого начала, мы должны:

• иметь разнообразие опыта и точек зрения среди людей, работающих над системами
• инвестировать в наборы данных, отражающие разнообразие нашего общества
• разрабатывать лучшие методы на протяжении всего жизненного цикла машинного обучения для обнаружения и исправления безответственного ИИ, когда он возникает

Подумайте о реальных ситуациях, когда недостоверность модели очевидна при построении и использовании модели. Что еще нам следует учитывать?

Викторина после лекции

Обзор и самостоятельное изучение

В этом уроке вы узнали основы понятий справедливости и несправедливости в машинном обучении.

Посмотрите этот семинар, чтобы углубиться в темы:

• В стремлении к ответственному ИИ: Применение принципов на практике, авторы Бесмира Нуши, Мехрнуш Самеки и Амит Шарма

🎥 Нажмите на изображение выше для просмотра видео: Набор инструментов RAI: открытая платформа для создания ответственного ИИ от Бесмиры Нуши, Мехрнуш Самеки и Амита Шармы

Также прочитайте:

• Ресурсный центр Microsoft по ответственному ИИ: Ответственные ресурсы ИИ – Microsoft AI

• Исследовательская группа Microsoft FATE: FATE: Справедливость, ответственность, прозрачность и этика в ИИ - Microsoft Research

Набор инструментов RAI:

• Репозиторий Responsible AI Toolbox на GitHub

Ознакомьтесь с инструментами Azure Machine Learning для обеспечения справедливости:

• Azure Machine Learning

Задание

Изучить набор инструментов RAI

---

Отказ от ответственности: Этот документ был переведен с использованием сервиса машинного перевода Co-op Translator. Несмотря на наши усилия по обеспечению точности, имейте в виду, что автоматический перевод может содержать ошибки или неточности. Оригинальный документ на его исходном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется обратиться к профессиональному человеческому переводу. Мы не несем ответственности за любые недоразумения или неправильные толкования, возникшие в результате использования этого перевода.