msb-public
/
Data-Science-For-Beginners
mirror of https://github.com/microsoft/Data-Science-For-Beginners.git
1
0
Code Issues Projects Releases Wiki Activity
You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
Branches Tags
${ item.name }
Create tag ${ searchTerm }
Create branch ${ searchTerm }
from 'def34abe88'
${ noResults }
Data-Science-For-Beginners/1-Introduction/02-ethics/translations
History
Angel Mendez a73176e12b
feat: Translation for module 1 - section 2 		5 years ago
..
README.es.md feat: Translation for module 1 - section 2 5 years ago

README.es.md

Introducción a la ética de datos

Sketchnote por (@sketchthedocs)
Ética para ciencia de datos - Sketchnote por @nitya

Todos somos ciudadanos de datos viviendo en un gobernado por datos.

Las tendencias de mercado nos dicen que para 2022, 1 de cada 3 grandes organizaciones comprará y venderá sus datos en línea a través de mercados e intercambios. Como desarrolladores de Apps, lo encontraremos más fácil y barato que integrar conocimientos dirigidos por datos y automatización dirigida por algoritmos en las experiencias de usuario del día a día. Pero como la AI se vuelve cada vez más presente, necesitarempos entender lso daños potenciales causados por el armamentismo de dichos algoritmos a escala.

Las tendencias también indican que crearemos y consumiremos más de 180 zettabytes de datos para el 2025. Como científicos de datos, esto nos da niveles de acceso sin precedentes a datos personales. Esto significa que podemos construir perfiles conductuales de usuarios e influenciar en la toma de decisiones en formas que crea una ilusión de libre elección mientras empuja a los usuarios hacia los resultados que preferimos. También plantea preguntas más amplias respecto a la privacidad de datos y protección de los usuarios.

La ética de datos son barreras de seguridad necesarias para la ciencia de datos e ingeniería, ayudándonos a minimizar daños potenciales y consecuencias no deseadas de nuestras acciones dirigidas por datos. El Hype Cycle de Gartner para AI identifica tendencias relevantes en ética digital, AI responsable, y gobernanza de AI como factores clave para mega-tendencias mayores alrededor de la democratización e industrialización de la AI.

Hype Cycle de Gartner para AI - 2020

En esta lección, exploraremos la fascinante área de la ética de datos - desde los conceptos clave y desafíos, hasta los casos de estudio y conceptos de AI aplicados como gobernanza - que ayuda a establecer una cultura de ética en equipos y organizaciones que trabajan con datos y AI.

Examen previo a la lección 🎯

Definiciones básicas

Empecemos entendiendo la terminología básica.

La palabra "ética" proviene de la palabra griega "ethikos" (y su raíz "ethos") lo cual significa carácter o naturaleza moral.

La ética se trata de valores compartidos y principios morales que gobiernan nuestro comportamiento en sociedad. La ética se basa no en leyes sino en normas más ampliamente aceptadas de lo que es "correcto vs lo incorrecto". Sin embargo, las consideraciones éticas pueden influenciar iniciativas de gobernanza corporativa y regulaciones de gobernanza que crean más incentivos para el cumplimiento.

La ética de datos es una nueva rama de la ética que "estudia y evalua problemas morales relacionados a datos, algoritmos y prácticas correspondientes"- Aquí, los "datos" se centran en acciones relacionadas a la generación, grabación, curación, procesamiento de difusión, intercambio y uso de "algoritmos" centrados en AI, agentes, aprendizaje automático, y robots, así como "prácticas" enfocadas en temas como inovación responsable, programación, hackeo y códigos de ética.

Ética aplicada es la aplicación práctica de consideraciones morales. Es el proceso de investigar activamente cuestiones éticas en el contexto de acciones del mundo real, productos y procesos, y tomar medidas correctivas para hacer que estos se alinean con nuestros valores éticos definidos.

Cultura ética trata de operacionalizar la ética aplicada para confirmar que nuestros principios éticos y prácticas son adoptados de forma consistente y escalable a través de toda la organización. Una cultura ética exitosa define principios éticos a nivel organización, provee incentivos significativos para el cumplimiento y refuerza las normas éticas alentando y amplificando los comportamientos deseados en cada nivel de la organización.

Conceptos éticos

En esta sección, duscutiremos conceptos como valores compartidos (principios) y retos éticos (problemas) para la ética de datos - y explora casos de estudio que te ayudan a entender estos conceptos en el contexto del mundo real.

1. Principios éticos

Cada estrategia de ética de datos comienza por la definición de principios éticos - los "valores compartidos" que describen los comportamientos aceptables, y guían acciones de conformidad, en nuestros proyectos de datos y AI. Puedes definir estos a nivel individual o de equipo. Sin embargo, la mayoría de las grandes organizaciones describen estos en una misión ética de AI o marco de trabajo que es definido a niveles corporativos y refuerza consistentement a través de todos los equipos.

Ejemplo: La misión responsable de AI de Microsoft se lee: "Estamos comprometidos al avance de principios éticos dirigidos por AI que anteponen primero a la gente" - identificando 6 principios éticos en el marco de trabajo descrito a continuación:

AI responsable en Microsoft

Exploremos brevemente estos principios. La transparencia y responsabilidad son los valores fundamentales sobre los que se cimientan otros principios - iniciemos aquí:

  • Responsabilidad hace a los practicantes responsables por sus datos y operaciones de AI, en cumplimiento con estos principios éticos.

  • Transparencia asegura que los datos y acciones de AI sean entendibles (interpretables) para los usuarios, explicando el qué y el porqué detrás de las decisiones.

  • Justicia - se centra en asegurar que la AI trata a todas las personas justamente, dirigiendo cualquier sesgo sistémico o social-ético implícito in datos y sistemas.

  • Fiabilidad y seguridad - asegura que la AI se comporta consistentemente con los valores definidos, minimizando daños potenciales o consecuencias no intencionadas.

  • Privacidad & seguridad - se trata del entendimiento del linaje de datos, y provee privacidad de datos y protecciones relacionadas a los usuarios.

  • Inclusión - trata del diseño de soluciones AI con la intención, adaptándolas para reunir un amplio rango de necesidades humanas y capacidades.

🚨 Piensa cual podría ser tu misión de ética de datos. Explorar marcos de trabajo éticos de AI de otras organizaciones - aquí tienes ejemplos de IBM, Google , yFacebook. ¿Qué valores compartidos tienen en común? ¿Cómo se relacionan estos principios al producto de AI o industria en la cual operan?

2. Desafíos éticos

Una vez que tenemos pricipios éticos definidos, el siguiente paos es evaluar nuestros datos y acciones AI para ver si estos se alinean con los valores compartidos. Piensa en tus acciones en 2 categorías: recolección de datos y diseño de algoritmos.

Con la recolección de datos, las acciones probablemente involucren datos personales o información de identificación personal (PII) para individuos vivos identificables. Esto incluye diversos artículos de datos no personales que colectivamente identifican a un individuo. Los desafíos éticos pueden relacionarse con privacidad de datos, propiedad de los datos, y temas relacionados como consentimiento informado y derechos de propiedad intelectual para los usuarios.

Con el diseño de algoritmo, las acciones involucran la recolección y curación de conjuntos de datos, luego usarlos para entrenar y desplegar modelos de datos que predicen resultados o automatizan decisiones en contexto del mundo real. Los desafíos éticos pueden surgir de conjuntos de datos sesgados, problemas con la calidad de los datos, injusticia, y malinterpretación in los algoritmo - incluyendo algunos problemas que son sistémicos por naturaleza.

En ambos casos, los desafíos éticos destacan áreas donde nuestas acciones pueden encontrar conflictos con nuestros valores compartidos. Para detectar, mitigar, minimizar, o eliminar estas preocupaciones - necesitamos realizar preguntas morales de "sí/no" relacionadas a nuestas acciones, luego tomar acciones correctivas según sea necesario. Demos un vistazo a algunos desafíos éticos y las preguntas morales que plantean:

2.1 Propiedad de los datos

La recolección de datos suele involucrar datos que pueden identificar los sujetos de datos. La propiedad de los datos trata del control y derechos de usuario relacionados a la creación, procesamiento y dispersión de los datos.

Las preguntas morales que debemos hacer son:

  • ¿Quién posea los datos? (usuario u organización)
  • ¿Qué derechos tienen los sujetos de datos? (ejemplo: acceso, eliminación, portabilidad)
  • ¿Qué derechos tienen las organizaciones? (ejemplo: rectificar revisiones de usuarios maliciosos)

2.2 Consentimiento informado

Consentimiento informado define el acto de los usuarios al aceptar una acción (como la recolección de datos) con un completo entendimiento de hechos relevantes incluyendo el propósito, riesgos potenciales y alternativas.

Las preguntas a explorar son:

  • ¿El usuario (sujeto de datos) otorgó el permiso para el uso y cpatura de datos?
  • ¿El usuario entendió el propósito para el cual los datos fueron capturados?
  • ¿EL usuario entendió los riesgos potenciales de su participación?

2.3 Propiedad intelectual

La propiedad intelectual se refiere a creaciones intangibles resultado de la iniciativa humana, que puede tener valor económico para individuos o negocios.

Las preguntas a explorar son:

  • ¿Los datos recolectados tiene valor económico para un usuario o negocio?
  • ¿El usuario tiene propiedad intelectual en este ámbito?
  • ¿La organización tiene propiedad intelectual en este ámbito?
  • Si estos derechos existen, ¿cómo los protegemos?

2.4 Privacidad de datos

La privacidad de datos o privacidad de la información se refiere a la preservación de la privacidad del usuario y la protección de la identidad del usuario respecto a información de identificación personal.

Las preguntas a explorar son:

  • ¿Están los datos (personales) de los usuarios seguros contra hackeos y filtraciones?
  • ¿Están los datos de usuario accesibles sólo para usuarios y contextos autorizados?
  • ¿Se preserva el anonimato de los usuarios cuando los datos son compartidos o esparcidos?
  • ¿Puede un usuario ser desidentificado de conuntos de datos anonimizados?

2.5 Derecho al olvido

El derecho al olvido o derecho a la eliminación provee protección adicional a datos personales de los usuarios. Especialmente, brinda a los usuarios el derecho a solicitar la eliminación o remoción de datos personales de búsquedas de internet y otras ubicaciones, bajo circunstancias específicas - permitiéndoles un nuevo comienzo en línea sin las acciones pasadas siendo retenidas contra él.

Las preguntas a explorar son:

  • ¿El sistema permite a los sujetos de datos solicitar eliminación?
  • ¿La remoción del consentimiento del usuario debería disparar la eliminación automatizada?
  • ¿Se recolectaron los datos sin consentimiento o por medios no legítimos?
  • ¿Estamos de acuerdo con las regulaciones de gobierno para la privacidad de los datos?

2.6 Sesgo del conjunto de datos

Un conjunto de datos o sesgo de recopilación pretende seleccionar un subconjunto no representativo de datos para el desarrollo de un algorítmo, creando una potencial injusticia en los resultados para distintos grupos. Los tipos de sesgos incluyen selección o muestreo de sesgo, sesgo voluntario y sesgo de instrumento.

Las preguntas a explorar son:

  • ¿Reclutamos un conjunto representativo de sujetos de datos?
  • ¿Probamos nuestros conjuntos de datos recoletados o curados para distintos sesgos?
  • ¿Podemos mitigar o eliminar los sesgos descubiertos?

2.7 Calidad de los datos

La calidad de los datos se enfoca en la validez de los conjuntos de datos curados que se usan para desarrollar nuestros algoritmos, comprobando si las características y registros cumplen los requerimientos para el nivel de precisión necesario para nuestros propósitos de AI.

Las preguntas a explorar son:

  • ¿Capturamos características válidas para nuestro caso de uso?
  • ¿Los datos fueron capturados consistentemente a través de las distintas fuentes de datos?
  • ¿Están completos los conjuntos de datos para las distintas condiciones o escenarios?
  • ¿La información es capturada de forma precisa reflejando la realidad?

2.8 Justicia del algoritmo

La justicia del algoritmo verifica que el diseño del algoritmo discrimina sistemáticamente contra subgrupos específicos de sujetos de datos que conlleven a daños potenciales en asignación, (donde los recursos son negados o retenidos para ese grupo) y calidad del servicio (donde la AI no es tan precisa para algunos subgrupos como lo es para otros).

Las preguntas a explorar son:

  • ¿Evaluamos la precisión del modelo para distintos subgrupos y condiciones?
  • ¿Escrutinamos el sistema buscando daños potenciales (por ejemplo, estereotipos?
  • ¿Podemos revisar los datos o retener re-entrenar modelos para mitigar daños potenciales?

Explora recursos como Listas de comprogación de justicia de AI para aprender más.

2.9 Malinterpretación

La malinterpretación de datos trata de preguntarse si estamos comunicando ideas honestamente de los datos reportados en una forma engañosa para soportar la narrativa deseada.

Las preguntas a explorar son:

  • ¿Estamos reportando datos incompletos o inexactos?
  • ¿Estamos visualizando los datos de tal forma conllevan a conclusiones engañosas?
  • ¿Estamos usando técnicas estadísticas selectivas para manipular los resultados?
  • ¿Existen explicaciones alternativas par pueden ofrecer una conclusión distinta?

2.10 Libertad de elección

La ilusión de libertad de elección ocurre cuando un sistema "elige arquitecturas" usando algoritmos de toma de decisiones para empujar a la gente hacia la elección de un resultado preferido mientras aparenta darles opciones y control. Estos patrones obscuros pueden causar daño social y económico a los usuarios. Ya que las decisiones del usuario impactan en los perfiles de comportamiento, estas acciones dirigen potencialmente a futuras elecciones que pueden amplificar y extender el impacto de estos daños.

Las preguntas a explorar son:

  • ¿El usuario entendió las implicaciones de realizar dicha elección?
  • ¿El usuario estaba conciente de las opciones (alternativas) y los pros y contrar de cada una?
  • ¿El usuario puede revertir una elección influenciada o automatizada posteriormente?

3. Casos de estudio

Para poner estos desafíos éticos en contexto del mundo real, ayuda ver casos de estudio que destacan el daño potencial y las consecuencias a individuos y sociedad, cuando dichas violaciones éticas son pasadas por alto.

Aquí hay algunos ejemplos:

Desafío de ética Caso de estudio
Consentimiento informado 1972 - Estudio de sífilis Tuskegee - A los hombres afroamericanos que participaron en el estudio le fue prometido tratamiento médico gratuito pero fueron engañados por los investigadores quienes fallaron al informar a los sujetos en sus diagnósticos o en la disponibilidad del tratamiento. Muchos sujetos murieron y los compañeros o hijos fueron afectados; el estudio duró 40 años.
Privacidad de los datos 2007 - El premio de datos de Netflix otorgó a investigadores con 10M de clasificaciones anóminas de 50K clientes para ayudar a mejorar los algoritmos de recomendación. Sin embargo, los investigadores fueron capaces de correlacionar datos anónimos con datos personalmente identificables en conjuntos de datos externos (por ejemplo, comentarios en IMDb) - efectivamente "des-anonimizando" a algunos subscriptores de Netflix.
Sesgo de colección 2013 - La ciudad de Boston desarrolló Street Bump, una app que permite a los ciudadanos reportar baches, dando a la ciudad mejores datos de la carretera para encontrar y reparar desperfectos. Sin embargo, la gente en los grupos con menores ingresos tuvieron menos acceso a autos y teléfonos, haciendo sus problemas de carretera invisibles para la app. Los desarrolladores trabajaron en conjunto con académicos para cambiar el acceso equitativo y brecha digital y así fuese más justo.
Justicia de algoritmos 2018 - El estudio de tonos de género del MIT evaluó la precisión de productos de clasificación de género , exponiendo brechas en la precisión para mujeres y personas de color. Una tarjeta 2019 de Apple parecía ofrecer menos crédit a mujeres que a hombres. Ambos ilustraron problemas en sesgos de algoritmos llevando a daños socio-económicos.
Malinterpretación de datos 2020 - El departamento de salud pública de Georgia liberó gráficos de COVID-19 que parecían malinformar a los ciudadanos acerca de las tendencias en los casos confirmados sin orden cronológico en el eje x. Esto ilustra la malinterpretación a través de visualizaciones engañosas.
Ilusión de libertad de elección 2020 - La aplicación de aprendizaje ABCmouse pagó $10M para asentar una queja FTC donde los padres fueron engañados para pagar subscripciones que no podían cancelar. Esto ilustra los patrones obscuros en arquitecturas de elección, donde los usuarios fueron empujados hacia elecciones potencialmente dañinas.
Privacidad de los datos y derechos de usuario 2021 - La infracción de datos de Facebook expuso datos de 530M de usuarios, resultando en un acuerdo de $5B para la FTC. Sin embargo, esto rechazó notificar a los usuarios de la brecha violando los derechos de usuarios alrededor de la transparencia y acceso de datos.

¿Quieres explorar más casos de estudio? Revisa los siguientes recursos:

🚨 Piensa en los casos de estudio que has visto - ¿has experimentado o sido afectado por un desafío ético similar en tu vida? ¿Puedes pensar en al menos otro caso de estudio que ilustre uno de los desafíos éticos que discutimos en esta sección?

Ética aplicada

Hemos hablado de conceptos éticos, desafíos y casos de estudio en contextos del mundo real. Pero ¿cómo podemos aplicar los principios éticos y prácticas en nuestros proyectos? y ¿cómo aplicamos estas prácticas para una mejor gobernanza? Exploremos algunas soluciones del mundo real:

1. Códigos profesionales

Los códigos profesionales ofrecen una opción para que las organizaciones "incentiven" a los miembros a apoyar sus principios éticos y su misión. Los códigos son guías morales para el comportamiento profesional, que ayudan a los empleados o miembros a tomar decisiones que se alinea con sus principios de organización. Estas son tan buenas como el cumplimiento voluntario de los miembros; sin embargo, muchas organizaciones ofrecen incentivos adicionales y penalizaciones para motivar el cumplimiento de los miembros.

Los ejemplos incluyen:

🚨 ¿Perteneces a una organización profesional de ingeniería o ciencia de datos? Explora su sitio para ver si definen un código de ética profesional. ¿Qué te dice acerca de sus principios éticos? ¿Cómo "incentivan" a los miembros para que sigan el código?

2. Listas de comprobación de ética

Mientras los códigos profesionales defiene los comportamientos éticos requerido por sus practicantes, estos tienen limitaciones conocidas en su aplicación, particularmente en proyectos a gran escala. En su lugar, muchos expertos en ciencia de datos abogan por listas de comprobación, que pueden conectar principios a prácticas en formas más determinísticas y accionables.

Las listas de comprobación convierten preguntas en tareas de "sí/no" que pueden ser operadas, permitiendo darles seguimiento como parte de flujos de trabajo de liberación de productos estándar.

Los ejemplos incluyen:

3. Regulaciones éticas

La ética trata de definir valores compartidos y hacer lo correcto voluntariamente. El cumplimiento trata de seguir la ley donde se define. La gobernanza cubre ampliamente todas las formas en las cuales las organizaciones operan para hacer cumplir los principios éticos y seguir las leyes establecidas.

Hoy en día, la gobernanza toma dos formas dentro de la organización. Primero, define los principios éticos de AI y establece prácticas para promover la adopción en todos los proyectos relacionados a AI en la organización. Segundo, trata de cumplir con todoso los mandatos de gobierno en regulaciones de protección de datos para las regiones en las cuales opera.

Ejemplos de protección de datos y regulaciones de privacidad:

🚨 La Unión Europea definió la GDPR (regulación general de protección de datos) quedando como una de las regulaciones a la privacidad de los datos más influyentes de hoy en día. ¿Sabías que también define 8 derechos de usuario para la protección de la privacidad digital de los ciudadanos y datos personales? Aprende más acerca de qué son y porqué importan.

4. Cultura ética

Nota que existe una brecha intangible entre cumplimiento (hacer suficiente para cumplir "lo designado por ley") y atender problemas sistémicos (como la osificación, asimetría de la información e injusticia distribucional) que acelera el armamento de la AI.

Lo último requier enfoques colaborativos para definir culturas de ética que construyan conexiones emocionales y valores compartidos consistentes a través de las organizaciones en la industria. Esto hace un llamado a culturas de ética de datos más formalizadas en las organizaciones - permitiendo a cualquiera tirar del cordón de Andon (para plantear cuestiones éticas desde el principio en el proceso) y hacer de las evaluaciones éticas (por ejemplo, en la contratación) un criterio principal en la formación de equipos en proyectos de AI.

Examen posterior a la lección 🎯

Revisión y auto-estudio

Los siguientes cursos y libros te facilitarán el entendimiento de conceptos éticos principales y desafíos, mientras que los casos de estudio y herramientas te ayudarán con las prácticas éticas aplicadas en contextos del mundo real. Aquí tienes algunos recursos con los que comenzar.

Asignación

Escribe un caso de estudio de ética de datos