La inteligencia artificial, está presente en nuestro día a día más de lo que creemos, desde nuestro Smartphone, con su asistente de voz, hasta los filtros de spam de nuestro correo electrónico, que emplean el aprendizaje automático para diferenciar entre los correos que son legítimos y aquellos que no lo son.
Vivir con la influencia sutil de inteligencia artificial tiene un impacto social positivo, pero también una cara B menos visible sobre la que nos proponemos reflexionar en este post para identificar un marco ético que garantice el bienestar de todos.
Table of Contents
La cara A: El impacto positivo de la IA en la sociedad
En el ámbito sanitario por ejemplo, los sistemas de IA ayudan a la prevención y diagnóstico de enfermedades y brotes en fases muy tempranas, descubriendo tratamientos y medicamentos u ofreciendo intervenciones a medida.
Otro de los grandes beneficios que ha aportado a la sociedad la IA, es que ha ayudado a una reducción de la desigualdad y la pobreza, como es en el caso de la agricultura, al permitir que los agricultores conozcan los precios justos y los cultivos rentables, dándoles también acceso a las predicciones meteorológicas.
⋅ Favoreciendo las tareas creativas
⋅ Añadiendo precisión
⋅ Disminuyendo el error humano
⋅ Incrementando el ciclo de vida del equipamiento
⋅ Mejorando la toma de decisiones de forma rápida y eficiente
⋅ Control y optimizando procesos productivos y líneas de producción
⋅ Aumentando la productividad y calidad del trabajo
⋅ Ayudando a superar desafíos complejos
La cara B: Riesgo de perpetuar desigualdades sociales
A pesar de los múltiples beneficios que nos aporta la inteligencia artificial, también encontramos una cara B que nos trae nuevos tipos de preocupaciones en cuanto a ética y justicia.
En el sector de la IA, existe una crisis de diversidad de género y raza que tiene un impacto directo en nuestra sociedad. Si tenemos en cuenta que el 80% de quienes trabajan en IA son hombres blancos, no es difícil adivinar que existe un sesgo de género, pero también de raza y de poder.
Veamos dos ejemplos:
En abril de 2019, los empleados de Microsoft se reunieron con su CEO Satya Nadella para discutir sobre problemas como el acoso, la discriminación, la compensación injusta y la falta de promoción de mujeres en la empresa.
En noviembre de 2018, hubo en Google una huelga mundial histórica de 20.000 empleados por una cultura de inequidad y acoso sexual dentro de la empresa.
Todo esto no solo afecta al funcionamiento de las empresas de inteligencia artificial, sino también al desarrollo de sus productos. Por tanto, ¿Cuál es el futuro del impacto social de la IA?
Crisis de diversidad en el sector de la IA
El sector de la IA está trabajando en un cambio profundo en la forma en que aborda la actual crisis de diversidad. Muchos investigadores han demostrado que el sesgo en los sistemas de IA refleja patrones históricos de discriminación, en este artículo hemos recopilado los casos más emblemáticos de sesgos de Inteligencia artificial y género.
Hasta la fecha, los problemas de diversidad en la industria de la inteligencia artificial y los problemas de sesgo en los sistemas que se construyen se han tratado por separado, pero ambos están entrelazados.
El algoritmo de inteligencia artificial funciona como un sistema de discriminación. Por ejemplo, el reconocimiento de la imagen facial identifica como erróneos algunos rostros negros, pudiendo distorsionar la toma de decisiones con un impacto trascendente en la vida de personas.
Aquí es donde surgen cuestiones como: ¿Quién se ve perjudicado? ¿Quién se beneficia? ¿Quién decide?
La clave es no poner el foco en cómo la inteligencia artificial perjudica a algunas personas, sino también en cómo funciona en beneficio de otras, reforzando estereotipos injustos sobre cuál es la persona “con rasgos normativos” y cuál no lo es.
Actualmente el sector trabaja a conciencia para que se integren estas preocupaciones en el desarrollo de los distintos tipos de algoritmos de inteligencia artificial, buscando no solo la eficiencia sino garantizar la justicia y la responsabilidad social.
El impacto de la IA en grupos desfavorecidos
A continuación, te mostramos un ejemplo discriminatorio:
En 2018, Reuters informó que Amazón había desarrollado una herramienta de contratación experimental para ayudar a clasificar a los candidatos a puestos de trabajo, aprendiendo de sus experiencias pasadas. Amazon lo que esperaba es que la herramienta de escaneo de currículums pudiera clasificar según sus trabajos anteriores.
Pero el sistema empezó a degradar a solicitantes que habían pasado por universidades de mujeres, junto con cualquier CV que incluyese la palabra mujer. Tras descubrir este sesgo, los ingenieros de Amazon, trataron de solucionarlo haciendo que se tratase la palabra mujer de forma neutral.
La empresa finalmente dejó de utilizar esta herramienta al no poder garantizar 100% que el algoritmo funcionase de forma correcta.
Este ejemplo de inteligencia artificial del algoritmo de Amazon, es solo uno de muchos que muestran como las lógicas funcionales de una determinada aplicación de la inteligencia artificial hace eco de la discriminación racial y de género de la industria que la ha producido.
Por lo tanto, si los productos de la inteligencia artificial ya influyen en miles de personas, es fundamental abordar estos problemas de diversidad. No solo para las superpotencias de la inteligencia artificial en la industria tecnológica sino también para todas las personas que usamos aplicaciones y servicios de inteligencia artificial.
Discriminación en los sistemas de Inteligencia artificial
La discriminación y la inequidad en el lugar de trabajo tienen consecuencias graves, ya que excluye a estos grupos de los recursos y las oportunidades. Solo por esta razón, la crisis de la diversidad de la inteligencia artificial debe abordarse con urgencia.
Así, la representación de los rostros humanos en la IA, puede entenderse como un reflejo de la jerarquía social ya que personas con recursos económicos inferiores, tienen un acceso limitado a la tecnología. Todo esto conduce a una exclusión en los tipos de IA inteligencia artificial.
Por ejemplo, la tecnología que se aplica de forma recurrente al servicio de la policía, son un foco de estudio sobre el sesgo de la IA que se aplica, ya que esto puede dañar, de forma desproporcionada a las personas pobres y a la comunidad negra.
Un claro ejemplo es el caso del software de Amazon, y su servicio de IA Rekognition para analizar rostros. Investigadores pidieron que se dejara de vender este servicio de inteligencia artificial Rekognition a los departamentos de policía, ya que, tenía tasas de error muy altas al predecir el género de las mujeres de piel más oscura en las imágenes, en comparación con los hombres de piel más clara:
Esto nos hace volver a plantearnos si las tecnologías funcionan para todo el mundo por igual. Realizarnos esta serie de preguntas es de vital importancia para poder actuar frente al problema actual.
Otro problema que parece pasar desapercibido, a tener en cuenta en los sistemas de reconocimiento facial, es reconocer los rostros de las personas que atraviesan una transición de género.
Te dejamos a continuación un ejemplo de Uber:
Este error ha sido un gran problema para los conductores trans de UBER, ya que sus sistemas de inteligencia artificial de reconocimiento facial que se encuentran integrados como seguridad de Uber, han provocado la suspensión de las cuentas de los conductores trans, y les ha impedido trabajar hasta recuperar dichas cuentas.
La gran mayoría de estudios sobre Inteligencia Artificial asumen el género como binario, (hombre o mujer) excluyendo a estos grupos, borrando todas las demás formas de identidad de género.
Todo esto es una señal para que quienes producen esta IA tienen que tener en cuenta aspectos como la diversidad y la inclusión. Es vital hacer que este algoritmo de IA sea más consciente de la raza, el género y otras categorías de identidad.
La falta de diversidad en el desarrollo de la IA
Nos encontramos ante un momento crítico en donde la industria de la inteligencia artificial debe decidir qué hacer ante este paradigma social, ya que juega un papel fundamental en nuestras vidas.
Lo primero de todo, hay que ser conscientes que estos sistemas de inteligencia artificial tratan a las personas de forma distinta a otras y así, buscar un camino hacia delante, donde los trabajadores de inteligencia artificial desarrollen tipos IA comprometidos con romper esta brecha.
También es primordial que seamos conscientes de que no debemos llegar a un lugar y sentirnos cómodos porque somos iguales, el objetivo es conseguir llegar a un lugar y sentirnos inspirados por lo diferentes que somos.
A pesar de esta falta de diversidad en algunos procesos de la IA. La evolución de la IA también ha contribuido a una reducción masiva de la desigualdad mundial y la pobreza, por ejemplo, al permitir granjeros sepan cuales son los precios justos y los cultivos que pueden ser más rentables, dándoles accesos a predicciones meteorológicas precisas.
Como cualquier herramienta, del uso que le demos va a depender el impacto que ejercerá en la sociedad. Por esto, una reflexión ética es indispensable para seguir avanzando. Todos tenemos una responsabilidad a la hora de garantizar que los beneficios de estas innovaciones erradiquen y gestionen sus usos negativos.
