¿Recuerda esas aspiradoras del tipo “set-and-forget” (configurar y olvidar) que fueron tan exitosas algunos años atrás? Además de ser una novedad divertida y útil, inintencionalmente proveyeron un vivo ejemplo de por qué la diversidad es esencial en la inteligencia artificial (AI).
Una noche en Corea del Sur, donde es usual dormir en el piso, una aspiradora robot se “comió” el pelo de una mujer mientras ella dormía. El robot no tuvo malas intenciones, actuó de la forma en que estaba programado para hacerlo. Pero justamente ese es el punto en cuestión: las implicancias de las diferentes culturas no habían sido consideradas durante el proceso de desarrollo de producto. Nadie preguntó: “¿Todos los que usarán este producto duermen en una cama alta? ¿Qué debe considerarse para los que no?”.
A medida que la AI se vuelve más dominante, y de muchas más formas que en las herramientas de uso doméstico, es más importante que nunca asegurarse la diversidad en los equipos de desarrollo que las crean. Las organizaciones típicamente se focalizan en los aspectos más obvios de la diversidad: étnica, género y edad. Esto ignora algunos de los elementos más vitales que la caracterizan: cultura, tradición y religión. No considerar el alcance completo podría tener impactos dañinos serios en muchas de las poblaciones para las que la AI está diseñada para asistir.
Las tres dimensiones de la diversidad
El alcance completo de la diversidad comprende tres dimensiones primarias: la diversidad humana, la diversidad cultural, y la diversidad de sistemas.
La diversidad humana
Se refiere a cuestiones de la gente que son inmutables, como la raza, el origen étnico y la edad; dimensiones tradicionales de la diversidad.
La diversidad cultural
Incluye cuestiones que son centrales respecto a la persona, pero que son modificables, como el aprendizaje, el pensamiento, los estilos de trabajo, la religión, la ética y el lenguaje.
La diversidad de sistemas
Subraya cómo los sistemas educación, empoderamiento, manejo de la performance, por ejemplo, interactúan entre sí.
Estas dimensiones de la diversidad son aplicables a cualquier situación de negocios, particularmente cuando se trata de inteligencia artificial. Cuando se forma un equipo de trabajo para desarrollar AI, es crucial que ese equipo considere si algunos de los elementos de la diversidad, la humana, la cultural o la de sistemas; fue pasada por alto cuando se construyó el sistema.
El desafío es que, a menos que los miembros del equipo representen esas dimensiones de la diversidad, es casi imposible que se planteen las preguntas correctas: si algo no es parte de su realidad (como dormir en el piso en vez de en una cama), ni siquiera lo pensarán. Y eso lleva al riesgo de que algunas cuestiones sean olvidadas y lo que ocurre con la AI es que eso comienza a ser más dramático a lo largo del tiempo.
Los efectos negativos de ignorar poblaciones humanas
La primera vez que pensé en diversidad en AI y sus consecuencias fue cuando trabajaba en adquisición de talentos. Cualquier persona que haya hecho una búsqueda en una página web basada en perfiles o búsqueda por trabajos puede haber visto los efectos negativos del aprendizaje automatizado.
Considere una búsqueda estándar de un ingeniero, sólo ingresando las habilidades técnicas para el rol produce una página llena de hombres de raza blanca. Ahora, manteniendo todas las habilidades técnicas, agregue “Sociedad de Mujeres Ingenieras” como un campo de búsqueda para ver qué cambia. No es de sorprender, aparece una página llena de mujeres que no habían aparecido en la primera búsqueda. Y si cambia “Sociedad de Mujeres Ingenieras” por “Universidad Internacional de Florida”, en Miami, esa búsqueda da como resultado una lista de ingenieros latinos que tampoco habían aparecido en la primera búsqueda.
Esas dos últimas búsquedas no sorprenden. La notable es la primera búsqueda, la dada. Los sistemas de AI están diseñados para crear experiencias que no sean disruptivas. Por definición, tratan de crear experiencias continuas y eficientes. La AI no va a decir: “No has hecho esto antes. Prueba algo completamente diferente de lo que no tengo evidencia que te gustará”.
Con la inteligencia artificial, si selecciono perfiles de la primera búsqueda, aprenderá y continuará produciendo ese mismo tipo de perfil y de candidatos una y otra vez. De este modo hay grupos de personas que pueden ser sistemáticamente eliminadas. Si ciertos grupos no son incluidos en los sets de datos que AI considera, a largo plazo, los problemas o desafíos que están fuera de ese set de datos pueden no ser resueltos en absoluto.
La historia muestra esto en el mundo pre AI en la arquitectura para viviendas sociales. Las ciudades tomaron los diseños idealizados de Europa y los montaron cerca de autopistas y otros espacios menos deseados, con poco o no nada de espacio verde. Con el tiempo, esos ambientes adversos tuvieron un impacto en cómo crecieron y se desarrollaron las personas. Si bien ese ambiente dio a luz a la cultura hip-hop, muchos otros aspectos negativos superaron a los positivos.
Imagine un mundo donde la AI toma importantes decisiones autónomas respecto al planeamiento del espacio y la arquitectura. ¿Quién asegura que ese sistema esté pensando en el espacio disponible y la luz disponible de manera que la gente no viva en las sombras y sin espacios verdes?
La necesidad de creadores diversos de AI
Nada se puede comparar a tener un lugar en la mesa e influenciar los cambios que darán forma al futuro. Cuando se trata de AI, incluir a un rango más amplio de tomadores de decisiones requerirá cooperación codo a codo entre negocios, escuelas, agencias de gobierno y otras instituciones.
Actualmente, sin embargo, no existe ninguna agencia de gobierno que aborde este tema. AI Now, un grupo abierto creado para abordar estas consideraciones éticas, se está desarrollando. La administración Obama produjo un trabajo de investigación en este tema en el contexto del impacto de la AI en la fuerza de trabajo. Lo que la administración Trump hará todavía no está claro.
Eso significa que gran parte del trabajo de asegurar la diversidad recaerá en los negocios que están construyendo los sistemas de AI y en los líderes de los negocios que están formando los grupos de desarrollo. Para comenzar, si todos en el grupo de desarrollo se parece, probablemente no esté diversificado. Además de la raza y el origen étnico, es clave considerar cuestiones como lengua y nacionalidad.
La visión del mundo de alguien de un país menos desarrollado de Asia seguramente será muy diferente a la de alguien de Alemania y los dos formularán preguntas diferentes pero importantes. Y, desde allí, se trata de subdividir otras cualidades para identificar el equipo apropiado para el problema que se pretende resolver con AI.
El tiempo para la diversidad en la inteligencia artificial es ahora
La AI y el aprendizaje automatizado son relativamente jóvenes, lo que implica que las discusiones de diversidad están ocurriendo en forma temprana, en términos de tiempo y de que todavía están en desarrollo. Los jugadores todavía se están decidiendo. Ésa es una buena noticia.
También es alentador el hecho de que hoy hay una conciencia diferente alrededor de la diversidad. El mundo entiende lo que “diversidad” significa, a diferencia de 20 años atrás. Esto servirá mucho para asegurar que otras culturas y visiones del mundo sean consideradas en estos sistemas. Después de todo, diversidad en AI es un tema global con implicancias para todos.
La construcción de sistemas de AI completos no implica que negocios de USA resuelvan problemas por otros, sino que las poblaciones puedan resolver los problemas por ellas mismas.
Esto, nuevamente, recalca el porqué tener estas poblaciones en la mesa es importante. Si estas no están diciendo “Deberías considerar esto en tu AI”, entonces sus cuestiones no serán atendidas.
Ése es el desafío para la comunidad de AI. Afortunadamente, todavía es lo suficientemente temprano para hacer algo al respecto. Eso significa que el futuro de la AI todavía puede ser moldeado, para mejor, a través de esfuerzos estratégicos de diversidad.
Crédito imagen: Getty Images
