A medida que la inteligencia artificial (IA) se vuelve cada vez más dominante, en muchas más formas que las herramientas robóticas domésticas, es más importante que nunca garantizar la diversidad en los equipos de desarrollo que la crean. Las organizaciones generalmente se centran en los aspectos más obvios de la diversidad: etnia, género y edad. Esto ignora algunos de los elementos más importantes de la diversidad: cultura, tradición y religión. Si no se tiene en cuenta el alcance total de la diversidad, podría tener graves efectos perjudiciales en muchas poblaciones para las que la IA está diseñada para ayudar.
Las tres dimensiones de la diversidad
Ese alcance total de la diversidad comprende tres dimensiones principales: diversidad humana, diversidad cultural y diversidad de sistemas. La diversidad humana se refiere a cosas sobre las personas que son inmutables, como la raza, el origen étnico y la edad, las dimensiones tradicionales de la diversidad. La diversidad cultural incluye cualidades que son fundamentales para la persona, pero que pueden cambiar, como el aprendizaje, el pensamiento y los estilos de trabajo; religión; ética; y lenguaje. Y, por último, la diversidad de sistemas subraya cómo los sistemas (educación, empoderamiento y gestión del desempeño, por ejemplo) interactúan entre sí.
- ¿Qué son los autómatas?
- ¿Cuáles son algunas tecnologías similares similares a los solucionadores de satélites?
- ¿Dónde está el aprendizaje automático o la inteligencia artificial agregando valor a su empresa?
- ¿Cómo se puede conectar una bomba a la CPU de una computadora y / o computadora portátil?
- ¿Cuáles son algunas organizaciones gubernamentales en la India que reclutan graduados en ingeniería informática?
Estas dimensiones de diversidad son aplicables a cualquier situación comercial, particularmente cuando se trata de inteligencia artificial. Al establecer un equipo para desarrollar una IA, es crucial que ese equipo considere si se han pasado por alto elementos de la diversidad humana, cultural o de sistemas al construir el sistema. El desafío es que, a menos que los miembros del equipo representen esas dimensiones de diversidad, es casi imposible tener personas presentes para hacer las preguntas necesarias: si algo no es parte de su realidad (como dormir en el piso en lugar de en una cama), Ni siquiera lo pensaría. Y eso lleva al peligro de que se olviden las cosas, y donde eso se desarrolla con la IA es que comienza a ser más dramático con el tiempo.
Los efectos negativos de ignorar las poblaciones humanas
Primero comencé a pensar en la diversidad de IA y sus consecuencias mientras trabajaba con la adquisición de talento. Cualquiera que haya completado una búsqueda en un sitio web de reclutamiento o búsqueda de empleo basado en el perfil podría haber visto el efecto negativo compuesto de la inteligencia aprendida.
Considere una búsqueda estándar de candidatos para un ingeniero, simplemente ingresando las calificaciones técnicas para un puesto, lo que produce una página llena de hombres caucásicos. Ahora, mantenga todas las calificaciones técnicas y agregue “Sociedad de Mujeres Ingenieras” como término de búsqueda para ver qué cambios. No es sorprendente que aparezca una página llena de mujeres, que no habían aparecido en la primera búsqueda. Y si cambia la “Sociedad de Ingenieros de Mujeres” por “Florida International University”, una universidad en Miami, esa búsqueda arroja una lista de ingenieros latinos que tampoco habían aparecido en la primera búsqueda.
Esas dos últimas búsquedas no son sorprendentes en absoluto. Lo que es notable es la primera búsqueda, la predeterminada. Los sistemas de IA están diseñados para no crear experiencias disruptivas; Por definición, su objetivo es crear experiencias fluidas. AI no va a decir: “No has hecho esto antes. Intenta algo completamente diferente que no tengo pruebas de que te guste en absoluto.
Con AI, si selecciono perfiles de la primera búsqueda, aprenderá y luego continuará produciendo el mismo tipo de perfil y candidato una y otra vez. En este modo, los grupos de personas pueden ser eliminados sistemáticamente. Si ciertos grupos no están incluidos en los conjuntos de datos que AI está teniendo en cuenta, a la larga, los problemas o desafíos que están fuera del conjunto de datos pueden no resolverse en absoluto.
La historia lo confirma en el mundo anterior a la IA en arquitectura para viviendas públicas. Las ciudades tomaron diseños idealizados de Europa y los colocaron junto a autopistas y otras ubicaciones menos deseables, con poco o ningún espacio público o verde. Con el tiempo, ese entorno físico adverso tuvo un impacto en cómo las personas crecieron y se desarrollaron como seres humanos. Aunque ese entorno dio origen a la cultura hip-hop, muchos otros aspectos negativos superaron con creces los positivos. Imagine un mundo de inteligencia artificial que toma decisiones en gran medida autónomas sobre la planificación y la arquitectura del espacio. ¿Quién se asegura de que el sistema esté pensando en el espacio y la luz disponibles para que las personas no vivan en las sombras y sin parques?
La necesidad de diversos creadores de IA
Nada se compara con tener un lugar en la mesa e influir en los cambios que darán forma al futuro. Cuando se trata de IA, incluir una gama más amplia de tomadores de decisiones requerirá la cooperación mano a mano entre empresas, escuelas, agencias gubernamentales y otras instituciones.
Actualmente, sin embargo, no existe una agencia gubernamental para abordar este problema. AI Now, se está desarrollando un grupo de código abierto creado para abordar estas consideraciones éticas. La Administración de Obama produjo un libro blanco sobre este tema, en el contexto del impacto de la fuerza laboral en la IA. Lo que la administración Trump podría hacer aún no está claro.
Eso significa que gran parte de la carga de garantizar la diversidad recaerá en las empresas que están construyendo los sistemas de inteligencia artificial y los líderes empresariales que están formando los equipos de desarrollo. Para empezar, si todos en el equipo de desarrollo se ven iguales, probablemente no esté diversificado. Además de la raza y el origen étnico, es clave considerar cosas como el idioma y la nacionalidad. Es probable que la visión del mundo de alguien de un país menos desarrollado en Asia sea muy diferente a la de alguien de Alemania, y ambos harán preguntas diferentes pero importantes. Y a partir de ahí, se trata de subdividir otras cualidades para identificar el equipo apropiado para el problema que está buscando resolver a través de la IA.
El momento de la diversidad en la inteligencia artificial es ahora
La inteligencia artificial y el aprendizaje automático son relativamente jóvenes, lo que significa que estas discusiones sobre la diversidad están ocurriendo temprano, tanto en términos de tiempo como de que todavía está en desarrollo. Los jugadores aún se están decidiendo. Esas son buenas noticias.
También es alentador que hoy exista una conciencia diferente en torno a la diversidad. El mundo entiende lo que significa “diversidad”, a diferencia de hace 20 años. Esto contribuirá en gran medida a garantizar que se consideren otras culturas y visiones del mundo en estos sistemas; después de todo, la diversidad en la IA es un problema global con implicaciones para todos.
La construcción de sistemas completos de IA no se trata solo de que las empresas estadounidenses resuelvan problemas para otros, sino de que las poblaciones puedan resolver problemas por sí mismas. Esto, nuevamente, subraya por qué es importante tener estas poblaciones en la mesa. Si no están diciendo, “Deberías considerar esto en tu inteligencia artificial”, entonces nunca reciben servicio.
Ese es el desafío para la comunidad de IA. Afortunadamente, todavía es lo suficientemente temprano como para hacer algo al respecto. Eso significa que el futuro de la IA todavía puede moldearse, para mejor, a través de esfuerzos estratégicos de diversidad.
