Los sesgos de género en la inteligencia artificial

 

Aparte de la asignación de roles de género en la robótica, lo que implica, por ejemplo, que los robots militares sean por norma masculinos y los sociales o relacionales femeninos, existen otros sesgos de género que afectan a la inteligencia artificial, más allá del mero diseño de androides. Un reciente informe de la Fundación Alternativas los clasifica en dos grupos: sesgos de datos y de diseño.

El primer aspecto son los datos, el combustible de la inteligencia artificial actual basada en machine learning o aprendizaje automático. Estos algoritmos aprenden a base de consumir ingentes cantidades de datos –cuanto más volumen dispongan de ellos, más precisos serán sus diagnósticos-, sin embargo, nadie puede garantizar que la información que reciben los algoritmos sea realmente representativa. De hecho, se trata de datos que tienen los mismos sesgos que existen en las sociedades. Por ejemplo, el primer concurso de belleza en contar con un jurado no humano, Beauty.AI 2.0, demostró que el algoritmo había desarrollado un sesgo racista que le llevó a puntuar más bajo a las mujeres asiáticas o de color. Probablemente, el sesgo se produjo porque el sistema fue alimentado a base de modelos de belleza más occidentales.

En el aspecto de género, los datos pueden no ser lo suficientemente representativos de lo que ocurre en la sociedad y ocultar la presencia y el papel de las mujeres en la misma, convirtiéndolas en invisibles. Otro ejemplo que ilustra esto es la experiencia de Amazon, que empezó a utilizar la inteligencia artificial para llevar a cabo las contrataciones, entrenando al algoritmo sobre el ideal de empleado utilizando datos de las contrataciones llevadas a cabo en los diez años precedentes. El problema es que los puestos técnicos durante ese periodo habían sido ocupados en su mayoría por hombres, por lo que el sistema determinó que las candidatas no se ajustaban al perfil requerido por la empresa. Los datos que aparentemente son neutros esconden poderosos sesgos.

La segunda categoría corresponde a los sesgos de diseño, es decir, los prejuicios que vierten en la inteligencia artificial los propios diseñadores de esta. Por ejemplo, es muy común que los chatbots de atención al público tengan una voz femenina, llevando al plano tecnológico el rol estereotipado de la mujer como asistente, como recepcionista, o como empleada de atención al cliente. En España nos encontramos numerosos ejemplos de esto, como Lola de la Universidad de Murcia, Eva de Vueling, o Rosi, que contesta preguntas sobre información básica de Murcia.

También los asistentes de voz suelen tener voces femeninas -Siri de Apple, Alexa de Amazon, Cortana de Microsoft, y Google Assistant-, y sus creadores les asignan una personalidad específica de mujer. Por ejemplo, James Giangola, uno de los desarrolladores de Google Assistant, reconoció ante un medio de comunicación que habían concebido al asistente como una mujer joven del estado de Colorado, hija pequeña de una pareja de investigadores. El estereotipo de género en los asistentes inteligentes tiene su paradigma en la respuesta que da Siri ante la expresión “Eres una zorra”, que es “Me sonrojaría si pudiese”, frase que dio título a un conocido informe de Unesco sobre brechas de género tecnológicas.

Una de las causas de esto es la escasa presencia de mujeres en los equipos que desarrollan sistemas basados en inteligencia artificial. De acuerdo con un reciente informe de la Fundación Alternativas, en la Unión Europea la brecha digital de género en actividades de programación era de 8 puntos en 2014; las mujeres solo representan el 12% de los autores de artículos en las principales conferencias sobre machine learning y el 13,83% de los miles que se escriben en general sobre inteligencia artificial. Por otro lado, un estudio realizado en 2017 por Emerj demostró que sólo el 13% de las altas posiciones ejecutivas en empresas tecnológicas dedicadas a la inteligencia artificial son ocupadas por mujeres, y, si nos centramos en el subámbito del lenguaje natural, el porcentaje cae hasta el 5%.

 

Los robots son cada vez más habilidosos

En el pasado los robots eran situados en la cadena de producción para realizar tareas muy sencillas y repetitivas. Pero eso está cambiando. Los avances en el diseño y en la programación de los autómatas les permiten realizar cada vez tareas más complejas, que requieren de una destreza superior.

En los años ochenta del siglo pasado, el experto del Robotics Institute de la Carnegie Mellon University Hans Peter Moravec formuló un principio según el cual resulta muy complejo programar en un robot nuestra capacidad de percepción y nuestras habilidades sensomotoras, y, en cualquier caso, afirmaba, es mucho más difícil que reproducir las habilidades intelectuales de los humanos. En suma, es más sencillo crear algoritmos de inteligencia artificial para llevar a cabo tareas basadas en el cálculo y las matemáticas, que robots inteligentes que sean capaces de interactuar físicamente con el entorno.

Los fabricantes de robots suelen vender el término “destreza” como una ventaja competitiva del producto. Sin embargo, es complicado establecer un nivel de destreza estándar –incluso los propios expertos suelen manejar distintas definiciones de este concepto- y, resulta quizá más adecuado, fijarse en las tareas específicas que debe realizar la máquina a la hora de establecer sus habilidades.

De esta forma, de cara a determinar el nivel de destreza que necesita un robot para manipular objetos, hay que tomar en consideración cuestiones como las siguientes:

• El tamaño de los objetos: ¿cómo son de pequeños? ¿son todos del mismo tamaño o no? ¿cómo afecta lo anterior a la capacidad de alcanzarlos del robot?
• La forma de los objetos: ¿qué forma tienen? ¿tienen complicadas aristas o son una forma geométrica simple? ¿son esféricos y, en consecuencia, difíciles de agarrar?
• La estrategia de agarrado: ¿existen distintas formas para agarrar el objeto? ¿se trata de objetos delicados que requieran una manera especial de ser manipulados?
• Alcance: ¿cuánto tiene que alargarse el robot para alcanzar los distintos puntos de su espacio de trabajo? ¿es necesario utilizar todo el espacio de trabajo del robot o solo una parte? ¿debe aproximarse a una localización determinada desde distintos ángulos?
• Velocidad: ¿a qué velocidad debe realizar cada acción?

La complejidad que requiere preparar a un sistema inteligente para realizar determinadas acciones físicas podría justificar que las ocupaciones relacionadas con ellas sigan siendo desempeñadas por trabajadores humanos. Sin embargo, todo esto está cambiando y, poco a poco, se podría estar ampliando el espectro de tareas que puede desempeñar un robot.

Por una parte, la utilización de polímeros en la fabricación de extremidades robóticas, que pueden expandirse y aplicar la medida precisa de presión a los objetos, permite que las nuevas generaciones agarren y levanten objetos que sus predecesores no podían. Además, la inteligencia artificial permite a los autómatas procesar y analizar la información del entorno que reciben a través de sensores y cámaras. Pueden aprender de sus errores y mejorar su ejecución.

La empresa Boston Dynamics es un buen ejemplo del salto cualitativo que está realizando la ciencia robótica. Sus modelos cada vez se desenvuelven mejor en entornos desestructurados, como pueden ser la superación de obstáculos y desigualdades del terreno. Un ejemplo de ellos es el “ciberperro” Spot, el primero de sus desarrollos que sale a la venta, que es capaz de moverse a una velocidad de 1,6 metros por segundo, y desplazarse por lugares complicados en superficies de todo tipo. Además, si se cae o vuelca es capaz de levantarse por sí mismo, sin ayuda.

Por otro lado, la empresa de Google Alphabet está trabajando, dentro del laboratorio The Moonshot Factory, en la iniciativa The Everyday Robot Project, que pretende desarrollar un robot capaz de aprender y de desenvolverse en entornos desestructurados. Los robots que persigue este proyecto están pensados para operar con seguridad en entornos humanos, es decir, en aquellos en los que las cosas cambian de lugar, donde existen obstáculos y en los que las personas pueden aparecer inesperadamente. Para ello, la máquina debe poder comprender el espacio en el que trabaja e ir adaptándose a él a través de la experiencia.

La investigación llevada a cabo en las dependencias de Alphabet se basan en tres pilares: percepción, manipulación y navegación. La percepción a través de cámaras en la cabeza del autómata, que recogen información para que sea asimilada por el machine learning, el sistema de inteligencia artificial que incorpora el sistema. Manipulación de todo tipo de objetos, gracias a una destreza muy fina. Finalmente, navegación, pues el robot utiliza los datos que recogen sus sensores para poder entender lo que “ve”, lo que “oye”, y el lugar que ocupa en el mundo, de forma que pueda realizar tareas útiles entre las personas de forma segura.

 

Por qué un robot no podrá sustituir a tu peluquero

La sustitución de trabajadores humanos por máquinas en el entorno laboral, y la pérdida de empleos consecuente, es una de las grandes preocupaciones de las sociedades actuales. El vertiginoso avance de la tecnología parece habernos cogido por sorpresa, y no parecemos ser capaces de dar una respuesta social y política a la perspectiva catastrofista de un futuro cercano caracterizado por el desempleo masivo.

En 2013, dos académicos de la Universidad de Oxford, Carl Benedikt Frey y Michael A. Osborne, abrieron la caja de Pandora con un estudio que postulaba que prácticamente la mitad de los empleos de Estados Unidos podían ser desempeñados por máquinas. En concreto, en el trabajo calculaban la probabilidad de que una determinada ocupación pueda ser automatizada. Los medios dieron a las conclusiones del trabajo un barniz apocalíptico, al sugerir, en ciertos titulares, que los robots iban a sustituir al 47% de los trabajadores del país.

La realidad es mucho más compleja y, aunque efectivamente la inteligencia artificial tiende a desplazar la mano de obra humana, no está tan claro en qué medida y a qué empleos afectará más directamente. Para Frey y Osborne, solamente las ocupaciones muy creativas se librarán de ser automatizadas; otros en cambio extienden el reino del maquinismo incluso a campos que parecían acotados en exclusiva para el ingenio humano, como la redacción periodística.

En cualquier caso, la visión más ortodoxa prevé, en primer lugar, la destrucción del empleo menos cualificado –basado en tareas repetitivas y en gran medida manuales- y más adelante, a medida que las máquinas más inteligentes van avanzando en sofisticación, también la sustitución de cada vez más trabajadores especializados. Numerosas actividades financieras y de seguros o la atención al cliente, por poner dos ejemplos, son susceptibles de ser realizadas por algoritmos informáticos.

Y, sin embargo, parece ser que mientras que las máquinas son muy buenas acometiendo funciones que para los humanos suponen retos intelectuales, fallan bastante en actividades relacionadas con la percepción, la motricidad y la destreza fina. Sorprendentemente, esto podría implicar que muchos empleos manuales que requieren muy poca cualificación –como peluquero, limpiador o jardinero- podrían resistir el empuje de la automatización y seguir siendo desempeñados por humanos. Es lo que se conoce como la paradoja de Moravec.

Hans Peter Moravec es un experto austriaco en robótica del Robotics Institute de la Carnegie Mellon University, en Pittsburgh, Pennsylvania. En la década de los ochenta, desarrolló, junto con Rodney Brooks y Marvin Minsky, una teoría según la cual, mientras que resulta relativamente fácil -o por lo menos alcanzable- aplicar con éxito la inteligencia artificial para reproducir las habilidades intelectuales de los humanos, en cambio, resulta muy complejo programar en un robot nuestra capacidad de percepción y nuestras habilidades sensomotoras.

En suma, lo que Moravec defendía –y parece que treinta años después sigue teniendo razón- es que resulta mucho más sencillo crear algoritmos de inteligencia artificial para llevar a cabo tareas basadas en el cálculo y las matemáticas, que robots inteligentes que sean capaces de interactuar físicamente con el entorno.

Una máquina inteligente nos supera en capacidad de cálculo; puede procesar millones de datos y establecer un dictamen en tiempo record -como, por ejemplo, al analizar e identificar patrones de síntomas de enfermedades más rápido que un médico-, pero le cuesta sobremanera andar a dos patas como los humanos (a pesar de los avances realizados en este campo por empresas Boston Dynamics) o coger de una estantería objetos de distintas formas o tamaños, con la naturalidad con la que lo hacemos nosotros.

Hans Moravec achaca esta paradoja a la evolución de las partes motoras y sensoriales del cerebro humano, un proceso que ha durado de miles de años, y que nos ha dotado de la experiencia que tenemos sobre el mundo físico que nos rodea y de la capacidad para sobrevivir en él. Por el contrario, el proceso que conocemos como razonamiento es la “más fina capa de barniz” de la mente humana, y su efectividad se basa en el mucho más poderoso conocimiento sensomotor-, que ponemos en práctica continuamente, de manera inconsciente, en nuestra vida diaria.

Los algoritmos de inteligencia artificial de esta primera mitad del siglo veintiuno amenazan directamente a los trabajadores cualificados, especialmente del sector servicios. Se trata de ocupaciones muy dependientes del manejo de datos –contables, auditores, tomadores de seguros, meteorólogos, e incluso, empleados del comercio minorista o profesiones relacionadas con la atención al cliente…-, que constituyen un campo en el que el aprendizaje automático de las máquinas demuestra su eficiencia y en donde supone un ahorro de costes respecto a la mano de obra humana. Otras de las candidatas a la automatización son las ocupaciones que demandan muy baja cualificación y que están basadas en tareas repetitivas. Pero en cambio, muchos otros trabajos manuales no son fácilmente automatizables. La adaptación de los robots para realizar determinadas tareas es muy lenta y trabajosa.

De esta forma, la inteligencia artificial tiende a eliminar, en primer lugar, los trabajos manuales más simples y, después, aquellos que están basados, aunque sea implícitamente, en los datos y el álgebra, es decir, en el manejo de información. Las ocupaciones que corren menos riesgo a medio plazo de ser desempeñadas por máquinas basadas en el trabajo físico, serían las que requieren una gran destreza en un entorno no estructurado, lo que dificulta el uso de robots, y que además tienen un componente de habilidades sociales. Por ejemplo, los cuidadores de personas mayores, peluqueros, fisioterapeutas, o educadores de perros. Por su parte, las profesiones basadas en el trabajo cognitivo que están fuera de peligro son aquellas que demandan creatividad o estrategia, y habilidades sociales, como, por ejemplo, psiquiatras, directores de relaciones públicas, trabajadores sociales o abogados criminalistas.

Photo by Alex Knight from Pexels

Llegan los cobots, los robots colaborativos

Si acudimos a Wikipedia, descubrimos que un cobot o co-robot (de collaborative robot) es un robot creado para interactuar físicamente con humanos en un entorno colaborativo de trabajo. A diferencia de los robots industriales a los que estamos acostumbrados, el cobot no opera de forma autónoma, sino que utiliza la inteligencia artificial para interactuar con el ser humano.

Estos sistemas inteligentes incorporan sensores, cámaras, rastreadores y controles, que permiten su relación con el entorno y su adecuación a las tareas de la actividad industrial.  La tesis que defienden los entusiastas de estas máquinas es que relevan a los trabajadores humanos de realizar las tareas más monótonas y aburridas, permitiéndoles desempeñar trabajos más creativos y reconfortantes. En teoría suena bien, pero ¿no estaremos asistiendo a una destrucción masiva de empleo?

Uno de los principales retos a la hora de incorporar cobots al medio fabril es el articular de forma óptima las relaciones entre máquinas y humanos. Como apunta Marc Vidal, al trabajador humano le produce cierta desconfianza su compañero cibernético al no conocer su verdadera inteligencia. Algún intento por “humanizar” el aspecto físico del cobot ha tenido efectos contrarios al buscado.

La empresa Rethink Robotics, pionera en este campo, colocó ojos en las pantallas de display de sus autómatas, dotándoles de unas expresiones seudohumanas, que variaban según hubiese problemas con las tareas a realizar. Según Marc Vidal esto aumentó la desconfianza de los humanos al asociar las expresiones con sonrisas falsas.

Rethink tiene dos modelos de cobots llamados Baxter y Sawyer que están entrenados para trabajar en entornos “no estructurados” lo que implica que conocen su posición en relación con otros objetos y actuar en consecuencia cuando las cosas se mueven de sitio, a diferencia de los robots industriales convencionales. Por ejemplo, si queremos que un robot deposite objetos en una cinta transportadora debemos asegurarnos que estos estén debidamente ordenados para que pueda hacerlo; Baxter y Sawyer solamente necesitan saber lo que se espera de ellos y ya se encargan de buscar los objetos para cogerlos y ponerlos sobre la cinta.

Presentan una gran capacidad de interacción con el entorno. En el ejemplo anterior, supongamos que la cinta transportadora se para y que hay un objeto sobre ella. El cobot esperará hasta que vuelva a ponerse en marcha para seguir depositando objetos.

Igualmente, cuando deben ser reprogramados para realizar una tarea distinta el proceso lleva minutos y no horas, como en el caso de robots convencionales. En general, son más fáciles de programar y de configurar y son más flexibles y seguros.

Otro punto importante es que son relativamente baratos y por ello accesibles para empresas de menor tamaño. Una unidad de producción cobot ronda actualmente los 25.000 euros, pero podría bajar de los 15.000 para 2020.

La flexibilidad que permite el cobot se ajusta a la perfección a los métodos de producción “just-in-time”, que someten la fabricación a las necesidades de la demanda en cada momento minimizando el coste de almacenaje de stocks. Estas máquinas están diseñadas para recibir y compartir información en tiempo real con otros sistemas como los sistemas de ejecución de la fabricación MES (Manufacturing Execution System) o los sistemas de gestión de almacenes WMS (Warehouse Management System).

De acuerdo con Jim Lawton de la empresa Rethink Robotics, mencionada anteriormente, los dos principales obstáculos a los que se enfrenta el desarrollo y la evolución de los cobots son:

• La destreza manual de estas máquinas todavía es insuficiente para realizar determinadas tareas de precisión, como pueden ser desembalar o enhebrar una aguja.
• La inteligencia artificial que les alimenta está basada en algoritmos que no pueden interpretar contextos muy amplios. Utiliza el siguiente ejemplo: a un cobot se le puede entrenar para que reconozca perros y lo hará bastante bien, pero si le mostramos la foto de una familia jugando con un perro, no sabrá identificar el contexto más allá de la figura del can.

La pregunta que nos viene de nuevo a la cabeza es si todo este proceso de automatización productiva no destruye empleo. Hay quien afirma que no solo no quitan puestos de trabajo sino que impulsan la creación de otros nuevos.

Preston Summers escribe en un artículo publicado por CobotsGuide que entre 2010 y 2016 fueron incorporados 135.000 robots industriales en la industria automovilística norteamericana, pero que durante el mismo periodo el sector creó 230.000 empleos nuevos.

Algunas empresas, como la energética Waison Group que en los siete meses siguientes de introducir cobots en sus procesos productivos para trabajar mano a mano con sus empleados la productividad del trabajo aumentó un 45% y los costes operativos y las tasas de productos defectuosos descendieron respectivamente un 25% y un 50%. Esta compañía está destinando a trabajadores que estaban en la línea de ensamblaje a posiciones de mayor valor añadido.

Algo similar ocurre en la empresa suiza de fabricación de fregaderos de cocina Franke Küchentechnik AG, cuya incorporación a la línea de montaje de cobots modelo Universal Robots UR5 ha aumentado la precisión con la que se realiza el pegado de las piezas que acompañan a las pilas de aluminio. En este caso, también los operarios desplazados por las máquinas han sido destinados a puestos de trabajo basados en tareas menos monótonas y repetitivas.