lunes, 25 de junio de 2018

Cuando la inteligencia artificial discrimina a las personas

La gran apuesta tecnológica de este siglo es la inteligencia artificial. Utilizar programas para identificar patrones en inmensas cantidades de datos de cara a poder realizar predicciones es algo que abre un mundo de posibilidades para la ciencia, la economía y también para nuestra vida diaria, pues estos algoritmos cada vez están más presentes en los servicios que consumimos. No obstante, existe el peligro de que estos sistemas inteligentes desarrollen sesgos discriminatorios hacia determinadas personas o colectivos. La prevención de comportamientos que pueden atentar contra los derechos de las personas es básica para mantener la confianza de la sociedad en la tecnología.

A pesar de que es un sector joven que está dando sus primeros pasos fuera de los laboratorios (es un campo de estudio con una tradición de décadas, pero es ahora cuando realmente está dando frutos comerciales), la inteligencia artificial ya ha protagonizado situaciones indeseadas o no previstas que han hecho saltar las alarmas.

Uno de los ejemplos más conocidos es el del chatbot Tay de Microsoft que estaba programada para conversar con los usuarios en las redes, podía contar chistes o comentar las fotografías que recibía, pero también podía personalizar sus interacciones con los humanos, respondiendo a sus preguntas. Tay aprendía de las conversaciones que mantenía con los humanos y comenzó a emitir juicios y opiniones políticamente incorrectos de carácter racista. Microsoft la apagó a las dieciséis horas de su lanzamiento.

También en 2016 saltó la noticia de que un programa informático utilizado por la justicia de Estados Unidos para evaluar la probabilidad de reincidir de los presos juzgaba a las personas de color más proclives a ello. Se trataba del sistema Compas (Correctional Offender Management Profiling for Alternative Sanctions), de la empresa Northpointe, que asesoraba a jueces y fiscales a la hora de tomar decisiones y que establecía erróneamente la tasa de volver a delinquir de los ciudadanos negros en el doble que la de los blancos. Paradójicamente, Compas pretendía eliminar el posible sesgo racista que podían manifestar los jueces humanos.

Y más. El primer concurso de belleza cuyo jurado era una máquina, Beauty.AI, también arrojó una discriminación relacionada con el color de la piel. Participaron en torno a 6.000 candidatas de más de 100 países que enviaron sus fotos para ser juzgadas por un algoritmo programado para evaluar la belleza humana. El sorprendente resultado fue que, de las 44 ganadoras, la mayoría eran blancas, unas pocas asiáticas y solamente una tenía la piel oscura.

Este tipo de efectos no previstos ni deseados del funcionamiento de la inteligencia artificial es lo que  Roman V. Yampolskiyi (La inteligencia artificial en las empresas falla y fallará, sepa cómo evitar sus peores consecuencias) denomina “malos hábitos”, que a su juicio pueden ser de dos tipos: errores cometidos durante la fase de aprendizaje y errores cometidos durante la fase de funcionamiento.

Con el objeto de entender los riesgos potenciales del aprendizaje automático (machine learning) para poder prevenirlos, el Foro Económico Mundial ha publicado el libro blanco How to Prevent Discriminatory Outcomes in Machine Learning. A juicio de los autores no se trata de frenar el uso de la inteligencia artificial o de minar las expectativas que presenta, sino de mantener la confianza en ella y proteger el contrato social basado en la idea de que la tecnología está al servicio de los intereses de las personas. 

De acuerdo con este trabajo, la inteligencia artificial actual plantea cuatro grandes desafíos:
  • Es compleja: a diferencia del software tradicional, crea modelos que no siguen un proceso lógico que pueda ser entendido por los humanos.
  • Es opaca: dada su complejidad y la naturaleza de sus algoritmos es como una caja negra, por lo que es muy difícil averiguar por qué ha tomado una decisión determinada.
  • Es ubicua: poco a poco está presente en muchos aspectos de la sociedad.
  • Es exclusiva: a día de hoy, los sistemas basados en aprendizaje automático necesitan de grandes cantidades de datos y de expertos técnicos para programarlo. Sin embargo, la información, por ejemplo, las bases de datos, es cara y no está al alcance de todo el mundo. Además, los técnicos programadores requieren tener unos conocimientos que pocos tienen. En conclusión, pocos pueden acceder al desarrollo de estos sistemas o disponer de las ingentes cantidades de datos que necesitan para funcionar.

Para el Foro Económico Mundial estos cuatro factores condicionan en gran medida la forma en que los algoritmos son diseñados, desarrollados y aplicados.

Algunos peligros relacionados con la discriminación están relacionados con la información introducida en la fase de aprendizaje de los algoritmos. Pueden ser colectivos que no están bien representados en esos datos, bien porque no generan demasiada información (por ejemplo, la población rural de los países en desarrollo) o porque han elegido no hacer públicos sus datos. En cualquier caso, esto ya genera un sesgo.

Pero incluso si los datos que utiliza el machine learning no tienen sesgos y son correctos, existen otras amenazas que puede producir discriminación, pues esta puede ir en el modo en que se ha diseñado o aplicado el algoritmo, por ejemplo, porque se ha aplicado un modelo equivocado o un modelo que encierra discriminación sin que lo sepamos, porque el funcionamiento de la máquina no ha contado con la debida supervisión humana, porque a menudo el aprendizaje automático lleva a que los sistemas tomen decisiones cuyo origen no entendemos y, por supuesto, porque siempre está abierta la posibilidad de introducir factores discriminatorios en una programación de forma intencionada.

El informe plantea cuatro grandes principios, que deberían ser observados a la hora de crear sistemas de inteligencia artificial, para garantizar que no existan sesgos en el funcionamiento de los algoritmos.

Inclusión activa. El desarrollo y diseño de aplicaciones basadas en el aprendizaje automático deben asegurar la diversidad de los datos que recibe el sistema (input), teniendo en cuenta las normas y valores de colectivos específicos que puedan verse afectados por los resultados arrojados por estos algoritmos.

Igualmente, los individuos deben dar su consentimiento específico para que un sistema pueda hacer uso de información sensible, como puede ser la raza, el género o el credo, a la hora de tomar decisiones.

Justicia. Los principios de justicia y de la dignidad de las personas afectadas deben estar en la base de la arquitectura del sistema de aprendizaje automático. Por ejemplo, analizar qué colectivos afectados por las decisiones de un algoritmo pueden verse en desventaja al ser implementado y entender por qué.

Derecho a entender. Cuando los sistemas basados en machine learning estén implicados en la toma de decisiones que afecten a los derechos individuales, este hecho se debe desvelar. Además, se debe garantizar el poder explicar cómo toman las máquinas sus decisiones de forma que sea entendible por el usuario final y por una autoridad competente humana que revise el diagnóstico del algoritmo.

Vías para la corrección. Los diseñadores y desarrolladores de algoritmos son los responsables del uso correcto y de las acciones de los mismos. Deben establecer vías para que se pueda deshacer y corregir a tiempo un resultado con efectos discriminatorios para personas o colectivos.

lunes, 18 de junio de 2018

La revolución digital y el trabajo en España

50 estrategias para 2050. El trabajo y la revolución digital en España es una nueva publicación de Fundación Telefónica realizada en colaboración con Prospektiker en el marco del Proyecto Millennium. El objetivo de esta iniciativa es analizar los efectos que pueden tener los cambios tecnológicos asociados a la revolución digital en España, prestando especial atención a los que afectan al mercado laboral. El estudio está centrado en cinco campos: Educación y aprendizaje, Ciencia y tecnología, Empresas y trabajo, Sociedad y cultura y Gobierno y políticas públicas.

La educación se convierte en el ámbito prioritario de actuación en España para tender al escenario más positivo en el horizonte de 2050. La educación en España afronta el desafío de reinventarse y cambiar adaptarse a los valores cambiantes de la sociedad, al uso de tecnologías en el aprendizaje, a la formación para profesiones hoy todavía desconocidas, los nuevos paradigmas educativos, y en general, a un mundo más complejo y global. Los centros escolares incrementarán su función como redes donde el alumnado pueda interactuar con el profesorado de forma que se produzca un aprendizaje colaborativo. Las tendencias señalan que las competencias específicas serán cada vez más necesarias en las diversas disciplinas académicas

El informe propone una serie de estrategias relacionadas con la educación, entre las que destacan temas como:

  • Generalizar la educación digital e integrar las TIC en la docencia.
  • Incorporar sistemas de inteligencia del mercado de trabajo a las políticas educativas y de empleo.
  • Asegurar la flexibilidad del sistema educativo.
  • Reorientación del sistema de educación de un enfoque colectivo a uno individual.
  • Dinamizar el sistema universitario para promover la modernización de sus estructuras y el reciclaje de su profesorado.

En el ámbito de la Ciencia y tecnología, la mejora de la eficiencia en los procesos, en las decisiones y estrategias se está convirtiendo en un elemento central de la ventaja competitiva, en la medida en que el big data, impulsará nuestra economía en las próximas décadas. Las ciudades se convertirán en espacios en los que la tecnología digital embebida, centrada en aplicaciones basadas en Internet y móviles con múltiples funciones, generará un volumen ingente de datos, y el análisis en tiempo real de los diferentes sistemas facilitará la toma de decisiones.

El Internet de las cosas (IoT) permitirá una gestión más sostenible y un abaratamiento de los costes, que tendrán un impacto beneficioso en la movilidad, el transporte autónomo, o en ámbitos como el de la vivienda, la salud, el trabajo, la energía y la producción de alimentos. El mundo asistirá a un incremento de la robótica, la fabricación avanzada y la impresión 3D, que transformarán las cadenas de suministro de todas las industrias.

Muchos de los trabajos que se desarrollan actualmente en Europa están relativamente poco cualificados y son de carácter repetitivo, por lo que el mayor avance tecnológico implica el riesgo no solo de que se pierdan estos puestos de trabajo, sino de que también se deteriore la calidad del empleo en la economía digital. El uso de tecnologías online para crear mercados de trabajo puede provocar una carrera descendente en salarios y condiciones laborales, transfiriendo el riesgo y la responsabilidad de los empleadores a los trabajadores.

El informe plantea una batería de estrategias en este ámbito de las que podemos extraer las siguientes:

  • Desarrollar una estrategia de implantación nacional en ciencia y tecnología.
  • Promover las redes de realidad extendida y potenciar una cultura de red y de interconexión para la inteligencia artificial.
  • Apuesta por la ciberseguridad.
  • Potenciar la red Internet of beings (Internet del ser humano).
  • Puesta en marcha de fondos de capital riesgo que apoyen la inversión en I+D+i.

En el apartado de Empresas y trabajo, se destaca que el envejecimiento poblacional constituye el principal cambio sociodemográfico en los países desarrollados, en los que se estima que en 2050 vivirá el 80% de la población mayor de 60 años, y Europa será la región más envejecida. Para el año 2060, se prevé que en la UE solo habrá 2 trabajadores por cada persona de 65 años o más. Junto con estos cambios sociodemográficos, otros hechos disruptivos podrían modificar de forma inesperada el funcionamiento del mercado laboral: las transformaciones en los entornos laborales, los valores cambiantes de las personas empleado o la convergencia de tecnologías. Muchos de los trabajos y habilidades buscadas hoy no existían hace una década. Del mismo modo, nuevos puestos de trabajo y habilidades surgirán en el futuro.

La digitalización está reduciendo la demanda de tareas rutinarias y manuales, al tiempo que aumenta la de tareas de baja y alta cualificación y de habilidades interpersonales y para resolver problemas.
De las estrategias propuestas por el estudio destacamos:

  • Extender los sistemas de apoyo al autoempleo y el emprendimiento, y fomentar los ecosistemas conectados.
  • Replantear los modelos de protección social en esquemas de “flexi-seguridad”.
  • Impulsar la gestión del conocimiento a través de la innovación abierta en las empresas.
  • Repensar la responsabilidad social y el impacto que las empresas generan en la sociedad y en sus empleados.
  • Impulso a programas integrales de reinserción laboral.

El campo de la Sociedad y la cultura viene caracterizado por la pérdida de protagonismo de la familia clásica madre-padre-hijo a favor de otras estructuras familiares menos tradicionales (familias monoparentales, homoparentales, multiculturales, etc.). Las sociedades serán principalmente urbanas. Las ciudades podrán llegar a concentrar cerca del 70% de la población mundial en 2050. Estas ciudades serían a su vez fiel reflejo de la creciente desigualdad y del incremento de la brecha entre ricos y pobres, que podría agravarse en las próximas décadas. Entre los riesgos probables, encontramos una expansión no igualitaria, que podría dividir al mundo entre quienes tienen acceso a la tecnología digital y quienes no, y que agrandaría la brecha con las generaciones que no cuentan con habilidades o soltura suficientes para adoptar la economía colaborativa en un ecosistema online.

De las estrategias propuestas en este terreno destacan:

  • Redefinir los valores éticos de las organizaciones y las personas.
  • Gestión de una sociedad más multicultural.
  • Desarrollar competencias digitales a nivel general y competencias analíticas clave.
  • Protagonismo del smart citizen.
  • Potenciar las industrias creativas en el marco de la cultura digital.

El último epígrafe tratado por el informe es Gobierno y políticas públicas. Se perfila un mundo más global y más local, donde se plantean cuestiones como la sostenibilidad de los actuales sistemas de bienestar, la reducción de la fuerza laboral, la necesidad de reformas estructurales para asignación de inversiones y ahorros, y la vulnerabilidad de la economía europea dentro del mercado global.

La gobernanza nacional cada vez es más dependiente de las decisiones que se toman en el exterior. Un mundo global interdependiente con diversos actores que tienen intereses transnacionales e intersectoriales, así como el surgimiento de una conciencia global y un nuevo contrato social para la ciudadanía, están cambiando el proceso de toma de decisiones y aumentando la necesidad de una cultura anticipadora de elaboración de políticas.

Entre las estrategias sugeridas en este apartado se pueden destacar:
  • Convertir la estrategia nacional sobre tecnología en una política de Estado, al margen del debate partidista.
  •  Potenciar el rol público para el impulso del avance tecnológico.
  • Nuevos mecanismos de participación ciudadana que impulsen la implicación progresiva en los procesos de toma de decisiones, más allá del voto.
  • Gobernanza basada en el gobierno abierto, la transparencia y la rendición de cuentas.

lunes, 11 de junio de 2018

Construyendo la economía móvil

El informe la Sociedad Digital en España 2017 daba cuenta de la noticia de que el número de líneas móviles superó por primera vez al total de la población mundial en 2016, una tendencia al alza que posteriormente se consolidó en 2017. La penetración de telefonía móvil el año pasado las 103,5 líneas por cada cien habitantes, lo que representa 7.740 millones de suscripciones. Ahora GSMA ha relatado en un reciente informe las principales predicciones sobre la denominada economía móvil y sus perspectivas de crecimiento.

Ericsson (Ericsson Mobility Report 2017) calcula que para el año 2022 el 90% de las suscripciones móviles serán de banda ancha y que se superarán los dos mil millones de clientes de 4G (LTE), mientras que se alcanzarán los quinientos millones de clientes de 5G con una cobertura de población a escala mundial del 15%.

Por su parte, el informe de GSMA The Mobile Economy 2018  analiza las perspectivas de evolución del sector de las comunicaciones móviles desde el plano tecnológico, socioeconómico y financiero, intentando matizar y ampliar sus enormes expectativas de crecimiento.

Entre los principales datos que ofrece GSMA, predice que el número de suscriptores únicos móviles crecerá un 2,1% entre 2017 y 2025, de 5.000 a 5.900 millones, mientras que las suscripciones totales pasarán de los casi 7.800 millones a 9.000 en ese periodo. La diferencia entre ambos conceptos, tal y como la explica GSMA, es que el número de suscriptores únicos mide la cantidad de personas que se han abonado a un servicio móvil, independientemente del número de conexiones (por ejemplo, tarjetas SIM) que posean, mientras que el número de suscriptores hace alusión al número de tarjetas SIM que tiene una determinada red móvil.

Este crecimiento mundial esperado de la telefonía móvil será liderado por los países emergentes, especialmente India, China, Pakistán, Indonesia y Bangladesh, aunque también naciones del África subsahariana y de Latinoamérica. Este fenómeno se debe a que los mercados de los países más desarrollados están alcanzando niveles de saturación, mientras que en esas zonas del mundo todavía queda mucho espacio para el crecimiento de la telefonía móvil en general y de banda ancha en particular. GSMA predice que la tasa de penetración del Internet móvil llegará a convertirse en un indicador clave para medir el grado de desarrollo de los países y en concreto del desarrollo de la economía digital en ellos.

La siguiente predicción que realiza el informe es que la tecnología 4G será la que lidere el crecimiento de la economía móvil en el mundo por número de conexiones, que establece en más de 3.000 millones para 2019 (más optimista aún que la de Ericsson con la que abríamos este texto), mientras que se seguirá trabajando en el siguiente estándar, el 5G, que conocerá lanzamientos comerciales en los próximos tres años en Norteamérica, Asia y Europa.

Por su parte, el Internet de las cosas (IoT), tanto a través de redes móviles como fijas, triplicará su número de conexiones entre 2017 y 2015, alcanzando los 25.000 millones. El grueso de este crecimiento se centrará en el segmento de IoT industrial que, a juicio de GSMA, está todavía en su infancia. Centrándonos solo en las comunicaciones móviles, las conexiones IoT alcanzarán la cifra de 3.100 millones en todo el mundo para 2025, representando un 12% del total.

También se prevé que aumente la participación de las comunicaciones móviles en el crecimiento económico. En 2017 han sido responsables del 4,5% del PIB mundial y para 2025 se espera que alcance el 5%, al impulsar estas tecnologías la mejora de la productividad y de la eficiencia en las economías nacionales. Por otro lado, el pasado año la economía móvil dio empleo, de forma directa o indirecta, a 29 millones de personas en todo el mundo.

Durante los últimos años la financiación de actividades de innovación en empresas emergentes y start-ups ha alcanzado cifras record. El ecosistema digital se mueve muy rápido y son numerosos los proyectos que surgen en campos como la inteligencia artificial, la realidad extendida, los vehículos autónomos o el IoT.

Los operadores de telecomunicaciones están centrando su atención en la inteligencia artificial, un campo por ahora dominado por las tecnológicas americanas (Google, Amazon, Apple, Facebook, Microsoft e IBM) y por los gigantes chinos (Baidu, Alibaba y Tencent). El interés de las telcos va más allá de los robots conversacionales (chatbots) y los asistentes virtuales y se centra en la capacidad de la IA para promover la transformación digital de las propias empresas, el surgimiento de redes de telecomunicaciones inteligentes, la aparición de nuevos nichos de negocio y la mejora de la experiencia del cliente.

Finalmente, el informe de GSMA establece la necesidad de establecer un marco institucional adecuado que apoye el desarrollo del ecosistema digital. La legislación debe centrarse en regular los servicios que reciben los consumidores y no tanto en la empresa que los proporciona. La economía móvil que se interna en las nuevas tecnologías 5G necesitará unas políticas públicas que fomenten la innovación y la inversión. Los esfuerzos regulatorios deberán centrarse en tres ámbitos: espectro, infraestructura y economía.

martes, 5 de junio de 2018

El estado de la innovación en España

La sexta edición del informe de KPMG The Changing Landscape of Disruptive Technologies analiza, a través de entrevistas a directivos y emprendedores del sector tecnológico, el estado de la innovación alrededor del mundo. En una primera parte, establece clasificaciones generales que destacan los países, regiones, ciudades y empresas más avanzadas en este campo, mientas que en la segunda presenta una visión más pormenorizada país por país.

De esta forma, los expertos encuestados consideran que los países que presentan mayor probabilidad de albergar el nacimiento de tecnologías disruptivas de impacto global son, en primer lugar, Estados Unidos, seguido de China, India, Japón y Reino Unido.

Por otro lado, el 45% de la muestra cree posible que el epicentro de la innovación mundial abandone Silicon Valley en los próximos años y se traslade a otras regiones del mundo. Un tercio apunta que China será a medio plazo el gran nodo tecnológico del mundo.

Al ser preguntados sobre qué ciudades pueden emerger como centros de innovación en el futuro cercano, el nombre que más se repite es Shanghái en China, seguido de Tokio, Londres, Nueva York y Pekín.  Los puestos siguientes los ocupan, respectivamente, Singapur, Seúl, Bangalore, Tel Aviv y la europea Berlín.

Las empresas que lideran la innovación en el mundo son principalmente americanas: Google, Apple, Microsoft, Tesla y Amazon. Por detrás aparece mencionada la china Alibaba. En el apartado de los mayores visionarios tecnológicos surgen los nombres de Elon Musk (Tesla), Sundar Pichai (Google), Mark Zuckerberg (Facebook), Jack Ma (Alibaba), Bill Gates y Satya Nadella (Microsoft).

Al abordar el caso concreto del estado de la innovación en España, los autores del trabajo se muestran francamente optimistas: nuestro país es de los más innovadores del mundo dado que ocupa el puesto 28 de 127 países considerados dentro del Global Innovation Index 2017.

La solidez del sistema de innovación español se sostiene sobre cuatro pilares:

  1. Un buen ecosistema de I+D basado en infraestructuras, centros de investigación y servicios de apoyo.
  2. Liderazgo en tecnologías avanzadas en sectores como las telecomunicaciones, la energía, los electrodomésticos, la banca, la defensa y el control aéreo.
  3. El elevado nivel de las universidades y otros centros de investigación que es reconocido mundialmente.
  4. El asentamiento en España de las plantas de producción y los centros de excelencia de numerosas multinacionales, gracias a la elevada calidad de vida y al fácil acceso a recursos de calidad a bajo coste.
Los modelos de negocio digitales más desarrollados en España son los de comercio minorista (Business-to-Consumer) y los basados en redes sociales. El 70% de los navegantes españoles compra en Amazon y el 40% lo hace una vez al mes. El ocio y los viajes son dos de los principales sectores en los que se centra el comercio electrónico. El informe también destaca que casi 20 millones de españoles hacen uso de las redes sociales, especialmente de Facebook, YouTube, Twitter, Spotify y WhatsApp.

Por otro lado, la alta penetración de teléfonos inteligentes y de la banda ancha móvil entre la población (más de un 94% de cobertura de 4G en los hogares de acuerdo con La Sociedad Digital en España 2017) sienta las bases para el crecimiento de modelos de negocio digitales disruptivos, como el fintech, el proptech o la eSalud.

KPMG dibuja el colectivo de la start-up española con los siguientes rasgos:

  • El 77% de las mismas están en fase de seed stage, es decir, en la fase inicial de concepción de la idea de negocio, y el 55% tiene menos de tres años.
  • Los campos principales en los que trabajan las start-ups españolas son el fintech, la realidad aumentada, el diseño, el Internet de las cosas y el geoposicionamiento.
  • El desarrollo de producto está basado sobre todo en el desarrollo de software, los modelos de negocio de servicios, el software como servicio y la fabricación de dispositivos IoT.
  • Los modelos de negocio se basan sobre todo en el B2B (Business-to-Business), en el B2C (Business-to-Consumer) y en el B2B2C (Business-to-Business-to-Consumer).
 Como obstáculo a la innovación en España, el informe destaca el bajo espíritu emprendedor de la población (solamente el 5,7% de la fuerza de trabajo está interesada en emprender), que los autores achacan a factores como la excesiva burocracia, los elevados impuestos que tiene que pagar la empresa, la falta de flexibilidad del mercado de trabajo o la dificultad para acceder al capital riesgo y a los créditos bancarios.
 
Google Analytics Alternative