lunes, 23 de abril de 2018

Los ecos de 2001 (III): el muñeco de madera que creía ser un niño o los límites de la inteligencia artificial

Para celebrar los 50 años de la película de Stanley Kubrick 2001: una odisea del espacio me gustaría analizar a través de una serie de artículos algunos conceptos y elementos del film y su vigencia o relación con este mundo de la primera mitad del siglo XXI. En concreto, temas como las visiones de entonces del futuro tecnológico, el desarrollo de la inteligencia artificial y su relación con el ser humano, el transhumanismo o la búsqueda de vida extraterrestre.

En 1968 Stanley Kubrick y Arthur C. Clarke imaginaron cómo podría llegar a ser la inteligencia artificial en el siglo XXI. Su vaticinio adquiere la forma del ordenador HAL 9000 en la película 2001, una máquina que dirige la misión Discovery en su viaje hacia Júpiter y que muestra rasgos excesivamente humanos, como comentábamos en la entrega anterior de esta serie de artículos.

La novela que resultó del guion ya muestra el entonces revolucionario concepto de máquinas que aprenden, lo que hoy conocemos como aprendizaje automático o machine learning. También se intuye otro elemento de rabiosa actualidad tecnológica en nuestra época, como son las redes neuronales artificiales, pues la inteligencia de HAL está dispuesta en distintas capas superpuestas de circuitos.

La humanización de HAL 9000 en el guion le hace desarrollar una especie de sentimiento de orgullo y soberbia, sabiéndose superior en inteligencia a los humanos que le acompañan en el viaje (“es un hecho inalterable que soy incapaz de equivocarme”, afirma en una escena). El no poder aceptar que su diagnóstico de una avería en la nave Discovery es erróneo le llevará en última instancia a asesinar a los humanos de la tripulación, hasta que el astronauta Bowman consigue apagarle, lo que simbólicamente es equivalente a matarle.

El guion de Stanley Kubrick parte de la idea de que la inteligencia artificial muy avanzada acabará por desarrollar emociones, como le contaba el realizador a Joseph Gelmis en una entrevista realizada en 1969 y publicada en el libro The Film Director as Superstar (1970):

«La idea de ordenadores neuróticos no es rara – la mayoría de los más avanzados teóricos informáticos piensa que una vez que tienes un ordenador que es más inteligente que el ser humano y capaz de aprender de la experiencia, es inevitable que desarrolle el equivalente a un espectro de reacciones emocionales – miedo, amor, odio, envidia, etc. Una máquina así podría acabar por ser tan incomprensible como un ser humano y podía, por supuesto, sufrir una crisis nerviosa — como le pasa a HAL en el film».

No obstante, esta personificación de HAL que hace Kubrick sigue quedando, incluso hoy en día, en el campo de la ciencia ficción. Lo más que podemos llegar a hacer con un sistema de inteligencia artificial es enseñarle a simular características humanas, como la empatía, pero de ahí a que realmente “sienta” hay un abismo insalvable. La novela de Arthur C. Clarke da una explicación mucho más realista sobre el comportamiento de HAL 9000: solamente respondía a una programación que los astronautas desconocían y, cuando la conducta de éstos choca con las directrices que le han introducido, les asesina para no incumplir las órdenes recibidas.

Existe un intenso debate actualmente sobre los límites de la inteligencia artificial. Frente a la visión de la ciencia ficción clásica sobre máquinas que llegarán a dominar el mundo, son numerosos los expertos que plantean que un ordenador siempre necesitará el apoyo humano para ofrecer resultados óptimos.

El profesor de psicología cognitiva de la Universidad de Nueva York Gary Marcus afirma que el aprendizaje profundo de los ordenadores llegará a enfrentarse a un muro que resultará insalvable, detrás del cual habrá problemas que el reconocimiento de patrones no podrá resolver. Marcus define con rasgos negativos la forma de aprender de la inteligencia artificial: para él resulta avariciosa, frágil, opaca y superficial. Avariciosa, porque demanda ingentes cantidades de datos para aprender; frágil, porque cuando se prueba en escenarios distintos de los ejemplos utilizados en su entrenamiento, generalmente se colapsa; opaca, porque acaba convirtiéndose en una caja negra que no sabemos cómo elabora sus diagnósticos; y finalmente, superficial, porque no posee sentido común sobre el mundo o la psicología humana.

Por su parte, el profesor Michael Scriven de la Universidad de Berkeley ya negó hace mucho que un robot pudiese equipararse al ser humano. Para él, no son más que máquinas que hacen lo que les decimos. A primera vista, realizan las tareas igual que los humanos y pueden simular nuestro comportamiento, pero una mirada de cerca nos revela que los humanos tenemos consciencia, mientras que los ordenadores no son más que objetos inanimados. Aunque un algoritmo de inteligencia artificial pueda hacer exactamente lo que hace una persona, nunca se le puede tachar de consciente. Jamás hará nada creativo o imprevisible, solamente arrojará el producto de su programación, una vez que haya sido alimentado con datos.

Por lo tanto, nunca llegaremos a ver máquinas susceptibles y orgullosas como HAL 9000, que, como Pinocho, no son más que muñecos de madera que se creen que son un niño.

martes, 17 de abril de 2018

Los ecos de 2001 (II): humanos automáticos y máquinas demasiado humanas

Para celebrar los 50 años de la película de Stanley Kubrick 2001: una odisea del espacio me gustaría analizar a través de una serie de artículos algunos conceptos y elementos del film y su vigencia o relación con este mundo de la primera mitad del siglo XXI. En concreto, temas como las visiones de entonces del futuro tecnológico, el desarrollo de la inteligencia artificial y su relación con el ser humano, el transhumanismo o la búsqueda de vida extraterrestre.

Uno de los personajes 2001 con mayor número de frases en el guion – aunque hay solamente cuarenta minutos de diálogos de un total de dos horas y diecinueve minutos de metraje- no es humano. Se trata del superordenador HAL 9000, que se encarga de llevar la nave espacial Discovery hasta más allá de Júpiter con una tripulación de varios astronautas en estado de animación suspendida y dos despiertos de guardia, Dave Bowman y Frank Poole. La misión va en busca de un misterioso monolito supuestamente creado por una civilización de origen extraterrestre.

HAL, cuyo nombre es el resultado de la contraer las palabras heurístico y algorítmico, los dos principales sistemas de enseñanza (y no las letras que preceden en el abecedario a las siglas IBM, como dijo algún crítico de la época), es la visión que tuvieron el director Stanley Kubrick y el coautor del guion Arthur C. Clarke de lo que podría llegar a ser la inteligencia artificial en el entonces futuro, el comienzo del siglo XXI. La película anticipó elementos como el aprendizaje automático o las redes neuronales, algo en lo que se basa la inteligencia artificial más avanzada que estamos desarrollando hoy en día.

Uno de los rasgos más notables de HAL es su personificación, es decir, cómo ha sido diseñado para emular el modo de relacionarse de una persona con otros interlocutores humanos, simulando incluso empatía por los demás. Por ejemplo, en una escena de la película le llega a decir al astronauta Bowman: “puedo deducir por el tono de tu voz que estás disgustado, Dave.  ¿Por qué no te tomas una píldora relajante y descansas un poco?” Exactamente como una persona se preocupa por otra.

Su voz igualmente intenta reproducir el tono cálido del habla humana. En uno de los borradores primitivos del guion HAL tenía una voz femenina y en vez de HAL se llamaba Athena, pero finalmente Kubrick y Clarke desestimaron la idea porque de esa manera la relación de la máquina con los astronautas podría adquirir matices eróticos no deseados.

Un fenómeno curioso en la relación entre hombre y máquina es lo que el crítico de cine Alexander Walker denominó inversión de los roles, que hace alusión a que los astronautas Poole y Bowman se comportan de manera mecánica en el film —siguen los protocolos establecidos y aplican el entrenamiento recibido de forma fría y desapasionada—, mientras que HAL se muestra demasiado humano, al desarrollar algo parecido a emociones y una especie de soberbia, que le lleva en última instancia a acabar con casi toda la tripulación de la nave.

De alguna forma supone una metáfora de cómo nos enfrentamos a la tecnología hoy en día. Por un lado, desarrollamos algoritmos de inteligencia artificial intentando en muchos casos que se parezcan lo más posible a un ser humano en sus diálogos y reacciones. Un buen ejemplo de ello son los modernos robots conversacionales, que poco a poco se introducen entre las relaciones de las empresas con sus clientes, o los asistentes personales, como Siri de Apple, Google Assistant, Cortana de Microsoft o Alexa y Echo de Amazon. El objeto de estos programas es que aprendan cómo somos de sus relaciones con nosotros e intenten parecerse cada vez más a un ser humano.

Y en el extremo opuesto, en muchos aspectos el uso de la tecnología deshumaniza a las personas. A pesar de que las redes sociales tienden a amplificar la vida social, algo que destaca la reciente publicación Sociedad Digital en España 2017, también consiguen aislarnos detrás de las pantallas y sustituir en gran medida las relaciones físicas personales por otras digitales.

Este fenómeno también lleva a que se produzcan linchamientos públicos en redes sociales como Twitter, en donde las masas de cibernautas iracundos sin rastro de empatía atacan con fiereza a personajes públicos -y a otros que no lo son tanto-, sin intentar comprender sus motivaciones o informarse adecuadamente de la naturaleza de los hechos por los que se les juzga. ¿Y qué decir de la costumbre de grabar con el teléfono móvil en situaciones de accidentes, atentados o catástrofes naturales? ¿Acaso no se muestran poco humanos aquellos que registran el dolor y el sufrimiento ajenos, en vez de intentar ayudar o sencillamente paralizarse de horror? Ha ocurrido en numerosos atentados de los sufridos en los últimos tiempos, aunque el caso más reciente es un accidente, el del telesilla desbocado de una estación de esquí Georgia, en el que algunos testigos se dedicaban a grabar en vídeo cómo la estructura lanzaba con violencia a los esquiadores, en vez de intentar socorrerlos.

¿Estaremos transmitiendo nuestra naturaleza humana a las máquinas que construimos?

lunes, 9 de abril de 2018

Los ecos de 2001 (I): el futuro que no pudo ser

Para celebrar los 50 años de la película de Stanley Kubrick 2001: una odisea del espacio me gustaría analizar a través de una serie de artículos algunos conceptos y elementos del film y su vigencia o relación con este mundo de la primera mitad del siglo XXI. En concreto, temas como las visiones de entonces del futuro tecnológico, el desarrollo de la inteligencia artificial y su relación con el ser humano, el transhumanismo o la búsqueda de vida extraterrestre.

El 4 de abril de 1968 tuvo lugar el estreno de 2001: una odisea del espacio, una epopeya ideada por el escritor británico Arthur C. Clarke y el realizador Stanley Kubrick, que recrea una historia alternativa de la humanidad, desde el origen de nuestra especie hasta que esta lleva a cabo un salto evolutivo propiciado por inteligencias extraterrestres superiores, derivando en una suerte de “niño del cosmos”

La cinta constituye uno de los títulos clásicos del cine de ciencia ficción de todos los tiempos y sus imágenes y banda sonora original pasaron a formar parte de la iconografía popular del siglo XX.

Dividida en tres bloques, el primero cuenta cómo un artefacto de origen extraterrestre, un estilizado monolito, instruye a los primeros homínidos en el manejo de las herramientas, en concreto un hueso, mientras que el segundo y el tercero nos trasladan al año 2001 y relatan, respectivamente, el descubrimiento de otro objeto similar en la Luna y un viaje espacial a Júpiter a la búsqueda de establecer contacto con otras civilizaciones del cosmos.

Aparte de la calidad formal de 2001, en su época supuso una verdadera revolución en el campo de los efectos especiales, especialmente en la recreación de los primates semihumanos de la primera parte y también en cómo se retratan los vuelos espaciales, considerando detalles como la ingravidez o la ausencia de referencias “terrestres”, como “arriba” y “abajo”. Y es que el optimismo tecnológico de Clarke y Kubrick les llevó a vaticinar un principio de siglo XXI en el que los humanos viajábamos en vuelos regulares a nuestro satélite, o a inmensas estaciones espaciales, y en el que podíamos enviar misiones tripuladas a los planetas exteriores del sistema solar.

Ciertamente, aquel mundo de la década de los sesenta veía inevitable el que tuviera lugar un gran salto adelante en la tecnología aeroespacial que en treinta años trajese todas esas maravillas que cuenta la película. A fin de cuentas, al año siguiente del estreno de la película, Armstrong y Aldrin pisaban la Luna fruto del reto político lanzado por el presidente Kennedy en 1962, que tenía el objetivo de adelantar a los soviéticos en la carrera espacial. Y, sin embargo, todo ese impulso conquistador se desinfló como un globo a mediados de la década siguiente.

La Unión Soviética perdió el interés por nuestro satélite una vez que Estados Unidos plantó allí su bandera, por lo que la carrera espacial, por lo menos en ese apartado, se desaceleró. La crisis económica de los setenta, los recortes presupuestarios de los ochenta y el cambio de orientación de la NASA, apostando por misiones no tripuladas e intentando abaratar costes (Viking, Voyager..), cambiaron por completo la perspectiva de la conquista del espacio que se tenía en los sesenta.

Hoy, en 2018, en vez de la majestuosa estación espacial con forma de rueda que muestra Kubrick en el film, tenemos la ISS, un conjunto de estrechos e incómodos módulos solamente aptos para ser habitados por astronautas profesionales; en la Luna no solamente no tenemos bases estables, sino que no hemos vuelto a pisarla desde 1972; y en lo tocante a misiones tripuladas a otros planetas del sistema solar, todavía no tenemos claro en qué año podríamos llegar a Marte, el más cercano a nosotros.

Es bien cierto que otros vaticinios que realiza 2001, como la videoconferencia o la inteligencia artificial -los ordenadores capaces de aprender por su cuenta-, sí que sean cumplido en nuestra época, pero en general, cuando vemos de nuevo la película, nos asalta una sensación de decepción por un futuro que no se cumplió. La empresa de capital riesgo Founders Fund lo expresó muy gráficamente en un manifiesto, con la frase “queríamos coches voladores y en vez de eso nos dieron 140 caracteres”, en referencia al límite de texto que admite la red Twitter en sus posts.

A pesar de que actualmente vivimos una revolución de la tecnología digital, hay quien piensa que el ritmo de innovación de los últimos tiempos se ha ralentizado. Hace unos años un artículo The Economist, Innovation pessimism: Has the ideas machine broken down?, planteaba el siguiente razonamiento: si entramos en una cocina de principios del siglo XX y luego en otra de, pongamos, 1965, nos encontramos ante dos realidades radicalmente distintas. Pero si comparamos la de 1965 con una actual, nos damos cuenta que, quitando algún aparato más que otro y los displays digitales, básicamente tienen la misma forma y funcionan de la misma manera. Los autores defendían que de alguna forma la innovación en el mundo actual se ha estancado. Sea o no verdad, aquellos niños de los años setenta que fuimos seguirán soñando con los maravillosos cruceros espaciales y las bases en la Luna que nos describió Stanley Kubrick en ese mundo futuro que no fue. Ese futuro que no pudo ser.

martes, 3 de abril de 2018

Los peligros de la inteligencia artificial

La capacidad que tiene la inteligencia artificial para automatizar tareas antes realizadas por humanos aumenta el potencial de hacer daño en el caso de ser usada con fines maliciosos, como, por ejemplo, para llevar a cabo ciberataques. El desarrollo de sistemas inteligentes que aprenden solos puede traer cambios en casi todos los sectores económicos, desde la producción manufacturera hasta la salud, desde la atención al cliente en las empresas comerciales hasta el transporte autónomo de mercancías y personas.

No obstante, la sociedad acoge la inteligencia artificial con no poco miedo e incertidumbre, principalmente por su carácter disruptivo y su capacidad para sustituir a trabajadores humanos destruyendo de esta manera un elevado volumen de puestos de trabajo. Pero ese no es el único peligro de la automatización, también es de temer el uso malicioso que puede llevarse a cabo con la inteligencia artificial.

Un reciente informe ha estudiado la posibilidad de que la inteligencia artificial sea utilizada para amenazar la seguridad y causar daño. El trabajo lleva el título de The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation y está firmado por instituciones de prestigio como la Universidad de Oxford, el Future of Humanity Institute, Centre of the Study of Existential Risk, Center for a New American Security, la Electronic Frontier Foundation y OpenAI. 

Básicamente, analiza los principales riesgos que implica un uso malintencionado de la IA y plantea recomendaciones para poder prevenirlos.

A juicio de los autores, la inteligencia artificial puede alterar el panorama actual de amenazas de tres 
maneras:
  • Aumentando las amenazas existentes. Al abaratarse el coste de realizar un ataque, pues se automatizan numerosas funciones que antes tenían que realizar los humanos, aumenta notablemente el número de actores que ahora pueden llevarlo a cabo.
  • Introduciendo nuevas amenazas. Pueden surgir nuevos ataques al posibilitar la IA la realización de tareas que antes eran impracticables para los humanos.  Paralelamente, la IA permite analizar las vulnerabilidades de los sistemas de defensa.
  • Cambiando el carácter de las amenazas. Los ataques pueden ser ahora más efectivos, más precisos en alcanzar el objetivo y más difíciles de atribuir a un agente concreto.
Por otro lado, tres son también los ámbitos de seguridad estudiados:
  • La seguridad digital. Gracias a la inteligencia artificial, los ciberataques podrán ser muy efectivos a muy gran escala. Se habla de la posibilidad que se produzcan más amenazas relacionadas con las estafas basadas en suplantación de personalidad y robo de datos personales (spear phishing) o los ataques que se aprovechan de la vulnerabilidad humana, del software y de los sistemas de inteligencia artificial.
  • La seguridad física. Consiste en usar la IA para automatizar los ataques con drones y otros sistemas físicos. También se considera la posibilidad de recibir ataques que subviertan sistemas ciberfísicos, por ejemplo, llevar a que un coche autónomo se estrelle.
  • Seguridad política. La manipulación social y la invasión de la privacidad se pueden llevar a cabo mediante el análisis de ingentes cantidades de datos personales, la persuasión mediante propaganda dirigida y el engaño, por ejemplo, mediante la manipulación de vídeos. Además, pueden producirse nuevos tipos de amenazas que se aprovechen de la capacidad de la IA para analizar el comportamiento humano, los estados de ánimo y las creencias.
De cara a prevenir este tipo de amenazas, el informe ofrece una serie de recomendaciones:
  1. Los legisladores deben colaborar con los técnicos e investigadores para poder prevenir y mitigar los posibles usos maliciosos de la inteligencia artificial.
  2. Los investigadores y los ingenieros deben considerar seriamente el doble uso que puede tener el resultado de su trabajo, teniendo siempre en cuenta la posibilidad real de que se realice un mal uso de las aplicaciones que desarrollan en el campo de la IA.
  3. Hay que identificar buenas prácticas en áreas de investigación que han desarrollado métodos eficientes para gestionar las cuestiones relacionadas con el doble uso de la tecnología, como la seguridad informática, y trasladarlas al campo de la inteligencia artificial.
  4. Ampliar el rango de grupos de interés y expertos implicados en los debates relacionados con estas amenazas.

 
Google Analytics Alternative