La inteligencia artificial europea debe ser fiable

La inteligencia artificial está en el corazón de la agenda científica de la Unión Europea. La Comisión reconoce la capacidad de este conjunto de tecnologías para mejorar la vida de las personas, y para generar beneficios para la sociedad y la economía, a través de cuestiones como el impulso del cuidado de la salud, el aumento de la eficiencia de la administración pública, haciendo el transporte más seguro, inyectando competitividad en la industria o generando una agricultura más sostenible.

El impacto económico de la automatización del trabajo intelectual, de los robots y de los vehículos autónomos, se calcula que alcanzará entre los 6,5 y los 12 billones de euros anuales para 2025. Sin embargo, Europa se queda atrás en relación a la inversión privada en inteligencia artificial, pues dedicó en 2016 entre 2 400 y 3 200 millones de euros frente a los entre 6 500 y 9 700 millones de Asia, y los entre 12 100 y 18 600 millones de Norteamérica.

Es por ello, que la Comisión Europea impulsa con grandes inversiones aspectos como los sistemas cognitivos, la robótica, el big data y las tecnologías emergentes del futuro, con el fin de garantizar el mantenimiento de la competitividad del tejido económico del continente.

A través del programa Horizon 2020, ha dedicado 2 600 millones de euros a las áreas relacionadas con la inteligencia artificial, como la robótica, el big data, el transporte, la sanidad y las tecnologías emergentes. La investigación en robótica ha recibido hasta 700 millones de fondos públicos, a los que hay que sumar 2 100 millones de financiación privada. Los Fondos Estructurales y de Inversión europeos también han incidido en la formación y el desarrollo de capacidades con 27 000 millones de gasto en ese tema, de los cuales 2 300 han sido dedicados al desarrollo de capacidades digitales.

Las autoridades europeas son conscientes de los peligros que entraña el desarrollo descontrolado y no razonado de la inteligencia artificial. En consecuencia, paralelamente al desarrollo científico y tecnológico, han visto la necesidad de abrir un debate para esclarecer cómo conseguir que los sistemas inteligentes traigan consigo beneficios a las personas, y no perjuicios. A tal efecto, en junio de 2018 la Comisión creó el Grupo de expertos de alto nivel sobre IA, que en abril de 2019 presentó el documento Directrices éticas para una IA fiable. El informe pretende ofrecer algo más que una simple lista de principios éticos, y proporciona orientación sobre cómo poner en práctica esos principios en los sistemas sociotécnicos.

Los autores se centran en el concepto de fiabilidad de la inteligencia artificial, que hacen reposar sobre tres pilares: debe ser lícita, es decir, cumplir todas las leyes y reglamentos aplicables; también ha de ser ética, de modo que se garantice el respeto de los principios y valores éticos; y, finalmente, debe ser robusta, tanto desde el punto de vista técnico como social. Cada uno de estos componentes es en sí mismo necesario, pero no es suficiente para el logro de una inteligencia artificial fiable.

Las directrices que propone en el trabajo se dirigen solamente a los dos últimos aspectos, la ética y la robustez. El Grupo de Expertos identifica una serie de directrices éticas que deben acompañar la construcción de máquinas inteligentes:

1. Desarrollar, desplegar y utilizar los sistemas de IA respetando los principios éticos de: respeto de la autonomía humana, prevención del daño, equidad y explicabilidad. Reconocer y abordar las tensiones que pueden surgir entre estos principios.
2. Prestar una atención especial a las situaciones que afecten a los grupos más vulnerables, como los niños, las personas con discapacidad y otras que se hayan visto históricamente desfavorecidas o que se encuentren en riesgo de exclusión, así como a las situaciones caracterizadas por asimetrías de poder o de información, como las que pueden producirse entre empresarios y trabajadores o entre empresas y consumidores.
3.  Reconocer y tener presente que, pese a que aportan beneficios sustanciales a las personas y a la sociedad, los sistemas de IA también entrañan determinados riesgos y pueden tener efectos negativos, algunos de los cuales pueden resultar difíciles de prever, identificar o medir (por ejemplo, sobre la democracia, el estado de Derecho y la justicia distributiva, o sobre la propia mente humana). Adoptar medidas adecuadas para mitigar estos riesgos cuando proceda; dichas medidas deberán ser proporcionales a la magnitud del riesgo.

 

Foto de Vitaly Vlasov en Pexels

 

Los teléfonos móviles como televisores de bolsillo

En la en la primera mitad del siglo XX, el genial inventor Nikola Tesla profetizó con precisión la llegada del teléfono móvil inteligente, cuando dijo en un programa de radio en 1926:

“A través de la televisión y la telefonía podremos vernos y oírnos tan perfectamente como si estuviéramos cara a cara, a pesar de que las distancias que medien sean de miles de kilómetros. Los instrumentos mediante los cuales seremos capaces de hacer esto resultarán pasmosamente simples en comparación con nuestro teléfono actual. Se podrán llevar en el bolsillo del chaleco.”

Un receptor de imagen y sonido de bolsillo, o, en otras palabras, el actual smartphone. Se trata del dispositivo más popular, preferido, por encima de los otros, por el 92 % de la población española, de acuerdo con el informe Sociedad Digital en España, que edita Fundación Telefónica. A pesar del que el ordenador sigue siendo mayormente el terminal en el que nos gusta trabajar, y que delante de la pantalla de televisión seguimos gastando nuestra forma de ocio más pasiva, los teléfonos que portamos en bolsos y bolsillos cada vez van acaparando un mayor número de las funciones que realizamos en nuestro día a día.

Por otro lado, a lo largo de esta década que termina, el consumo de televisión se ha trasladado a los dispositivos conectados a internet. Primero fue hacia el ordenador fijo y el portátil, y luego a la tableta. En la actualidad el teléfono móvil se erige como uno de los terminales idóneos para ver contenidos de vídeo personalizados, y, de hecho, es utilizado por el 34% de los usuarios para consumir servicios bajo suscripción –como Netflix, Amazon Prime o HBO-, frente a la cifra del 32% del televisor y el 31% del ordenador portátil. De hecho, según GlobalWebIndex, el televidente de hoy en día ve la tele en tres dispositivos distintos de media.

En Europa, los televidentes que afirman ver regularmente contenidos audiovisuales en el móvil todavía representan una proporción baja, 12% los canales de televisión y 15% los de servicios bajo suscripción. Pero si nos movemos a los países en desarrollo –donde por norma suele haber una gran carencia de infraestructuras de red fija de banda ancha-, las cifras suben notablemente, hasta el 23% y el 43% en el caso de Latinoamérica, y hasta el 37% y 41%, respectivamente, en Asia y Pacífico, teniendo en cuenta las excepciones evidentes de países con un despliegue fijo notable, como pueden ser Corea de Sur, Japón y China, entre otros.

La esperada llegada del 5G acentuará esta tendencia, si cabe. Sin duda, el mercado audiovisual se verá transformado cuando esta tecnología proporcione una velocidad hasta 10 y 20 veces mayor que la 4G. La previsión es que el tráfico medio de un cliente de servicios 5G aumente hasta los 84,4GB mensuales en 2028 (hoy en día esa cifra estaría en torno a los 11,7GB). Y es más que probable que el 90% de todo ese tráfico corresponda a vídeo.

La diminuta pantalla del teléfono lleva a que este sea conectado a otros dispositivos para poder disfrutar de una mejor calidad de imagen. Es lo que se conoce como content casting, que no es otra cosa que transmitir la reproducción que tiene lugar en el smartphone a una televisión o a otro dispositivo con una pantalla más grande, bien a través de un cable, bien por medios inalámbricos, como puede ser el Chromecast de Google.

Volviendo a las cifras que ofrece GlobalWebIndex, el 29% de los internautas ve contenidos audiovisuales reproducidos en el móvil, pero retransmitidos a través de “pantallas espejo”. Esta media sube hasta el 33% en el caso de los más jóvenes, y un punto porcentual más entre los usuarios de entre 25 y 34 años de edad. Por regiones, se trata de un fenómeno especialmente común en Latinoamérica (el 42% de los cibernautas lo práctica) y Asia y Pacífico, donde casi la tercera parte de navegantes lo lleva a cabo.

Los móviles se transforman en aparatos de televisión: una tele de bolsillo para verla dónde y cuándo queramos.

Deepfake, la mentira de la imagen

 

“Si no lo veo, no lo creo”, decimos con frecuencia, otorgando a la imagen un estatus de veracidad de lo que muestra, que hoy en día podría estar en peligro. No es un problema que afecte solamente a la interpretación de los hechos que pueda tener lugar en un juicio, por poner un ejemplo práctico de situaciones en las que modificar las pruebas es un tema gravísimo; en el periodismo, la evidencia visual es una piedra angular en la creación de la opinión pública, y, además, es un elemento fundamental para determinar cómo se conforma el poder político. De alguna forma, las manipulaciones de archivos audiovisuales –tanto de vídeo, como de audio- suponen un peligro para la convivencia democrática y para la dignidad de las personas afectadas, que ven cómo los registros de su imagen son alterados con el fin de desacreditarlas, o de convertirlas en portadoras de un mensaje u opinión con el que no comulgan y al que no apoyan.

Se trata de algo que ha sido bautizado como deepfake, un fenómeno que hoy en día afecta especialmente al vídeo, dada la capacidad que ha desarrollado la inteligencia artificial para trucar, con un grado de éxito más que notable, cualquier pieza audiovisual, poniendo en boca de políticos afirmaciones que no han realizado, o –y esto es lo más común- alterando escenas de películas pornográficas situando los rostros de personajes conocidos en el cuerpo de los actores enfrascados en actos sexuales.

De acuerdo con BBC News, el pasado año se duplicó el número de vídeos falsos que proliferan por las redes. La empresa tecnológica Deeptrace llegó a detectar más 14 600, frente a los menos de 8 000 encontrados en diciembre de 2018. De ellos, el 96% eran de carácter pornográfico, generalmente con la cara de una celebridad generada por ordenador sobre el cuerpo de un actor o de una actriz de la trama porno. Por cierto, que el deepfake, aparte de una herramienta para condicionar la opinión pública, supone un lucrativo negocio para algunos.

La palabra deepfake procede de la contracción de deep learning (aprendizaje profundo) y fake (falsificación). Es decir, que implica el uso de inteligencia artificial para generar vídeos sintéticos, generalmente con el fin de desacreditar a alguien y/o condicionar la opinión pública. Hace algún tiempo apareció en la red Instagram un vídeo de Mark Zuckerberg, el popular consejero delegado de Facebook, en el que este confesaba su intención de hacerse con el control del planeta, gracias a disponer de los datos de las personas. Incluso hacía un guiño al cine de James Bond al mencionar a la organización Spectra, la archienemiga del agente 007. Esto es un ejemplo de lo que se puede hacer en el campo del deepfake.

La organización Witness introduce el deepfake dentro del marco conceptual del desorden informativo. Resulta especialmente preocupante el impacto en las personas de la información visual, bastante más fuerte que la textual, dado que nuestros cerebros tienden a confiar más en la imagen. El análisis de esta oenegé distingue tres aspectos distintos: misinformation (misinformación), cuando la mala información no ha sido producto de mala intención, sino de un error o equívoco; malinformation (malinformación), el difundir información verdadera, pero de carácter privado, con la intención de hacer daño (por ejemplo, airear un vídeo íntimo de alguien manteniendo relaciones sexuales); y, entre ambas, la disinformation (desinformación), que implica crear y difundir información falsa con malas intenciones. Las deepfake entrarían dentro de esta categoría.

La preocupación ante el daño que puede producir este delito emergente, tanto a la reputación de personas concretas como por la posibilidad de manipulación de la opinión pública, ha llevado a que se estén tomando medidas para frenarlo en la medida de lo posible. El Gobierno de los Estados Unidos ha puesto en marcha el proyecto Media Forensics (MediFor) desde DARPA (Defense Advanced Research Projects Agency) para la investigación y desarrollo de tecnologías capaces de certificar la autenticidad de una imagen o vídeo, y de detectar automáticamente las manipulaciones.

Igualmente, Google ha puesto a disposición del público una base de datos con más de 3 000 vídeos deepfake en los que ha sido utilizada inteligencia artificial para alterar los rostros de las personas que aparecen. El objeto es apoyar a los investigadores en este campo en el desarrollo de herramientas contra este delito, mediante los conocimientos que puedan adquirir de este gran banco de datos. Por su parte, Facebook ha creado el proyecto Deepfake Detection Challenge (DFDC), en colaboración con socios como el MIT, Microsoft y varias universidades estadounidenses. La iniciativa persigue el desarrollo de tecnología que todo el mundo pueda utilizar para poder saber cuándo un vídeo ha sido manipulado.

 

Foto de Francesco Ungaro en Pexels

V-commerce: la tienda en realidad virtual

La realidad virtual –y su hermana menor, la realidad aumentada- son la gran esperanza, y la gran decepción, de los últimos tiempos. Pocas tecnologías han creado unas expectativas tan impresionantes de penetración en todo tipo de sectores y actividades, que, año tras año, no acaban de cuajar en nada concreto. En los videojuegos, las artes, el turismo, la educación, la sanidad o las simulaciones virtuales de todo tipo, la realidad extendida se perfila como una herramienta disruptiva que puede producir una auténtica transformación digital… que no acaba de llegar.

Y, sin embargo, estás tecnologías de irrealidad envolvente siguen siendo objeto de experimentación y el epicentro de iniciativas, que revelan su potencial. Entre sus aplicaciones más prometedoras se encuentra el comercio minorista –tanto presencial como online-, un campo en el que ya se están posicionando grandes agentes del sector para establecer una oferta diferenciada. La tecnología es ya una herramienta común para la venta: las presentaciones en vídeo del producto y las imágenes coloristas contribuyen a atraer al cliente potencial. Pero la realidad aumentada y virtual llega mucho más allá, abriendo un mundo ilimitado de posibilidades en el caben, por ejemplo, probadores de ropa virtuales en los que no te tienes que desnudar, tiendas digitales en las que puedes ver los productos y comprarlos como si estuvieses en una real, o aplicaciones en las que puedes probar cómo queda el mueble que te gusta en el salón de tu casa. Después del e-commerce, ya se habla del v-commerce, el comercio basado en la realidad virtual.

Hay una serie de ramas del comercio que ya están encontrando la utilidad a las tecnologías inmersivas, como son la del mueble, la de las prendas de vestir o la de la cosmética. Una encuesta realizada en Estados Unidos -citada por Marxent[1]- arroja las cifras de que al 60% de los compradores le gusta utilizar la RV y la RA en la compra de muebles y al 55% en la moda.

Otros datos cuentan que el 61% de los compradores prefiere hacerlo en establecimientos que disponen de realidad aumentada, y que, el 68%, paso más tiempo analizando aquellos productos que disponían de dicha tecnología para ello. Por otro lado, el 72% adquirió productos que no tenía pensado comprar gracias a la RA.

Dentro del sector del mueble y la decoración, Ikea ha sido pionero en el uso de la realidad aumentada, con su aplicación Ikea Place, que permite probar cómo quedan los muebles de su catálogo en las estancias de nuestra casa, comprobar el efecto visual real, cambiarlos de posición o de lugar, y comprobar si caben o no donde tenemos pensado instalarlos.

La posibilidad de comprar directamente en tiendas recreadas por la realidad virtual tiene un nombre, v-commerce, que define un fenómeno que probablemente sea lo más disruptivo que ha conocido el comercio minorista desde la irrupción de la compra por internet. Aunque nunca podrá sustituir la experiencia de la compra presencial, el comercio virtual complementa y enriquece la experiencia del comercio electrónico. El objetivo es que el cliente pueda, tanto examinar y probar los artículos en las tiendas virtuales, como también pagar allí, llevando a la realidad virtual todo el ciclo de la compra.

Todavía son pocas las experiencias en este sentido –en parte por la falta de penetración actual de las tecnologías inmersivas-, pero se puede citar Walmart, el gigante estadounidense de grandes almacenes, que tiene en marcha 3D Virtual Shopping Tour, un recorrido virtual que nos invita a recorrer una estancia y comprar cualquier mueble o elemento de decoración allí expuesto con solo pinchar con el ratón sobre él. Y, de nuevo, la empresa sueca Ikea también cuenta con su Store Experience en VR, una visita virtual que nos lleva a recorrer una de sus tiendas para ir confeccionando una lista de la compra con aquellos muebles y elementos de decoración que nos llamen la atención.

Una de las ventajas de la realidad aumentada y de la realidad virtual en este terreno es la posibilidad de que el potencial comprador pruebe los productos antes de comprarlos, que, como hemos visto, es algo que ya se aplica en el caso de la venta de muebles y de decoración, y de la cosmética, pero que es igualmente aplicable, por ejemplo, a la ropa y el calzado (la posibilidad de comprobar a través de una aplicación cómo nos sienta un determinado modelito o zapato).

 

---

[1] Marxent (2019) “40 AR Examples – The Definitive Guide to Augmented Reality in Retail”. Disponible en: https://www.marxentlabs.com/ar-in-retail-top-augmented-reality-retail-apps-guide/