La inteligencia artificial generativa como una forma de ilusionismo

 

Existe un gran debate en la actualidad sobre la supuesta inteligencia de la inteligencia artificial generativa, cuyos productos más conocidos son herramientas como ChatGPT de OpenAI o Gemini de Google. Para muchos expertos, empezando por sus creadores, estos modelos amplios de lenguaje (del inglés large language models, LLM) constituyen la antesala de la inteligencia artificial general, un estado de la innovación tan temido como deseado en el que las máquinas podrán emular las funciones y capacidades del cerebro humano.

Otra corriente de pensamiento, por el contrario, opina que la rama de la inteligencia artificial basada en el aprendizaje automático, responsable de los avances espectaculares que han tenido lugar en el último decenio, y los LLM en particular,  cuyas hazañas nos dejan boquiabiertos, distan mucho de poder igualar nuestra inteligencia en la actualidad, y no son más que potentísimos programas estadísticos que se nutren de ingentes cantidades de datos para poder realizar sus diagnósticos y predicciones.

Una de las limitaciones fundamentales de la inteligencia artificial de hoy en día, a juicio de sus principales críticos encabezados por el profesor de la Universidad de Nueva York Gary Marcus, es que estos sistemas no entienden el mundo que les rodea. Son capaces de establecer correlaciones entre distintos objetos o situaciones, pero ignoran el principio de causalidad que los conecta. Además, para funcionar de forma eficiente requieren de inmensos volúmenes de datos, que no siempre pueden estár disponibles.

Uno de los análisis más brillantes en este campo de los últimos tiempos es el que realizó el ingeniero de software Baldur Bjarnason basado en la idea de que los modelos amplios de lenguaje que tanto impresionan a propios y extraños usan las mismas técnicas que los mentalistas e ilusionistas. El artículo The LLMentalist Effect: how chat-based Large Language Models replicate the mechanisms of a psychic’s con postula que no hay ninguna razón que nos lleve a concluir que estos sistemas piensan de la forma en que lo hacemos los humanos, y que la ilusión de que realmente son inteligentes está únicamente en la mente del usuario.  De hecho, su funcionamiento es un claro caso de ilusionismo.

Bjarnason descubre en su texto la técnica que utiliza un mentalista para hacerle creer a la gente que tiene el poder de leer la mente, y la divide en seis fases:

1.  El público se auto selecciona: los asistentes a un espectáculo de mentalismo suelen estar más interesados que el público en general en estos temas y los afrontan con menos prejuicios.

2.    Se crea la escena: a través de la luz y otros factores se prepara el espectáculo y se crea expectación en el público, mientras el mentalista y su equipo investiga al público en redes sociales o a través de conversaciones, intentando establecer perfiles demográficos.

3. Se estrecha el factor demográfico: el mentalista calibra la información demográfica del público y se dirige a una sección o fila concreta del auditorio, realizando una afirmación que parece específica, pero que está en consonancia estadística con los factores demográficos detectados.

4.  La víctima es testada: la reacción de una persona de esa sección del público demuestra que realmente ha creído que se les ha leído la mente, y el mentalista realiza una batería de preguntas que, igual que antes, parecen muy específicas, pero que en realidad son genéricas. Si la víctima no responde a cada afirmación, el mentalista lo considera un triunfo y sigue adelante.

5.   El bucle de la validación subjetiva: el mentalista le formula a la víctima preguntas aparentemente muy específicas, pero que son conjeturas basadas en los datos demográficos recopilados y en las respuestas anteriores.

6.    ¡El mentalista tiene poderes de verdad! El proceso termina y la víctima se queda con la idea de que el ilusionista realmente le ha leído la mente, pero todo ha sido fruto de una sofisticada técnica.

Veamos ahora cómo utilizan los modelos amplios de lenguaje de texto las técnicas de los ilusionistas, a juicio de Baldur Bjarnason:

1.     El público se auto selecciona: los principales usuarios de la inteligencia artificial son personas muy convencidas, gente muy techie, con la mente abierta y una predisposición natural hacia estos sistemas.

2.    Se crea la escena: la moda y tendencia en torno a esta tecnología predispone las elevadas expectativas de los usuarios, que reciben noticias e intercambian comentarios al respecto en chats especializados.

3.    El prompt establece el contexto: los usuarios le dan al chatbot un prompt o texto que define y acota la pregunta realizada, y el sistema responde. Algunos lo dejan tras la primera respuesta, pero otros -los más entusiastas de esta tecnología- siguen preguntando y afinando la consulta de forma que parece que se enzarzan en una conversación con el algoritmo.

4.  La víctima se pone a prueba a sí misma: los más crédulos creerán que la conversación arroja respuestas del sistema muy específicas para ellos en particular que denotan inteligencia. Llegan a pensar que el bot está leyendo el texto que se le presenta y que responde de forma razonada, pero es solamente una herramienta que utiliza la estadística para elaborar respuestas lógicas al texto del prompt que ha recibido.

5.     El bucle de la validación subjetiva: al igual que el mentalista no lee la mente sino que establece los patrones más probables de pensamiento y comportamiento del público en función de toda la información sobre éste que puede recabar, el LLM no lee, ni piensa ni razona, sino que va afinando más las respuestas genéricas que ofrece a medida que interactúa con el usuario. Aunque suenan como respuestas razonadas en un contexto específico, son conjeturas estadísticamente probables, y a medida que el usuario formula más consultas sucesivas más se convence de que está conversando con un ser inteligente.

6.    ¡La inteligencia artificial generativa piensa! El usuario “víctima” llega a la conclusión de que el chatbot está muy cerca de adquirir conciencia de ser y de que es capaz de razonar, pero todo ello no es más que un efecto psicológico y estadístico. Igual que el mentalismo.