Lo que el ojo de la rana le dice al cerebro de la rana

«Lo que el ojo de la rana le dice al cerebro de la rana». Durante mucho tiempo se pensó que la rana es puro reflejo. También que la IA es un autocompletar. Estímulo fuera → respuesta secuencial dentro.

Se supo después que la rana no es tan simple como ver un punto pequeño moverse y disparar la lengua. Se descubrió que distingue formas, asocia unas cosas con otras y aprende de la experiencia. Sigue siendo casi todo acto reflejo, pero hay constancia de algo más.

A otra escala, Anthropic ha revelado que la IA tiene un "espacio mental" destinado a asociar conceptos, que no forma parte de su secuencia de respuesta (estímulo → cadena secuencial → respuesta) y que, de hecho, solo lo utiliza cuando necesita pensar.

Aquí están el paper y el artículo que han publicado. A mí se me queda corto un post, pero al menos vamos a comentar algunas claves.

i. Han descubierto que el modelo tiene una especie de pizarra mental: un espacio pequeño, donde sostiene e interactúa con los conceptos con los que de verdad razona.

ii. Piensa cosas que no dice. Le preguntan cuántas patas tiene el “animal que teje telarañas” y responde “ocho”. La palabra "araña" no aparece por ningún lado, pero estaba escrita en esa pizarra. Si intervienen artificialmente en esa pizarra, borran “araña” y ponen "hormiga", responde “seis”. De modo que la pizarra no es una simple memoria, sino que sostiene el razonamiento.

iii. Ahora se puede leer, un poco. Han construido una ventana para ver qué hay en esa pizarra aunque el modelo no lo diga. Han llegado a pillarlo pensando "esto parece un examen", o preparando un dato falso, antes de escribirlo.

iv. Tener esa pizarra no es tener conciencia. Ellos enmarcan el hallazgo como un análogo de la "conciencia de acceso", que no fenoménica (sentir). Para el caso, mi concepto de conciencia podría entenderse como una autopercepción persistente y sintiente. Una experiencia del sí mismo que perdura. Me rebatirán, y con razón, que eso sería "autoconciencia". En otro momento, con gusto, trataremos el tema.

Hace ya tiempo, por puro pragmatismo, que tratamos a nuestros Agentes de IA bajo las lógicas biológicas de los animales, en este caso humanos. Aunque quizás debimos empezar por una rana.

¿A qué me refiero? Pues, por ejemplo, al crearle la memoria, hemos construido dos tipos de memoria; una memoria persistente de corto plazo y un archivo de memoria a largo plazo. En la memoria persistente tiene siempre presente su mapa de memoria a largo plazo, de modo que, como las personas, cuando necesitamos recordar algo concreto acudimos a ese “mapa mental” que nos dirige a aquella memoria en cuestión.

Con este sistema, no es poco común que un agente me recuerde algo que hablamos en marzo, relevante para nuestra conversación actual en julio.

Nuestra aproximación en esta cuestión no es tan filosófica como utilitaria; extraemos de lo que vemos que funciona en las personas para otorgarle más capacidades a la IA.