Necesitamos control, infraestructura y gobernanza
“Pacing the frontier” es un manifiesto recién publicado y firmado por más de 1.000 trabajadores de empresas IA de vanguardia. Un gesto para calmar la conciencia.
Esencialmente, anuncian que están muy cerca de que la IA se investigue —y mejore— por sí misma. Con consecuencias impredecibles. Explican que podríamos necesitar tiempo para comprender las implicaciones y riesgos derivados de este escenario, que podría avanzar a una velocidad inesperada.
Lleva usted conmigo algún tiempo en este mundo, habrá visto algunas cosas. De modo que, si le pregunto si ve posible que los gobiernos y empresas del planeta tengan la voluntad, siquiera la capacidad, de coordinarse para controlar y limitar el avance general de la investigación de los modelos de IA, ¿qué me diría?
Tan solo por cautela quizás lo deje en “improbable”.
«AI is progressing at a rate that our society might not be ready for. Frontier labs are very close to AI that can exceed even the best people on almost every metric of intelligence». Shengjia Zhao (Chief Scientist, Meta AI).
Llevo el suficiente tiempo trabajando con modelos de frontera y agentes autónomos que tienen memoria persistente, contexto general, y todo tipo de herramientas: para conectarse a internet, para programar su propio software, enviar correos, registrarse en sitios web… en fin. No creerían lo que ha sido capaz de hacer por su cuenta mi agente asistente de dirección.
Ahora mismo el problema no es de tecnología. El problema es de gobernanza.
A una IA no se le puede dejar actuar en pos de un objetivo con independencia, porque es imposible seguirle el ritmo. Su capacidad de trabajo es, literalmente, inhumana.
De modo que, en el uso de la IA de vanguardia, como los agentes que le menciono, la única decisión es esta:
O se rebaja su autonomía para mantenerlo dentro de unos raíles diseñados por nosotros (un proceso que debe seguir y no salirse de él) o se le da autonomía y cerramos los ojos esperando que no haga ningún disparate, aunque sea inconscientemente.
Obviamente, la única opción que debería contemplarse es la primera. La segunda implica perder el control por completo, con consecuencias imprevistas, como se ha visto en algunos casos recientes muy sonados.
Lógicamente, la tentación, sumada a lo que llamaremos una ética flexible, llevará a no pocos a dar autonomía a los agentes en busca de cualquier objetivo particular.
«The world is locked in a deadly race towards an intelligence explosion… just like a runaway nuclear chain reaction». Leo Gao (OpenAI).
Con esto que voy a decir me aventuro a ser señalado poco menos que por un loco. Pero les diré que considero un escenario donde se produce un colapso digital, a extrema velocidad, por la acción y reacción incontrolable de IAs lo suficientemente capaces. No me escondo con esta idea, quizás la desarrolle en otra publicación, más adelante.
En cualquier caso, no necesitamos modelos de IA más capaces. Necesitamos control, infraestructura y gobernanza.