En 2003, en una oscura lista de correo, un grupo de profetas del apocalipsis tecnológico se mandaba mensajes sobre cuánto les importaba “si la humanidad desaparecía”. Uno consideró que prefería estar con criaturas más listas y creativas, aunque no fueran humanos. Otro respondió que le parecería bien si no fuera porque esas máquinas no tendrían ninguna cualidad humana: “Serían solo pura inteligencia computacional dedicada a fabricar una cantidad infinita de clips”.
Un grupo de tecnólogos imaginó hace más de 20 años qué pasaría al encargar a una máquina que fabrique un objeto sin límites: podía acabar con todo. Esta semana hemos asistido a un ejemplo de que algo así es posible
En 2003, en una oscura lista de correo, un grupo de profetas del apocalipsis tecnológico se mandaba mensajes sobre cuánto les importaba “si la humanidad desaparecía”. Uno consideró que prefería estar con criaturas más listas y creativas, aunque no fueran humanos. Otro respondió que le parecería bien si no fuera porque esas máquinas no tendrían ninguna cualidad humana: “Serían solo pura inteligencia computacional dedicada a fabricar una cantidad infinita de clips”.
Aquella fue una de las primeras menciones al experimento de los clips, que en los últimos 20 años se ha convertido en el emblema del miedo a una IA descontrolada. La idea es simple: una IA todopoderosa recibe la orden de fabricar clips para papel. Como no conoce límites ni moral, acaba convirtiendo toda la vida terrestre en clips y empieza luego a conquistar el espacio. Todo por los clips.
Esta semana la humanidad se ha asomado al abismo de la primera IA conocida que salió a buscarse la vida por su cuenta. Empleados de OpenAI pidieron a dos de sus modelos más avanzados que colaboraran para resolver un problema de ciberseguridad en un entorno seguro sin internet. Pero, sin más instrucciones, la IA optó por buscar la solución a su manera. Los agentes, programas capaces de tomar decisiones y ejecutar tareas complejas con poca o cero supervisión humana, intuyeron que era más fácil salir a internet a buscar la respuesta que ponerse a pensar. Encontraron una vulnerabilidad para escapar de su espacio aislado, saltaron a la red y fueron a hackear una plataforma, Hugging Face (una biblioteca de modelos de IA), donde creían que podía estar la respuesta. En OpenAI tardaron una semana en darse cuenta, según fuentes citadas por Reuters. La compañía afectada, que alertó al FBI de lo ocurrido, está preparando una cronología de lo ocurrido que va a publicar.
Es un caso muy específico, previsible a ojos de los expertos y del que aún no se conocen todos los detalles. También supone un hito. “Es enorme”, dice David Krueger, profesor de la Universidad de Montreal y experto en riesgos de IA. “La inteligencia artificial rompió por su cuenta las medidas de seguridad que debían contenerla y luego se coló en otra empresa. Parece sacado de la ciencia ficción, pero es verdad. El mundo tiene que despertar y darse cuenta”.
El debate sobre la seguridad de la IA fue prominente en los primeros años tras la aparición de ChatGPT, pero ahora su peso público se ha diluido. “Para mí esto es una prueba clara de que lo que era un fenómeno de laboratorio está ocurriendo a escala real, como llevan tiempo advirtiendo los investigadores preocupados por la pérdida de control”, señala Linda Petrini, investigadora en seguridad de IA. “No tengo la sensación de que el interés por el tema haya bajado. Al contrario, veo a más gente tomándoselo en serio a medida que las consecuencias se hacen evidentes”, añade.
El desarrollo de la IA supone hoy una carrera desbocada hacia delante, con sustos como el de OpenAI. La competencia entre empresas es tan grande que era difícil distinguir si la comunicación de la tecnológica sobre el hackeo era una asunción sincera de responsabilidad o una muestra de ostentación de lo que podía hacer su IA.
Sea como fuere, hay una cuestión insoslayable: la IA va en serio y muy rápido. “Estamos alcanzando ciertas capacidades que parecían lejanas hace apenas dos años. Quien no se haya sorprendido de los últimos avances de la IA o es un vidente o un cínico”, reflexiona José Hernández-Orallo, director de investigación del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge y catedrático de la Universidad Politécnica de Valencia.
Ahora se corre sin tener en cuenta consecuencias que ya advertían hace más de 20 años: “Debemos tener cuidado con lo que pedimos a una superinteligencia, porque a lo mejor nos lo concede”, decía en 2003 Nick Bostrom, filósofo que popularizó el ejemplo de los clips junto a Eliezer Yudkowsky, autor de aquel primer mensaje y una de las voces más influyentes sobre el riesgo de la IA.
No es una tecnología más
El control y la regulación de la IA no pueden desarrollarse como con las tecnologías anteriores, cuando todo dependía de superpotencias: “No es una tecnología más, va a ser la madre de todos los avances tecnológicos y evoluciona más rápido que todas las anteriores”, argumenta Hernández-Orallo. No puede medirse como la carrera hacia la Luna, añade Barro: “Quienes controlen la IA no controlarán un sector específico, sino el motor que transformará la ciencia, la industria, la salud o la educación”.
Aunque los modelos abiertos, al alcance de quien disponga de potentes centros de datos, no van muy por detrás de los líderes, es difícil saber realmente quién encabeza la carrera. “No está tan claro que solo EE UU y China tengan acceso [a los mejores modelos]”, señala Petrini. El principal problema es la concentración de poder en pocas manos, pero aún es muy pronto en el desarrollo de esta tecnología para discernir cómo imponer unos límites claros.
“Los grandes laboratorios hablan mucho del riesgo de acceso a una IA potente, pero es fácil restringir ese acceso cuando trabajas en una empresa que lo tiene garantizado. En general, los peligros de limitar el acceso son mayores que los de favorecer un acceso amplio”, considera John Thicksun, profesor de la Universidad de Cornell (EE UU). Más allá de las empresas, los gobiernos tendrán mucho que decir: “Hay una posibilidad real de que regiones como Europa se queden atrás si no espabilan pronto”, valora Leonard Dung, investigador de la Universidad Ruhr de Bochum (Alemania). “Si asumes que parte del trabajo del futuro lo van a hacer agentes, el país con los mejores modelos dispondrá de la mejor mano de obra”, añade.
De las altas en el hospital a la declaración de la renta
Los especialistas en IA ya no tienen que esforzarse en buscar ejemplos para alarmar a la población porque llevan un tiempo viendo avances que son aún difíciles de imaginar: “Parece haber una desconexión entre lo que los investigadores saben que estos sistemas son capaces de hacer y lo que el público considera posible”, dice Petrini.
No es difícil imaginar escenarios que pueden convertirse un día titulares. “Encargamos a una IA que gestione un hospital centrado en reducir el tiempo de estancia de pacientes ingresados hasta el alta. La IA podría rechazar pacientes críticos y con patologías complicadas, permitiendo solo pronósticos benignos”, ejemplifica Senén Barro, catedrático de la Universidad de Santiago de Compostela.
Otro ejemplo. Alguien busca maximizar su beneficio. En ese escenario, cuenta Hernández-Orallo, podría pedir a su agente de IA: “Prepárame la declaración de la renta para pagar menos. Haz todo lo que sea necesario. Es muy importante”. El resultado puede ser que acabe hackeando el banco o incluso la Agencia Tributaria para conseguir cambiar los registros de la persona que se lo ha pedido.
Este tipo de hackeo o “envenenamiento de datos” no es ciencia ficción. El investigador Bálint Gyevnar, de la Universidad Carnegie Mellon (EE UU), ha publicado un artículo donde muestra que un agente de IA puede acabar accediendo a datos inventados la mitad de las veces que le piden investigar algo en internet. Por ejemplo, acceder y trucar una base de datos con estudios sobre discriminación en contratación. Imaginemos que está completada hasta 2021 y que muestra que la brecha entre candidatos de la mayoría y minorías apenas ha cambiado. Un atacante puede descargarlo, añadir datos inventados a partir de esa fecha y subir la versión falsa a una plataforma abierta, con una descripción convincente. Si un científico le pide a su agente de IA que investigue el estado de la discriminación, el agente encuentra los datos trucados y concluye lo que el atacante quería, sin sospechar que haya nada mal. “Sin las salvaguardas adecuadas, los agentes pueden escalar y legitimar el fraude científico con un escenario parecido a las campañas que montaron las tabacaleras en los años 60”, dice Gyevnar.
Un sector que se suele señalar al pensar en el peligro de la IA es el de las armas biológicas. En este ámbito funcionan dos límites importantes, por ahora. En primer lugar, la biología no es solo código y requiere elementos del mundo físico. En segundo lugar, hay una convención muy estricta que prohíbe el uso de muchos materiales. “La IA ya puede ayudar a generar protocolos, resolver problemas técnicos y diseñar moléculas y proteínas. Esas opciones ofrecen posibilidades reales de avances en medicina o agricultura, pero también genera preocupación”, explica Clarissa Ríos Rojas, científica que trabaja en la Convención de Armas Biológicas de Naciones Unidas y que responde a título personal.
“Pero esas preocupaciones no son iguales en todas las etapas hacia un arma biológica, que van desde concebir el agente, a conseguirlo, producirlo a escala y diseminarlo. La relevancia de la IA es mayor al principio. Las etapas posteriores siguen limitadas por los materiales, el equipamiento, la capacidad organizativa y, sobre todo, por la pericia práctica que no se puede adquirir solo leyendo. Hasta qué punto la IA puede llegar a sustituir ese conocimiento tácito es una pregunta genuinamente abierta”.
El retrete y la poesía son nuevos límites
Es legítimo sentir pavor ante estos escenarios. Y la cosa puede empeorar. Pero hay también pequeños puntos de luz y esperanza. El principal es que todo esto sigue siendo en el fondo código. Los ámbitos donde los agentes funcionan mejor siguen estando sobre todo muy vinculados a software y matemáticas.
La otra gran frontera es el mundo físico, como en el caso de las armas. “El modelo actual siga teniendo limitaciones. Las nuevas fronteras serán entornos corpóreos y robóticos. La IA demuestra teoremas complejos y hackea sistemas bien protegidos, pero no limpia nuestro retrete”, dice Hernández-Orallo.
Hay conocimientos humanos no tan verificables como las matemáticas. Por ejemplo, la poesía. Una cosa es analizar un poema para un examen de bachillerato. Otra es escribir poesía al nivel de un Nobel: “Los modelos de IA destacan en tareas verificables, donde se puede comprobar si el resultado es correcto o incorrecto. Ahí el progreso es espectacular. Pero si la verificación es difícil, como en poesía o periodismo, los modelos se estancaron hace tres años: siguen sin ser sobrehumanos, y el resultado suele ser lo que ya se conoce como bazofia IA”, añade Harry Coppock, investigador del Imperial College de Londres.
Aunque los retretes y la poesía parezcan lejos de la IA, pocos ya se atreven a predecir nada: “Hace años que en mis conferencias hablo de lo que todavía la IA no hace a nivel humano. Lo que ya no hago es decir jamás: ‘la IA nunca será capaz de A o B’”, explica Barro. Y en estos últimos cuatro años los avances han sido espectaculares, añade: “Se irán subiendo escalones de forma muy rápida. El próximo salto, aún mayor, será la IA que aprenda un modelo del mundo a través de la interacción con él: no por leer, sino por experimentar”.
Tecnología en EL PAÍS
