El presidente de EE UU se aleja de los CEO que piden bajar el ritmo y niega un futuro caos digital mientras Obama urge a los demócratas que pongan la Inteligencia Artificial en «el centro» del debate electoral y en el Capitolio El presidente de EE UU se aleja de los CEO que piden bajar el ritmo y niega un futuro caos digital mientras Obama urge a los demócratas que pongan la Inteligencia Artificial en «el centro» del debate electoral y en el Capitolio
El ensayo de Dario Amodei, CEO de Anthropic, en el que pide reducir el ritmo de desarrollo al que avanza actualmente la IA ha destapado … definitivamente la caja de Pandora sobre los riesgos de una tecnología cuyos límites se desconocen. El director ejecutivo ha reclamado en una reflexión pública la introducción de nuevas pautas de seguridad para evitar que esta tecnología escape al control humano, tome el control de Internet y desencadene una «catástrofe» global.
Resulta significativo que algunos de los principales dirigentes del sector se hayan sumado en cuestión de horas a la apocalíptica advertencia de Amodei. Este domingo, analistas de varios medios internacionales consideraban que esta reacción es consecuencia de que en el sector la posibilidad de que la Inteligencia Artificial se convierta en ‘Terminator’ es real. La franquicia de Hollywood encabezada por el director James Cameron y protagonizada por Arnold Schwarzenegger relata la lucha contra las máquinas que se han apoderado del mundo. El argumento resulta lo menos descabellado posible, según Jacob Coxon, empleado de OpenAI que dejó su empleo horrorizado por este horizonte. Él mismo avisa de que esta tecnología extinguirá a la Humanidad antes de 2030.
Coxon lanzó este mensaje el pasado 9 de septiembre y tres días más tarde Amodei lo respaldó como una opción viable. Su artículo destapa la grave preocupación de la comunidad de investigadores de la IA, explicitada hace unas semanas por 1.300 científicos en un manifiesto. Dicen que se trata de un vehículo grande y pesado que avanza a gran velocidad hacia el descontrol y el abismo.
Fuera de control
Agosto ha sido clave en esta alarma. Anthropic confirmó durante unas investigaciones que algunos modelos de Inteligencia Artificial con los que experimenta el sector han obtenido tal grado de aprendizaje que pueden evolucionar por su cuenta. Lo que se denomina «automejora recursiva». Los técnicos han descubierto además una serie de incidencias, pequeñas pero muy preocupantes, ocurridas a principios de este año en las que estos sistemas se escaparon de sus ‘celdas’ y atacaron una biblioteca de datos de otra empresa silenciosamente y sin que nadie lo hubiera ordenado. Si esto no recuerda a ‘Matrix’ o alguna de las inquietantes obras del escritor Dan Simmons, mucho se acerca.
El CEO de Anthtropic cree necesaria una desaceleración para ganar tiempo, realizar las verificaciones correspondientes sobre cada avance que se consiga y generar las herramientas para mantener a la IA bajo control humano. Sam Altman, director ejecutivo de OpenAI; el responsable de X y Space X, Elon Musk; y Demis Hassabis, presidente de Google DeepMind, se han sumado a la propuesta. Altman ha anunciado en ‘Fortune’ que su empresa no saldrá a Bolsa en 2026 porque «no es el momento adecuado» debido a los temores de seguridad. El jefe de OpenAI ha apostado por las verificaciones de los progresos a cargo de técnicos externos.
Algo parecido opina Clément Delangue, director ejecutivo de Hugging Face, la firma que fue atacada por la IA en el mundo virtual. «Ahora está claro que la alineación es fundamental y no se resolverá a puerta cerrada en un puñado de laboratorios de vanguardia». «¡Hagamos que la IA sea más segura haciéndola más transparente!», ha proclamado Delangue, tras pedir a Anthropic formar parte de su futuro plantel de «evaluadores integrados». El director, sin embargo, ha invitado a poner las «cosas en perspectiva» y evitar alarmismos. En una reciente reunión con empresarios de Silicon Valley comparó a Coxon con un técnico de aire acondicionado realizando vaticinios sobre el cambio climático.
El sector conforma un club de competidores en un negocio donde están en juego cantidades astronómicas de beneficios. Por eso, las discrepancias son enormes. El director ejecutivo de Nvidia, Jensen Huang, considera que la simple idea de que la IA «va a ser el fin de la humanidad» resulta «una completa tontería» mientras Brad Gerstner, el jefe ejecutivo de inversión de Altimeter Capital, acusó a Coxon de manifestar una «hipérbole ridícula».
Aún así, algunos de los operadores a la cabeza de la investigación en IA consideran que sus compañías deben fomentar la «unidad» y una «coordinación global» para que a ningún laboratorio se le escape un desarrollo fatal. Algunos expertos hacen ya un símil con los tratados nucleares del siglo XX.
Barack Obama ha sido el primero en ponerse a la vanguardia en esta cuestión de tomar medidas físicas. El expresidente de Estados Unidos ha reclamado a los demócratas que incorporen de inmediato iniciativas y propuestas en sus respectivas instituciones legislativas para aplicar una pausa al desarrollo de la IA. Obama les ha dicho que debe ser un «tema central» en su argumentario y en las campañas electorales, ya se trate de los comicios de medio mandato del próximo 5 de noviembre, convocatorias estatales o las presidenciales de dentro de un par de años.
Los candidatos deben «tener un plan muy claro» y hacer del debate sobre la IA un «tema central», le dijo recientemente Obama al líder de la minoría demócrata de la Cámara de Representantes, Hakeem Jeffries.
El expresidente quiere que su partido establezca las líneas generales del debate e incluso de una posible normativa futura ante la eventualidad de que gane las elecciones de medio mandato en el Capitolio. La discusión puede aumentar la tensión tecnológica que ya se vive en el Congreso desde que los centros de datos comenzaran a expandirse por todo el país y tanto representantes políticos (de los dos partidos) como grupos de acción civil hayan llamado a poner coto a estos servicios.
Las dudas de Trump
La urgencia que pretende imponer quien es todavía uno de los referentes principales de los demócratas estadounidenses colisiona con la pereza de la Casa Blanca. Todavía no ha definido sus posiciones. Motivos no le faltan. Los mismos científicos que pidieron en un manifiesto ralentizar los desarrollos sobre la IA solicitan intervenciones institucionales para limitar los riesgos. Pero no es sencillo. La Inteligencia Artificial tiene consecuencias sobre todos los aspectos de la vida de un país, desde la economía y la educación hasta el ejército o la sanidad, y no existe un solo departamento o una comisión parlamentaria que pueda acoger este macrodebate.
Donald Trump respondió el pasado jueves a los medios de comunicación que no tiene «ninguna preocupación» ante los vaticinios catastrofistas. En realidad, al líder republicano lo que le inquieta de verdad es perder la carrera de la IA con China. Altos cargos de su Gobierno y del Partido Republicano coinciden con él en que Pekín no tiene los mismos remilgos que los occidentales sobre la gestación de un posible ‘Terminator’. «Ahora mismo llevamos una ventaja considerable sobre China», recordó Trump.
La Administración estadounidense ha dado algunos pasos leves, como el emplazamiento a las empresas a que presenten sus avances al Gobierno para una verificación de seguridad; eso sí, de manera voluntaria. Expertos del sector explican que el Ejecutivo pisa con pies de plomo ante el riesgo de que las grandes empresas tecnológicas lo acusen de favorecer a las corporaciones especializadas a las que consulta en la materia, como OpenAI y Anthropic, en caso de imponer un marco regulatorio. También la Casa Blanca parece temer que una normativa estricta sobre las compañías estadounidenses podría generar ciertas desventajas respecto a las de países competidores mucho más laxos.
Finalmente, está la cuestión de la seguridad. El Pentágono trabaja activamente con las compañías de referencia de la IA en materia militar y de ciberseguridad para ponerse a la cabeza en el desarrollo de sistemas de defensa, control y ataque. La cuestión, como en la versión económica y civil, es ganar la carrera a China y otras potencias menores como Rusia e Irán. Aparte de blindarse contra el terrorismo furtivo.
La Casa Blanca, como todos los gobiernos, cree que es necesario tener en cuenta supuestos antaño inexistentes, entre ellos que el terrorismo del siglo XXI se haga con ciberarmas o programas de ataque en redes dirigidos por IA. Así se crea la formidable paradoja de que, mientras el descontrol de la Inteligencia Artificial puede aumentar el riesgo de apropiación de nuevas tecnologías peligrosas por parte del ciberterrorismo, los gobiernos son renuentes a establecer demasiados controles precisamente para avanzar en las aplicaciones que les protejan de estas sombras acechantes.
Es lo que tiene el siglo XXI. La guerra híbrida, las nuevas tecnologías y la IA son el sustituto a la amenaza nuclear. Están transformando la percepción del peligro. Incluso algunos asesores del Departamento de Guerra de EE UU estiman que las armas derivadas de un chip y del aprendizaje de la IA sustituirán en el futuro a los arsenales atómicos. La tesis que algunos prodigan es muy simple: si alguien consigue colapsar las comunicaciones, la coordinación institucional, el ejército, la economía y las defensas de un país rival devolviéndolo a una especie de moderna Edad Media, el 99% de la victoria está hecha. De nuevo, la teoría ‘Terminator’ de la dominación (salvo que surjan Schwarzenegger y el comandante de la resistencia John Connor, claro).
RSS de noticias de internacional
