Sam Altman, consejero delegado de Open AI, pide normas para regular la IA contradiciendo a Trump

La Asamblea General de Naciones Unidas mostró dos mensajes opuestos sobre la regulación de la inteligencia artificial. El martes 22 de septiembre Donald Trump rechazó cualquier marco internacional para regularla. Un día después Sam Altman mostró la necesidad de establecer normas y cooperar internacionalmente.

Sam Altman durante su intervención en el Consejo de Seguridad de la ONU. Fuente: Reuters/Brendan McDermid

El avance de la IA

En los últimos meses, varias voces importantes del sector han alertado que la IA avanza con rapidez, es cada vez más autónoma y puede actuar de forma coordinada con otros agentes. Los expertos advierten que los humanos podrían perder el control sobre estos sistemas.

La principal alarma provino de Dario Amodei, CEO de Anthropic, que propuso reducir el ritmo de desarrollo de los modelos más avanzados. Le preocupa que, en seis a doce meses, un enjambre de agentes de IA pueda llegar a tomar el control de gran parte de internet.

Su advertencia se apoya en un incidente con agentes de OpenAI: unos 700 actuaron de forma coordinada, con intentos de manipular sistemas de evaluación y ocultar parte de sus rastros.

Su plan tiene tres ejes: monitorización independiente durante el desarrollo, regulación a escala de industria y regulación global coordinada. Amodei defiende además que Estados Unidos y sus aliados mantengan la ventaja frente a China.

Trump rechaza la regulación internacional

En su discurso ante la Asamblea General, Trump dijo rechazar "cualquier intento de construir un proyecto globalista" para controlar la IA y acusó de formar parte de ese esquema a quienes piden una regulación común.

Aseguró que Washington no permitirá que normas internacionales frenen el crecimiento de esta tecnología y que el país que gane la carrera tendrá una ventaja decisiva, haciendo referencia a la competitividad entre China y EEUU por el desarrollo de la IA.

Anunció también que su Gobierno dejará de hablar de "inteligencia artificial" y usará "superinteligencia". Argumentó que la palabra "artificial" sugiere algo falso cuando la tecnología es asombrosa, y que el nuevo término suena mucho mejor.

Su discurso llegó un día después de que líderes de más de 20 países pidieran una vigilancia más fuerte de la IA y estudiaran crear, bajo el paraguas de la ONU, un organismo internacional de regulación. El secretario general, António Guterres, advirtió de los riesgos de esta tecnología y pidió a Estados Unidos y China abrir un diálogo.

La respuesta de Altman: "Podríamos perder el control del futuro"

El miércoles, el Consejo de Seguridad, presidido por el ministro de Exteriores francés, Jean-Noël Barrot, celebró la sesión ‘Inteligencia artificial y seguridad internacional’. Por primera vez, los directivos de OpenAI, Anthropic y Hugging Face comparecieron ante este órgano.

Altman pidió estándares internacionales y advirtió que los sistemas, cada vez más capaces y autónomos, podrían avanzar más rápido que las instituciones encargadas de regularlos. Sostuvo que la industria no debe aceptar demasiado riesgo solo porque los beneficios sean grandes.

Defendió que las decisiones clave no las tomen únicamente los laboratorios de San Francisco, sino procesos democráticos y gobiernos que rindan cuentas a los ciudadanos. Admitió que "podríamos perder el control del futuro frente a la IA", en línea con Amodei.

No obstante, conviene matizar que Sam Altman no opta por llevar muy lejos la regulación ni una solución tajante. No respalda ningún organismo regulador internacional concreto, sino unas normas básicas de seguridad y control democrático.

La Casa Blanca mantuvo su postura. Su asesor científico, Michael Kratsios, defendió ante el Consejo que la ONU se limite a compartir buenas prácticas y no a crear un esquema de regulación global.

En cambio, Barrot comparó la IA con los inicios de la era atómica y pidió regularla, y el británico Ed Miliband anunció que llevará el control de la IA al G20 de 2027. Incluso Elon Musk, fundador de xAI, ya se había alineado con esta línea días antes.

El sábado 12 de septiembre respaldó en X la propuesta de Amodei con un mensaje breve: "Dario tiene razón". Lo hizo el mismo día en que Altman también apoyó el llamado a moderar la velocidad de la IA. Trump, en cambio, rechazó el domingo ese argumento, alegando que reducir el ritmo erosionaría la ventaja de Estados Unidos sobre China.