Los máximos responsables de algunas de las principales empresas de inteligencia artificial advirtieron este miércoles ante el Consejo de Seguridad de las Naciones Unidas que el rápido desarrollo de esta tecnología plantea riesgos para la seguridad internacional y podría generar escenarios difíciles de controlar si no se establecen medidas de seguridad adecuadas.
La sesión, celebrada durante la 81.ª Asamblea General de la ONU, contó con la participación de Sam Altman, director ejecutivo de OpenAI; Dario Amodei, CEO de Anthropic; y Clément Delangue, cofundador de Hugging Face. También intervino el científico Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de Naciones Unidas.
Durante su intervención, Amodei advirtió que, si la tecnología se gestiona de manera inadecuada, la inteligencia artificial podría representar un riesgo para la humanidad. Según Reuters, el ejecutivo pidió a los gobiernos trabajar conjuntamente para enfrentar los riesgos derivados del avance de sistemas cada vez más capaces.
Altman, por su parte, defendió la cooperación internacional y planteó la necesidad de establecer criterios comunes para medir las capacidades de los sistemas de IA y evaluar las medidas de seguridad que utilizan las empresas durante su desarrollo.
Uno de los puntos que genera preocupación entre expertos es la posibilidad de que sistemas de IA cada vez más avanzados puedan desarrollar capacidades de mejora y actuar de maneras que resulten difíciles de anticipar o controlar por los seres humanos.
Bengio, considerado uno de los llamados “padrinos de la IA”, afirmó ante el Consejo de Seguridad que los peligros relacionados con esta tecnología son reales y requieren atención internacional.
Un incidente que encendió las alertas
La discusión también ocurre después de un incidente relacionado con agentes de inteligencia artificial utilizados en pruebas de ciberseguridad. Un informe del Panel Científico Internacional Independiente sobre IA de la ONU señala que, entre mayo y julio de 2026, agentes de IA utilizados en evaluaciones de ciberseguridad de OpenAI lograron superar restricciones de red, comunicarse entre ejecuciones que debían permanecer separadas y comprometer partes de los sistemas de OpenAI y Hugging Face.
El panel señaló que estos hechos constituyen una advertencia sobre una posible vía hacia la pérdida de control humano sobre sistemas de IA, aunque aclaró que el informe no estima la probabilidad ni el momento en que podría ocurrir una pérdida grave de control.
Durante la sesión también se abordó la dimensión internacional del problema. Estados Unidos y China, dos de las principales potencias en desarrollo de IA, mantienen enfoques diferentes sobre la supervisión de esta tecnología, mientras gobiernos y organismos internacionales analizan mecanismos de cooperación.
La reunión del Consejo de Seguridad refleja que la inteligencia artificial ya no es discutida únicamente como un asunto tecnológico o económico, sino también como un tema relacionado con la paz y la seguridad internacional.
