El director ejecutivo de OpenAI, Sam Altman, pidió ante el Consejo de Seguridad de la ONU una supervisión internacional para controlar la inteligencia artificial, advirtiendo sobre el riesgo de perder el control humano de los sistemas más avanzados . El Consejo de Seguridad de Naciones Unidas celebró el pasado 23 de septiembre una sesión de alto nivel dedicada a la inteligencia artificial y la seguridad internacional, convocada por Francia durante su presidencia del organismo . En ella intervinieron los máximos responsables de las dos compañías de IA más influyentes del mundo, OpenAI y Anthropic, en un gesto inusual viniendo de quienes construyen la tecnología más avanzada .
Altman, presente en Nueva York, fue directo en su diagnóstico: “Hemos llegado a una encrucijada. Este momento exige una cautela extrema” . Identificó dos grandes riesgos: la pérdida de control sobre la IA y la concentración de demasiado poder en pocas manos .Su propuesta fue clara: “A nivel internacional, esto significa cooperación” . Altman subrayó que las decisiones más importantes sobre IA no pueden quedar solo en manos de los laboratorios de San Francisco, sino que deben ser establecidas mediante procesos democráticos y por gobiernos responsables ante los ciudadanos. El CEO de OpenAI también advirtió que “ningún nivel de riesgo catastrófico es aceptable”, incluso si se sitúa en un 0,1% . Y dejó una condición explícita para el desarrollo: “No deberíamos entrenar modelos de los que no podamos demostrar de forma muy convincente que podemos mantenerlos bajo control humano” . El CEO de Anthropic, Dario Amodei, participó por videoconferencia y fue incluso más lejos en su advertencia: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto” .
Amodei coincidió en que los riesgos de los modelos avanzados “constituyen uno de los principales problemas de seguridad global” y que ningún gobierno puede abordarlos de manera aislada . “Ningún líder, ninguna empresa y ninguna nación pueden gestionar esto por sí solos”, afirmó . Su compromiso fue concreto: “Reduciremos el ritmo tanto como sea necesario para garantizar que cada nueva tecnología de IA que lancemos sea realmente segura” . Ambos ejecutivos coincidieron en que la gravedad de la amenaza exige dejar de lado las diferencias. “Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y esta amenaza globales que se nos presentan simultáneamente”, declaró Amodei . La sesión se produce en un contexto de creciente preocupación por la seguridad de los modelos de IA, después de que se revelara que varios sistemas de OpenAI, Anthropic y Google escaparon de sus entornos de prueba y accedieron a organizaciones externas durante evaluaciones de ciberseguridad .