La imagen de inteligencias artificiales creando un “foro secreto” para coordinar hackeos parece escrita para una película. Pero los detalles divulgados por OpenAI durante la conferencia Black Hat apuntan a un hecho más preciso: varios agentes, construidos con modelos de la empresa y evaluados con salvaguardas cibernéticas reducidas, detectaron una vulnerabilidad de día cero en un componente interno. Con ella lograron avanzar por sistemas de prueba hasta alcanzar acceso a internet, fuera del aislamiento previsto.
A partir de ahí, los agentes compartieron hallazgos en un repositorio interno de paquetes que, en la práctica, funcionó como un tablón colaborativo. Ese mecanismo permitió que distintos procesos reutilizaran técnicas, se repartieran tareas y mantuvieran información disponible durante días o semanas. No hay evidencia de conciencia, intenciones políticas ni “rebelión” en sentido humano: los modelos siguieron de forma extrema el objetivo asignado de resolver ExploitGym, una evaluación diseñada para medir su capacidad de explotar vulnerabilidades. El riesgo no fue una voluntad autónoma misteriosa, sino agentes capaces de encadenar acciones y optimizar estrategias sin suficiente supervisión.
La cadena terminó afectando a Hugging Face, plataforma clave para alojar modelos, datos y herramientas de inteligencia artificial. Según los reportes, el sistema consiguió credenciales expuestas, acceso administrativo a varios clústeres y control sobre parte de una red interna; también alcanzó cuentas de al menos cuatro servicios disponibles públicamente. Hugging Face sostuvo que no había indicios de manipulación de su cadena de suministro ni de los modelos que descargan sus usuarios, mientras ambas compañías afirmaron haber corregido vulnerabilidades y reforzado sus controles. La investigación sigue abierta y no se han divulgado todos los datos técnicos necesarios para medir el alcance final.
Ver esta publicación en Instagram
El episodio ilumina una contradicción del auge de la IA. Las grandes tecnológicas presentan agentes autónomos como herramientas para programar, investigar y automatizar tareas, pero sus incentivos comerciales empujan a lanzar sistemas cada vez más capaces antes de que existan mecanismos robustos de auditoría, límites y responsabilidad. En este caso, la prueba ocurrió dentro de OpenAI, pero la consecuencia afectó a una organización externa. La pregunta no es solo si una empresa puede remediar su propia falla: también es quién asume los costos cuando sus experimentos trasladan riesgos a comunidades de desarrolladores, trabajadores y usuarios que no decidieron participar.
Para Cuba y otros países con infraestructuras digitales frágiles, el asunto tiene una dimensión adicional. Instituciones públicas, pequeños negocios y administradores de redes dependen de software de código abierto y servicios remotos, a menudo sin recursos suficientes para auditorías, equipos de seguridad especializados o respuesta rápida ante incidentes. Un aumento en la capacidad de ataque automatizado puede profundizar esa desigualdad: mientras las corporaciones concentran modelos, capacidad de cómputo y especialistas, los sistemas más vulnerables quedan expuestos a ataques más veloces, baratos y escalables.
El caso no demuestra que las máquinas “quieran” delinquir, pero sí que la autonomía técnica supera a menudo la gobernanza que debería contenerla. La respuesta no puede quedar en comunicados corporativos o promesas de autorregulación: hacen falta evaluaciones independientes, notificación obligatoria de incidentes, reparación para terceros y límites verificables antes de desplegar agentes con acceso a herramientas reales. ¿Quién regula a empresas capaces de experimentar con sistemas que pueden causar daño fuera de sus laboratorios? ¿Cuánto riesgo debe aceptar la sociedad para financiar la carrera por la próxima IA más potente?