Una carta abierta firmada por más de mil figuras vinculadas a empresas como OpenAI, Google, Meta y Anthropic reclama reglas internacionales capaces de desacelerar el desarrollo de la inteligencia artificial cuando los sistemas superen la capacidad humana de comprenderlos, evaluarlos o controlarlos. El texto plantea que las medidas de seguridad no avanzan al mismo ritmo que los modelos de frontera, especialmente ante herramientas con mayor autonomía y posibilidad de autooptimización.
El pedido no propone abandonar la IA ni negar sus aplicaciones productivas, científicas o médicas. Su demanda es más precisa: establecer condiciones para que el avance técnico pueda pausarse deliberadamente cuando existan riesgos relevantes y no haya mecanismos confiables de auditoría, supervisión y contención. Esa distinción importa porque la discusión pública suele reducirse a dos extremos: celebrar toda innovación como inevitable o imaginar que detenerla por completo resulta viable.
Ver esta publicación en Instagram
La presión llega desde dentro de la industria. Trabajadores de grandes compañías tecnológicas han expresado inquietud por los efectos de sistemas que pueden afectar empleo, privacidad, seguridad informática, desinformación y toma de decisiones automatizada. Una reciente renuncia en el sector volvió a exponer una preocupación que ya no pertenece solo a académicos externos: personas involucradas en el desarrollo de IA advierten que la velocidad de la competencia comercial puede desplazar precauciones esenciales.
La respuesta de Donald Trump y sectores de su administración ha sido distinta. Frenar la carrera tecnológica, sostienen, puede entregar una ventaja estratégica a China. Esa posición refleja una tensión real: la IA se ha convertido en infraestructura económica, militar y geopolítica. Sin embargo, convertir la innovación en una carrera sin límites puede hacer que la seguridad sea tratada como costo secundario, incluso cuando los daños recaen sobre trabajadores, usuarios y comunidades con menos capacidad para exigir explicaciones.
El conflicto también tiene una dimensión económica. La sola posibilidad de una ralentización generó caídas entre fabricantes de chips y otras compañías tecnológicas, una muestra de cuánto capital se ha concentrado alrededor de expectativas de crecimiento acelerado. Pero el interés de los mercados no debería decidir por sí solo qué nivel de riesgo social es aceptable. La IA puede elevar productividad, aunque organismos y analistas advierten que también puede ampliar desigualdades si sus beneficios quedan concentrados y sus costos laborales se distribuyen hacia abajo.
Para América Latina y el Caribe, el debate no puede limitarse a decisiones tomadas en Silicon Valley, Washington o Pekín. Países con regulaciones débiles, baja protección de datos y mercados laborales informales pueden convertirse en territorios de prueba, extracción de datos o sustitución precaria de trabajo humano. Una política tecnológica democrática requeriría transparencia sobre modelos, protección laboral, acceso a conocimiento y capacidad pública para fiscalizar a corporaciones transnacionales.
La discusión no es si la inteligencia artificial debe avanzar, sino quién define su ritmo, sus límites y sus beneficios. ¿Puede la seguridad depender de compromisos voluntarios de las mismas empresas que compiten por lanzar productos primero? ¿Cómo asegurar que la regulación no sea una herramienta para concentrar aún más poder tecnológico en manos de unos pocos?