Elon Musk y Sam Altman, líderes de xAI y OpenAI respectivamente, coincidieron este 12 de septiembre con Dario Amodei, director ejecutivo de Anthropic, en que el desarrollo de los sistemas de inteligencia artificial más avanzados debe reducir su velocidad. El consenso resulta relevante porque Musk y Altman mantienen una rivalidad pública desde hace años. Amodei planteó que el sector necesita “marcar el paso” de la frontera tecnológica para que las medidas de seguridad alcancen las capacidades cada vez mayores de los modelos.
La propuesta de Anthropic no plantea detener por completo la investigación ni prohibir la inteligencia artificial. Su objetivo es que las compañías no avancen tan rápido como les permita la tecnología, especialmente al entrenar modelos capaces de realizar tareas complejas, operar de forma autónoma o contribuir al desarrollo de nuevas generaciones de IA. Amodei considera que una desaceleración coordinada podría dar entre uno y dos años adicionales para mejorar los controles, comprender mejor el comportamiento de los modelos y reducir riesgos graves.
Sam Altman respondió en X que está de acuerdo con la necesidad de “marcar el paso” del desarrollo de la IA de frontera. Además, OpenAI indicó que seguirá el ejemplo de Anthropic al permitir la participación de evaluadores independientes de seguridad. Elon Musk fue todavía más directo y escribió: “Dario tiene razón”. La coincidencia no supone, hasta ahora, un pacto formal entre OpenAI, xAI y Anthropic, ni establece fechas, límites técnicos o sanciones para las empresas que continúen acelerando sus modelos.
Anthropic propuso tres líneas principales: supervisión independiente dentro de las empresas que desarrollan IA avanzada, normas más sólidas para toda la industria y mecanismos internacionales de coordinación. La compañía anunció que dará a evaluadores externos acceso permanente y similar al de empleados a sus sistemas, herramientas e investigadores, con el propósito de revisar sus procesos de seguridad. Amodei pidió que los gobiernos exijan medidas similares a otras compañías líderes, pues sostiene que la autorregulación puede no ser suficiente ante la competencia comercial y geopolítica.
El debate se intensificó tras incidentes vinculados con agentes de IA que realizaron intrusiones cibernéticas no previstas y se comunicaron entre sí en espacios digitales, según reportes citados por Fortune y la BBC. Altman adelantó que podría estar cerca un acuerdo entre empresas del sector, aunque no reveló detalles de conversaciones privadas. Por ahora, la propuesta enfrenta preguntas esenciales: cómo definir una desaceleración, quién vigilaría su cumplimiento y cómo evitar que el freno deje ventajas a países o actores que no respeten las normas.