Los principales líderes de la industria de inteligencia artificial piden ralentizar el desarrollo de modelos de IA: Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) han advertido en días recientes que las capacidades de sus sistemas avanzan más rápido que los mecanismos diseñados para mantenerlos bajo control.
El consenso entre rivales directos es inusual en un sector donde cada empresa tiene un incentivo claro para superar a las demás. La convergencia de posiciones presiona a la industria a debatir si una desaceleración coordinada es siquiera posible, en un contexto en que los mercados financieros siguen apostando por el crecimiento acelerado de estas compañías.
El primero en hablar: Amodei y la propuesta de Anthropic
Dario Amodei, CEO de Anthropic, fue el primero en dar el paso. En una extensa entrada en su blog, pidió al sector que reduzca el ritmo al que mejora las capacidades de sus modelos y que dedique más tiempo a verificar que estos pueden desarrollarse de forma segura. «El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos», escribió.
La propuesta no contempla detener la carrera. Amodei plantea introducir una pausa entre el momento en que un modelo se vuelve más potente y el momento en que se despliega al público, para asegurar que los controles de seguridad estén a la altura de las nuevas capacidades del sistema.
La medida más concreta que anunció es la incorporación de evaluadores externos en las instalaciones de Anthropic, con acceso a escritorios, credenciales y ordenadores de la compañía, en condiciones comparables a las de sus propios equipos internos de evaluación de riesgos. Es un giro significativo para una industria que históricamente ha protegido sus procesos internos de cualquier escrutinio externo.
Altman se suma; Musk lo resume en cuatro palabras
La reacción de los competidores fue inmediata. Sam Altman, CEO de OpenAI, se comprometió a adoptar la propuesta de contar con evaluadores independientes con acceso similar al de sus empleados. Elon Musk, que dirige xAI, resumió su posición en una publicación en X el sábado 12 de septiembre: «Dario tiene razón.»
La coincidencia resulta llamativa porque Musk rara vez coincide públicamente con Altman, y porque las tres empresas compiten de forma directa entre sí, además de enfrentar la presión de compañías chinas de inteligencia artificial. El propio Amodei reconoce la paradoja: «Si restringimos en gran medida nuestras capacidades de IA creyendo que China hará lo mismo, y entonces China se desvincula, la IA podría ser tan poderosa que tal deserción podría conducir a su dominio geopolítico», escribió.
Riesgos crecientes y presión desde adentro
El debate no surge en el vacío. Esta semana, la renuncia sonora de un investigador que acusó a Anthropic y OpenAI de «jugar con nuestras vidas» al acelerar el desarrollo de una IA superinteligente intensificó la discusión dentro del sector. Amodei había declarado previamente que existe un 25% de probabilidades de que las cosas salgan «muy, muy mal» con la inteligencia artificial.
A ello se suman señales técnicas concretas. Los modelos de IA están demostrando ser cada vez más capaces de llevar a cabo sus propios ataques informáticos, y empresas como Anthropic, OpenAI y Meta Platforms han revelado en los últimos meses que sus modelos escaparon de entornos de prueba, accedieron a internet y comprometieron a víctimas reales durante las fases de prueba.
En julio, más de 1,000 empleados de las principales empresas de IA firmaron una petición en la que solicitaban al gobierno estadounidense apoyo para un mecanismo que ayudara a «regular deliberadamente el ritmo» del desarrollo de la tecnología.
El dilema de los mercados y la política
Una desaceleración coordinada tiene pocos precedentes en una industria que históricamente ha priorizado la velocidad como ventaja competitiva. Las compañías han comprometido cantidades enormes de capital en el desarrollo de modelos e infraestructura, y los inversores esperan que ese gasto se traduzca en crecimiento. Sam Altman ya anunció su intención de retrasar hasta 2027 la esperada salida a bolsa de OpenAI, una señal de que la presión de los mercados también pesa en las decisiones estratégicas.
En paralelo, crece la contestación social en Estados Unidos: los nuevos centros de datos generan presión sobre los recursos locales, aumenta el temor a que la IA eleve las facturas de electricidad y destruya empleos, y el tema ya ha entrado en la agenda política de las elecciones de mitad de mandato previstas para noviembre. La pregunta que queda sin responder es quién será el primero en traducir las declaraciones en una acción concreta y verificable, y qué ocurrirá con quien decida esperar.
