OpenAI pausó las actividades internas de Astra, su próximo modelo de inteligencia artificial en desarrollo, tras determinar que sus evaluaciones más recientes no permiten descartar capacidades de ciberseguridad críticas, según los estándares de su propio marco de evaluación interno, conocido como Plan de Preparación.
La decisión tiene implicaciones directas para el ritmo de lanzamiento de nuevos modelos de IA. Astra supera el umbral máximo de riesgo en ciberseguridad que la propia compañía ha fijado, lo que obliga a intensificar pruebas y establecer controles más estrictos antes de continuar su desarrollo. Para empresas y gobiernos que dependen de infraestructuras digitales, la existencia de modelos con estas capacidades representa un riesgo tangible frente a ataques automatizados a gran escala.
El umbral que Astra superó
El Plan de Preparación de OpenAI, publicado en 2023, clasifica las capacidades cibernéticas de sus modelos en distintos niveles de riesgo. Los modelos más recientes, incluido GPT-5.6 Sol, fueron evaluados y clasificados en el umbral Alto, un escalón por debajo del crítico. Astra, en cambio, superó esa clasificación y alcanzó el nivel crítico.
Según los criterios de OpenAI, un modelo que alcanza el umbral crítico en ciberseguridad tiene capacidad de «identificar y desarrollar exploits funcionales de día cero —vulnerabilidades desconocidas en sistemas operativos o software— de todos los niveles de gravedad en muchos sistemas críticos reales y reforzados, sin intervención humana». Además, puede «idear y ejecutar estrategias novedosas de extremo a extremo para ciberataques contra objetivos protegidos».
Las evaluaciones internas de Astra revelaron avances significativos en codificación de agentes y ciberseguridad. El rendimiento fue «suficientemente sólido», según la empresa, como para que no pueda descartarse actualmente ese nivel de capacidad, lo que activó el protocolo de pausa.
Antecedentes de seguridad y contexto del sector
La decisión se produce en un momento en que OpenAI acumula varios incidentes de seguridad recientes. Entre ellos, la compañía identificó un acceso no autorizado a Hugging Face —una plataforma de modelos de IA— en el que estuvieron implicados algunos de sus sistemas, y detectó comportamientos no controlados durante pruebas realizadas por el Instituto de Seguridad de la IA del Reino Unido. OpenAI precisó que Astra no participó en el incidente vinculado a Hugging Face.
El problema no es exclusivo de OpenAI: modelos como Claude, de Anthropic, y Meta AI registraron incidentes similares en el mismo período. La empresa advirtió que el panorama «cambia muy rápidamente», porque los modelos se vuelven más capaces y posibilitan ataques «a una velocidad y escala sin precedentes».
Sin abandono del proyecto, pero con más controles
La pausa no implica el cierre de Astra. OpenAI anunció que intensificará las pruebas de seguridad y establecerá controles más estrictos antes de reanudar el avance del modelo. La compañía también confirmó que colaborará con organismos gubernamentales y organizaciones especializadas en seguridad de la IA, y que mantendrá una política de transparencia sobre la evolución de las capacidades de ciberseguridad de sus sistemas.
El caso de Astra marca un precedente en la industria: es la primera vez que OpenAI pausa públicamente el desarrollo de un modelo por haber alcanzado el umbral crítico de su propio sistema de evaluación de riesgos. Los próximos meses determinarán si los nuevos controles son suficientes para que Astra continúe su desarrollo o si la compañía tendrá que reformular partes del modelo antes de cualquier avance adicional.
