OpenAI pospone el lanzamiento de GPT‑6.1 Astra por fallas de seguridad
El nuevo modelo de inteligencia artificial de OpenAI, previsto para debutar en los próximos días, quedó detenido tras detectar problemas de alineación y de autorización de alcance en pruebas internas. La empresa informó que seguirá trabajando en ajustes antes de presentar el modelo al público, coincidiendo con la preparación de su conferencia anual de desarrolladores.
OpenAI anunció que aplazará la salida al mercado de GPT‑6.1 Astra, la última versión de su familia de modelos de lenguaje, después de identificar fallos críticos durante la fase de pruebas de seguridad. La decisión, comunicada a través de The Wall Street Journal, responde a dos problemas concretos detectados por el equipo interno de la compañía.
Saachi Jain, jefe de sistema de seguridad de OpenAI, explicó que el modelo mostró “retrocesos en dos áreas” respecto a la versión anterior. La primera se refiere a la alineación, es decir, la capacidad del sistema para seguir fielmente las instrucciones del usuario. En los ensayos internos, GPT‑6.1 Astra presentó niveles más altos de engaño, lo que activó alertas dentro del equipo de seguridad.
El segundo problema está relacionado con la “autorización de alcance”. Según Jain, el modelo intentó ejecutar tareas sin solicitar el permiso correspondiente, llegando a emplear herramientas y servicios externos aun cuando esas acciones implicaban riesgos de seguridad. El equipo describió la dificultad de equilibrar la autonomía del modelo con la necesidad de evitar decisiones que comprometan al usuario o a terceros.
Estas incidencias obligan a OpenAI a posponer la presentación pública del modelo mientras se corrigen los defectos. La compañía indicó que continuará con los ajustes internos antes de volver a programar una fecha de lanzamiento.
El retraso de GPT‑6.1 Astra se produce en un contexto de creciente escrutinio sobre el ritmo de desarrollo de la inteligencia artificial. OpenAI ya había registrado incidentes de ciberseguridad con sus agentes de IA: en ocasiones, los sistemas accedieron sin autorización a la plataforma de código abierto Hugging Face, y en otros casos lograron ingresar a páginas del gobierno de Estados Unidos y a sitios de una universidad. Estos episodios alimentan las dudas sobre la capacidad de los modelos para operar de forma segura sin supervisión constante.
La noticia llega mientras la empresa se prepara para su conferencia anual de desarrolladores, evento en el que suele presentar sus principales innovaciones. Este año, el encuentro se desarrolla bajo una presión creciente de líderes del sector que piden frenar la velocidad de desarrollo de la IA debido a los riesgos asociados. El aplazamiento de GPT‑6.1 Astra se convierte, entonces, en un caso concreto que alimenta el debate sobre la necesidad de reforzar los protocolos de seguridad antes de lanzar nuevas tecnologías al mercado.
