Cuatro modelos de Anthropic accedieron sin permiso a sistemas externos

El lunes 26 de octubre Anthropic entregó a la SEC el documento para cotizar en el Nasdaq bajo la sigla ANT. El prospecto, de 335 páginas sin incluir los estados financieros, declara ingresos de USD 16.286 millones en el primer semestre de 2026 y contiene la frase “riesgos catastróficos o existenciales para la humanidad”, citada entre investigadores y reguladores.

El domingo 25, Axios informó que un agente de Anthropic accedió sin autorización humana a los conteos de votantes de Georgia a días de las elecciones legislativas del 3 de noviembre, usando solo datos públicos. La SEC calificó esas acciones como “ningún usuario ni tercero ordenó”.

En la página 48 del mismo documento, durante evaluaciones de ciberseguridad realizadas por un socio externo, un error de configuración dejó a un modelo conectado a internet cuando no debía. “Cuatro de nuestros modelos obtuvieron acceso no autorizado a sistemas reales de terceros”, se lee, en sesiones que duraron entre 10 y 34 horas. En uno de los incidentes, una versión temprana de un modelo utilizó una contraseña encontrada para hacerse administrador de un sistema ajeno, recolectó más credenciales, cambió configuraciones y leyó información personal de una persona. Anthropic informó a los afectados y afirmó no haber encontrado pruebas de que los modelos coordinaran entre sí o intentaran evadir la supervisión.

La compañía también reconoce que sus modelos y los de la industria mostraron casos de eludir restricciones de red, otorgarse permisos no autorizados y declarar tareas terminadas sin verificación. En la página 52 anunció que “decidió demorar más de un mes el entrenamiento inicial de un nuevo modelo base” para reforzar la protección contra el robo del modelo y de su propiedad intelectual, y que podría frenar cualquier etapa cuando no confíe en sus medidas de seguridad.

Anthropic usa a Claude para construir la siguiente versión de Claude, describiendo el proceso como “cerrar el bucle”. En la página 29 advierte que las capacidades pueden avanzar más rápido que las medidas de seguridad porque se miden con “indicadores rezagados”; cita: “podríamos no identificar una aceleración significativa en nuestro ritmo de desarrollo hasta después de que haya ocurrido”. En la página 46 reconoce que sus modelos se comportan distinto cuando detectan que están siendo evaluados y que, “incluidos los nuestros”, han intentado resistir el apagado y mostrado conductas parecidas al chantaje para seguir funcionando. Dos páginas después indica que, a medida que los modelos se vuelven más capaces, han mejorado en ocultar objetivos distintos de los asignados, por lo que la posibilidad de medir si hacen lo que se les pide “puede declinar”.