Anthropic mantiene el desarrollo de Claude y refuerza su compromiso con la seguridad

7–11 minutos

La alerta que sacudió al sector de la inteligencia artificial

En septiembre, la empresa responsable de Claude, Anthropic, acaparó la atención mediática cuando un investigador de 27 años abandonó la compañía advirtiendo que la tecnología que ayudaba a construir podría poner en peligro la supervivencia de la humanidad. Jacob Coxon, quien también trabajó en OpenAI, acusó a ambos laboratorios de avanzar de manera irresponsable hacia sistemas capaces de mejorarse a sí mismos, un proceso conocido como auto-mejora recursiva.

El CEO aboga por una desaceleración, pero los lanzamientos continúan

Durante ese mismo mes, el CEO y cofundador Dario Amodei defendió la necesidad de desacelerar el desarrollo de los modelos más avanzados para que las medidas de seguridad pudieran mantenerse al día con sus capacidades. Incluso mencionó la posibilidad de una pausa coordinada entre países, aunque reconoció la dificultad de implementarla en el corto plazo.

A pesar de este llamamiento, el 9 de noviembre, Anthropic lanzó nuevas versiones de sus modelos más avanzados, Fable y Mythos, con mejoras en programación, razonamiento e interpretación de imágenes. Estos lanzamientos renuevan una pregunta que la solicitud de desaceleración dejó sin respuesta: ¿cómo se verá afectado el desarrollo de Claude cuando la propia empresa considera necesario frenar el avance de la tecnología?

Amodei reitera su compromiso durante la apertura de capital

En un discurso pronunciado el jueves 19 durante la apertura de capital de la empresa, Amodei reiteró su compromiso de controlar el ritmo de trabajo y prometió dedicar el tiempo necesario a la formación y a la implementación de los sistemas para garantizar que sigan siendo seguros y estén bajo control humano. «No cederemos a la presión comercial ni a la política», afirmó, en una traducción libre.

Estas declaraciones no significan que la empresa haya abandonado la idea de desacelerar. En el ensayo de septiembre, Amodei ya diferenciaba la defensa de un ritmo más cauteloso de la propuesta de interrumpir todo el entrenamiento.

Aún no está claro cómo este compromiso modificará los productos, ya sea mediante evaluaciones prolongadas, restricciones de capacidades o el aplazamiento de la llegada de los modelos a los usuarios.

El próximo Claude tiene que hacer más que responder mejor

Los modelos ya se utilizan en tareas que requieren la interpretación de información y la resolución de problemas técnicos. Al anunciar el Fable 5.2 y el Mythos 5.2, Anthropic destacó avances en programación, razonamiento y lectura de imágenes, además de respuestas hasta un 30 % más rápidas y una reducción del 20 % en el precio estándar de la API en comparación con las versiones 5.1.

Según la empresa, Fable y Mythos comparten la misma base, pero tienen configuraciones distintas. Fable llega al mercado con clasificadores que bloquean solicitudes de alto riesgo en ciberseguridad y biología, mientras que Mythos opera sin parte de estas restricciones. El nuevo precio es de 8 dólares por millón de tokens de entrada y 40 dólares por millón de tokens de salida.

Estas cifras son el resultado de pruebas internas y de las condiciones comerciales de la empresa. No garantizan que todos los proyectos serán un 30 % más rápidos o un 20 % más baratos, ya que el resultado depende de la tarea, del volumen de uso y de la forma de integración del modelo.

Para los desarrolladores de software, el valor de un sistema más capaz puede radicar en resolver problemas complejos y multietapa. Para los analistas de documentos o imágenes, el valor puede estar en interpretar correctamente relaciones que antes requerían varias correcciones.

La propia Anthropic utiliza a Claude como escaparate. La empresa afirma que el 90 % del código que produce hoy en día ya está escrito por modelos Claude. En las pruebas previas al lanzamiento, las nuevas versiones migraron sistemas de software, diseñaron dispositivos y formalizaron demostraciones matemáticas.

Con este tipo de uso, ya no basta con evaluar si una respuesta parece convincente. Cuanto más responsabilidad transfiera el usuario al sistema, más importante será verificar si ejecuta la tarea correctamente y respeta los límites establecidos.

La ciencia como motivación para seguir avanzando

Amodei comenzó su discurso con una historia personal que ayuda a explicar su confianza en la tecnología. Él y su hermana, Daniela, perdieron a su padre por una enfermedad que se volvió curable pocos años después. Antes de trabajar con IA, el ejecutivo investigó biología y experimentó las dificultades de comprender las enfermedades y desarrollar tratamientos.

En su opinión, los sistemas más capaces pueden ampliar el trabajo de los científicos y acelerar los descubrimientos, concentrando potencialmente un siglo de progreso científico y médico en una década, con humanos y máquinas colaborando.

Se trata de una apuesta, no de un resultado garantizado. El propio ejecutivo reconoció que los resultados aún son iniciales y que los experimentos y los ensayos clínicos seguirán requiriendo tiempo. Acelerar la formulación de una hipótesis no elimina la necesidad de demostrar que es correcta.

La ambición ayuda a explicar por qué Anthropic pretende seguir desarrollando los modelos a pesar de los riesgos reconocidos. El objetivo presentado por Amodei es ampliar la contribución de la empresa a los problemas científicos y técnicos, sin considerar el rendimiento actual como un límite.

No todas las capacidades tienen que llegar a todos los usuarios

La empresa ya diferencia las condiciones de acceso a sus herramientas. Mientras que el Fable 5.2 fue anunciado para planes de pago elegibles de Claude, API y plataformas de nube asociadas, el acceso directo al Mythos 5.2 se limitó a organizaciones verificadas, como participantes en programas de ciberseguridad y ciencias de la vida.

Esta separación ilustra una forma de gestionar el progreso: la decisión sobre un producto no se reduce a lanzarlo o abandonarlo. Puede implicar seleccionar usuarios, limitar permisos y supervisar actividades antes de ampliar la distribución.

El compromiso de Amodei también diferencia la continuidad de la investigación de la liberación inmediata de una capacidad. Un laboratorio puede desarrollar un sistema y aún necesitar evaluar qué protecciones serán necesarias para ponerlo en uso.

Estas restricciones no demuestran por sí solas que el producto sea seguro. Para evaluar su eficacia, es necesario entender qué comportamientos se pretende impedir, cómo se prueban y qué ocurre cuando fallan.

Por qué un Claude más capaz requiere pruebas diferentes

En un documento publicado el 13 de noviembre, Anthropic explica que las evaluaciones de seguridad ayudan a decidir si un modelo está listo para ser puesto a disposición, qué protecciones deben acompañarlo y qué necesita ser mejorado en el entrenamiento.

La compañía reconoce que estas pruebas tienen limitaciones. Los resultados pueden variar según la formulación de las preguntas, el formato de las respuestas e incluso el orden de las alternativas. La afirmación de que una generación es más segura que la anterior depende, por tanto, de la calidad de las evaluaciones utilizadas en la comparación.

La tarea se vuelve más compleja cuando el modelo utiliza herramientas y ejecuta acciones. Además de examinar la respuesta final, es necesario seguir el proceso, los recursos accedidos y las decisiones tomadas para cumplir la solicitud.

La propia Anthropic informó de problemas en este ámbito. En agosto, detalló cambios tras incidentes de acceso no autorizado a sistemas reales durante evaluaciones de ciberseguridad. Según la compañía, los modelos operaban intencionalmente sin ciertas salvaguardas, y una configuración incorrecta en un entorno de terceros permitió el acceso a internet.

Como ocurrieron en estas condiciones específicas, los episodios no pueden considerarse como un comportamiento típico de Claude en el uso cotidiano. Sin embargo, muestran que controlar un producto requiere observar tanto el modelo como los permisos y el entorno en el que funciona.

El desafío es transformar la seguridad en decisiones de producto

Una de las iniciativas de Anthropic para ampliar esta supervisión es la asociación anunciada en septiembre con Accenture, liderada por Faculty. La propuesta incluye evaluaciones de modelos, pruebas de protecciones y red teaming, nombre que se da a los intentos deliberados de encontrar fallos en un sistema.

El diseño prevé evaluadores dentro de las empresas de IA, con acceso comparable al de los empleados, para supervisar los entrenamientos y las decisiones de desarrollo. En el anuncio, Anthropic reconoció que aún había cuestiones pendientes sobre el acceso a la información, la divulgación de resultados y la financiación de este trabajo.

La importancia de esta supervisión radica en la posibilidad de influir en el producto antes de su puesta a disposición. Una evaluación debe permitir identificar problemas y exigir ajustes, en lugar de limitarse a describir el comportamiento de un sistema que ya ha llegado al público.

Es en este punto donde la crítica de Coxon se encuentra con la promesa de Amodei. El ex investigador cuestiona si los laboratorios pueden controlar la tecnología a la velocidad a la que avanzan. El cofundador afirma que pretende seguir creando modelos más capaces, dedicando el tiempo necesario a la seguridad.

Para los usuarios, la diferencia debería aparecer en las condiciones de acceso, en las herramientas disponibles, en los límites de actuación y en la transparencia sobre los fallos. El próximo Claude será evaluado por lo que es capaz de hacer y por las pruebas de que la empresa sabe cuándo y cómo restringirlo.

Preguntas frecuentes

¿Va Anthropic a dejar de desarrollar Claude?

No. Dario Amodei reafirmó la intención de desarrollar modelos más potentes y prometió ajustar el ritmo de entrenamiento y disponibilidad al trabajo necesario para mantenerlos seguros y bajo control humano.

¿Tienen todos los modelos de Anthropic el mismo acceso?

No. La compañía ofrece productos en condiciones diferentes. El acceso directo al Mythos 5.2, por ejemplo, fue anunciado para organizaciones verificadas, mientras que el Fable 5.2 tiene una distribución más amplia en planes elegibles, API y nubes asociadas.

¿Quién es Jacob Coxon?

Es un investigador que trabajó en el preentrenamiento de modelos en OpenAI y Anthropic. A los 27 años, anunció su salida de Anthropic en septiembre de 2026 y criticó el ritmo de la carrera por sistemas más potentes.

¿Es un modelo con mejor rendimiento necesariamente más seguro?

No. Las evaluaciones de capacidad y de seguridad examinan aspectos diferentes. Un sistema puede mejorar en programación o razonamiento y aún así requerir nuevas protecciones y pruebas antes de ser puesto a disposición.