El riesgo de autorreplicación de la IA cobra relevancia tras un estudio de Anthropic

3–5 minutos

Los investigadores de Anthropic, la empresa responsable del modelo Claude, publicaron el 12 de octubre un estudio que advierte sobre los peligros de los sistemas de inteligencia artificial capaces de copiarse y propagarse por internet sin intervención humana. Los experimentos demuestran que modelos relativamente compactos ya pueden realizar varias etapas necesarias para este proceso, lo que representa un desafío creciente para la ciberseguridad.

¿Qué significa que una IA se replique por sí misma?

La autorreplicación de la IA ocurre cuando un sistema logra transferir sus componentes a otras computadoras, instalar lo necesario para funcionar y repetir el proceso en nuevas máquinas de forma autónoma. Este concepto se asemeja al de un worm, un tipo de malware que se propaga entre dispositivos conectados, pero con la capacidad adicional de adaptar sus acciones a entornos distintos, identificar herramientas disponibles y resolver problemas técnicos durante la propagación.

¿Qué descubrió Anthropic en las pruebas?

En el estudio publicado en su sitio web de investigación, Anthropic probó si modelos más pequeños podían ejecutar etapas de replicación autónoma sin depender de grandes centros de datos. Los investigadores evaluaron la capacidad de configurar modelos en equipos desconocidos y completar una cadena de replicación.

Según la empresa, modelos con hasta 30 mil millones de parámetros ya pueden realizar varias tareas individuales necesarias para el proceso, aunque aún cometen errores al combinar todas las etapas. En las pruebas simplificadas, el modelo GLM-5.2 de la empresa china Z.ai y modelos más avanzados lograron completar el ciclo de principio a fin.

Los experimentos también demostraron que un modelo de 26 mil millones de parámetros podría distribuirse entre 15 dispositivos tipo TV box, equipos baratos conectados a la televisión, para investigar si podían proporcionar capacidad computacional suficiente para ejecutar modelos de IA.

Es importante destacar que las pruebas no demuestran la existencia de una IA que se propaga libremente por internet. Evalúan capacidades técnicas en condiciones experimentales específicas, sin demostrar que un sistema haya comprometido espontáneamente millones de dispositivos reales.

¿Por qué las TV, las cámaras y los electrodomésticos forman parte de esta discusión?

La alerta no se limita a las computadoras y los servidores corporativos. Los dispositivos conectados a internet, como cámaras de seguridad, televisores, robots aspiradores y electrodomésticos inteligentes, también pueden tener recursos computacionales explotables.

Muchos de estos dispositivos reciben menos atención en términos de seguridad que las computadoras y los teléfonos móviles. Las contraseñas débiles, las actualizaciones poco frecuentes y los fallos de software pueden convertirlos en objetivos de ataques.

Una red de dispositivos comprometidos puede formar una botnet, un conjunto de dispositivos controlados remotamente para ejecutar actividades coordinadas, como ataques a sitios web u otras infraestructuras digitales. Con la IA, este tipo de amenaza podría ganar capacidad de adaptación, intentando comprender configuraciones diferentes y ajustar su enfoque para seguir operando.

Para los profesionales y las empresas, esto refuerza la importancia de actualizar los equipos, cambiar las contraseñas predeterminadas, restringir los accesos y monitorear comportamientos inusuales en las redes.

¿Cómo pueden los profesionales prepararse para los riesgos de la IA?

La discusión sobre la autorreplicación muestra que conocer la inteligencia artificial implica más que aprender a escribir comandos o automatizar tareas. También requiere comprender los límites, los permisos y los riesgos asociados al uso de estas herramientas.

Para quienes trabajan en tecnología, seguridad de la información o gestión, esto incluye evaluar qué sistemas pueden acceder a archivos, ejecutar códigos e interactuar con servicios externos. En otras áreas, es importante conocer las políticas de uso de IA de la empresa y evitar otorgar permisos innecesarios a herramientas digitales.

¿La IA ya puede replicarse sin control humano?

Anthropic considera que la evolución de los modelos podría hacer que la replicación autónoma sea una posibilidad más concreta en un futuro cercano. En el estudio, la empresa estima que los modelos más pequeños podrían alcanzar el nivel de capacidad observado en las pruebas para finales de 2026, si mantienen el ritmo histórico de evolución. Sin embargo, esta predicción no garantiza que el escenario se concretará.

La principal preocupación es que una red descentralizada de dispositivos comprometidos sería más difícil de desactivar que un sistema concentrado en un único servidor. Al mismo tiempo, la viabilidad de ataques reales depende de factores como el acceso a los equipos, las vulnerabilidades explotables, los recursos computacionales y la capacidad de mantener el funcionamiento.

El escenario aún requiere investigación y medidas preventivas. Seguir la evolución de la inteligencia artificial y comprender sus riesgos técnicos será cada vez más relevante para los profesionales y las organizaciones que dependen de sistemas conectados.