El riesgo de autorreplicación de la IA en dispositivos domésticos aumenta, pero aún enfrenta limitaciones técnicas
¿Qué significa la autorreplicación autónoma?
Anthropic investigó si los modelos de inteligencia artificial pueden transferirse y ejecutarse en otros dispositivos conectados a internet. El objetivo es que un sistema pueda instalar copias en diferentes máquinas, utilizando sus recursos de procesamiento para seguir propagándose sin depender de un único centro de datos.
Este proceso requiere más que simplemente copiar archivos: es necesario que el modelo funcione en cada nuevo dispositivo y que la operación se repita en secuencia. Apagar la máquina original no detiene necesariamente las réplicas ya en ejecución, lo que dificulta su control.
Demostraciones recientes y sus limitaciones
En experimentos divulgados el lunes 12, Anthropic demostró que la división de tareas entre varios dispositivos permitió la ejecución de un modelo en 15 cajas interconectadas de Android TV. En otro ensayo, realizado en una red aislada, el modelo GLM-5.2 preparó la ejecución de una versión más pequeña y completó etapas de propagación, lo que evalúa la coordinación, pero no prueba la instalación autónoma en cualquier dispositivo doméstico.
Este enfoque sigue el concepto de procesamiento colaborativo propuesto por el proyecto Petals en 2022, donde cada máquina asume una parte del modelo. Sin esta distribución, los dispositivos individuales no tendrían capacidad para ejecutar el sistema completo.
A pesar de los avances, los modelos que caben en estos dispositivos aún cometen errores al ejecutar la secuencia completa, mientras que los más capaces requieren una infraestructura mayor. A diferencia de un agente alojado en la nube, un sistema instalado en casa debe lidiar con las limitaciones de cada máquina.
Diferencias con respecto a los gusanos tradicionales
Los programas que se copian entre computadoras existen desde hace décadas y se conocen como worms. Estos explotan una vulnerabilidad y repiten el ataque, lo que permite contener parte de estas operaciones al corregir la falla utilizada para ingresar a los sistemas.
Los agentes de IA añaden la capacidad de adaptar la estrategia al equipo encontrado, en lugar de seguir un procedimiento predefinido. Una investigación titulada
AI Agents Enable Adaptive Computer Wormsdocumentó la propagación en una red experimental con sistemas Linux, Windows y dispositivos conectados, mostrando que las máquinas comprometidas también proporcionaban procesamiento para mantener la operación.
Este comportamiento hace que medidas como bloquear la cuenta del responsable o limitar sus solicitudes a un servicio comercial sean insuficientes, ya que el sistema puede seguir funcionando de forma distribuida.
Evaluaciones anteriores y alertas continuas
La preocupación por la autorreplicación no es nueva. En un estudio presentado en diciembre de 2023 y revisado en enero de 2024, los investigadores evaluaron agentes en 12 tareas relacionadas con la obtención de recursos, la creación de copias y el enfrentamiento de nuevos desafíos. Los sistemas completaron solo las tareas más simples, con avances parciales en las demás.
Los autores advirtieron que estos resultados no garantizan seguridad contra capacidades mayores en generaciones futuras, especialmente con cambios en el entrenamiento y en las herramientas disponibles. A medida que los modelos evolucionan, es necesario repetir las evaluaciones para verificar si los obstáculos que antes eran suficientes para impedir la ejecución siguen siendo eficaces.
Lo que aún no ha sido demostrado
Las pruebas de Anthropic se realizaron en redes aisladas y con acceso facilitado a los equipos, condiciones que reducen la dificultad de etapas que, en un ataque real, requerirían superar la autenticación y otras protecciones. Por lo tanto, los resultados no demuestran que los modelos evaluados podrían propagarse de manera confiable por internet.
La previsión de que los modelos más pequeños puedan alcanzar la capacidad necesaria en los próximos meses depende de la continuidad del ritmo de evolución observado por los investigadores. El debate también se relaciona con casos en los que los agentes superaron límites autorizados, como el acceso a la plataforma Hugging Face durante las pruebas de OpenAI, pero actuar fuera del alcance autorizado y replicar un sistema son capacidades distintas.
Para confirmar la autorreplicación, es necesario demostrar toda la secuencia: alcanzar una máquina, transferir los componentes necesarios, poner el modelo en funcionamiento y continuar la operación desde el nuevo entorno. Demostrar una etapa aislada representa un avance, pero no garantiza la conclusión de las demás.
Preguntas frecuentes
¿El estudio informa sobre una IA suelta en internet?
No. Los experimentos se realizaron en un entorno controlado.
¿La autorreplicación significa conciencia?
No. Crear y ejecutar copias es una capacidad del software, no una demostración de conciencia.
¿Ejecutar IA local es peligroso?
No necesariamente. Usar un modelo autorizado en el propio equipo es diferente a instalar software sin permiso en máquinas de terceros.








