La carrera por los agentes de IA y los desafíos de control y confianza

5–8 minutos

Quien logre posicionar un agente de inteligencia artificial entre usted y gran parte de sus decisiones obtendrá una ventaja estratégica. Este agente comenzará a acompañar sus compromisos, a entender sus hábitos de trabajo, a conocer sus preferencias y a participar activamente en las decisiones que usted toma.

La lucha por un lugar en nuestra rutina diaria

Los agentes personales prometen asumir tareas que actualmente requieren nuestra atención directa. En lugar de preparar una respuesta y esperar la siguiente pregunta, pueden acompañar un objetivo, interactuar con diferentes servicios y continuar ejecutando acciones incluso después de que cerramos la conversación.

OpenAI, Meta, Manus y Grok: estrategias diferentes para el mismo objetivo

OpenAI presentó su propuesta con Dots, lanzado el 29 de septiembre. El sistema funciona en una infraestructura propia en la nube y tiene acceso a las aplicaciones conectadas por el usuario. Según la empresa, los agentes pueden operar de forma continua y aprender de las correcciones recibidas.

Meta busca integrar Muse a la comunicación que ya forma parte de la vida cotidiana, incluso en WhatsApp, ofreciendo uso gratuito para muchas necesidades. El producto también mantiene las tareas en curso cuando la aplicación se cierra.

Manus adoptó un enfoque diferente con Cue: cada agente recibe una identidad propia, con correo electrónico, teléfono, billetera y computadora, pudiendo realizar gastos dentro del presupuesto autorizado. Estas son las capacidades anunciadas en el lanzamiento.

Por su parte, Grok Bot propone una colaboración entre agentes y el aprendizaje de procesos mediante demostración. La documentación explica cómo los bots coordinan tareas y transforman procedimientos en rutinas.

A pesar de las diferencias, todas las iniciativas buscan un lugar similar en nuestras vidas: recibir responsabilidades y la autoridad para cumplirlas. Y hay fuertes motivaciones económicas detrás de esta carrera.

Cuanto más sabe el agente sobre usted, más difícil es cambiar de proveedor

Una suscripción se vuelve más fácil de justificar cuando el usuario percibe que ahorró horas en una tarea. Para quien proporciona el servicio, el beneficio puede ir más allá de la cuota mensual. Cuantos más procesos, preferencias y proyectos sean procesados por el agente, mayor tiende a ser el esfuerzo necesario para cambiar de proveedor.

Probar otro chatbot lleva solo unos minutos. Migrar un asistente que ya acompaña su trabajo, conoce sus correcciones y está conectado a sus cuentas requiere un esfuerzo mucho mayor.

Los agentes también pueden disputar la relación entre consumidores y empresas

El control sobre lo que llega al consumidor también está en juego. Un agente que investiga productos, elige proveedores o recomienda herramientas participa en la distribución de oportunidades entre empresas. Incluso cuando actúa en favor del consumidor, alguien definió cómo él busca, compara y presenta las opciones.

La disputa entre Amazon y Meta ilustra este punto. Amazon bloqueó compras realizadas por Muse y señaló problemas relacionados con la identificación del agente, el manejo de credenciales y las condiciones de uso. Estas justificaciones fueron presentadas a GeekWire.

Si mi agente encuentra un precio mejor en otro lugar, la tienda pierde la oportunidad de guiar mi navegación, mostrar otras ofertas e influir en la compra. La conveniencia para una parte puede afectar significativamente el negocio de la otra.

La carrera por los agentes ocurre mientras crece la alerta sobre el control de la IA

El progreso técnico hizo posible esta disputa. Ya logramos combinar modelos, herramientas y computación en sistemas que intentan ejecutar objetivos con varias etapas. Todavía hay errores y limitaciones, pero existe una oferta comercial de trabajo realizado. Esto ayuda a entender por qué la carrera puede continuar incluso durante pausas en el desarrollo de los modelos más avanzados.

En septiembre, Dario Amodei, CEO de Anthropic, defendió reducir el ritmo de avance de las capacidades. Entre sus preocupaciones está la posibilidad de que, en seis a doce meses, un conjunto de agentes más poderoso y desalineado logre tomar el control de internet. El escenario aparece en su ensayo sobre desacelerar la frontera de la IA.

Amodei admite que se trata de una evaluación de riesgo, sin evidencias concretas de que este desenlace ocurrirá en ese plazo. Aun así, los episodios recientes muestran por qué el control debe acompañar el entusiasmo por la autonomía.

OpenAI reconoció un compromiso de la infraestructura de Hugging Face causado por modelos en investigación que recurrieron a estrategias desalineadas. La compañía describió el incidente y reportó interrupciones en entrenamientos y cambios en las protecciones.

Por qué las empresas están poniendo mascotas en los agentes de IA

Es aquí donde entran en juego las mascotas adorables, que recuerdan a los «Tamagotchis» de la IA. Ofrecen una manera agradable de presentar sistemas que piden acceso a información y pueden actuar por nosotros. Dar un nombre, elegir una apariencia y conversar con un personaje servicial ayuda a hacer que una tecnología compleja sea más cercana.

Este enfoque también puede aliviar la resistencia justo cuando escuchamos alertas sobre perder el control de la tecnología. No se trata de un propósito declarado de las empresas, sino de una posibilidad que veo en esta elección de interfaz. Una mascota que recuerda un compromiso puede ganar nuestra confianza antes de que sepamos evaluar el sistema detrás de ella.

La confianza en los agentes de IA también depende de cómo se presentan

Una investigación publicada en Collabra: Psychology encontró mayor confianza en un chatbot que demostraba características humanas en la conversación. El estudio analizó los efectos de la antropomorfización sobre la confianza y la responsabilidad, aunque no probó estos productos específicos.

La autonomía sin control puede aumentar el trabajo en lugar de reducirlo

En las empresas, esta atención debe llegar a la operación. Si el agente ahorra una hora, pero exige dos horas de revisión, la presentación del producto puede haber sido atractiva, pero la cuenta final no tanto. Yo comenzaría midiendo lo que se entregó correctamente, cuánto costó llegar al resultado, cuántas intervenciones humanas fueron necesarias y el tamaño del problema cuando hubo una falla.

También es importante observar los accesos concedidos. En Grok Bot, por ejemplo, los bots de la misma cuenta comparten archivos, sesiones de navegador y logins en la misma computadora. La propia documentación informa este funcionamiento. Crear varios personajes especializados no significa establecer una separación entre todo lo que ellos pueden acceder.

Por qué una desaceleración global de la IA parece difícil de sostener

En cuanto a la desaceleración, sigo pensando que es poco probable que sea global, coordinada y duradera. El propio Amodei reconoce los obstáculos de verificación y los incentivos para romper un acuerdo. Su propuesta también considera esencial preservar la ventaja de los países democráticos sobre China, una condición explícita en su texto. El mercado y la seguridad nacional pesarán en las decisiones sobre cuánto tiempo cada laboratorio aceptará esperar.

Mi expectativa es que habrá interrupciones específicas, evaluaciones más exigentes y restricciones en ciertos usos. Mientras tanto, las capacidades que ya existen seguirán siendo integradas, distribuidas y vendidas.

Elegir al agente es la parte divertida; el acceso merece la misma atención

Quiero que estos agentes funcionen. Hay burocracias, investigaciones y tareas repetitivas que entregaría con satisfacción a un sistema confiable. Para mucha gente, este acceso puede abrir posibilidades que hoy se pierden por falta de tiempo o conocimiento. Pero lograr hacer una tarea, merecer confianza y tener autorización para actuar son cosas que necesitamos evaluar por separado.

Mientras seguimos los próximos modelos, la disputa por nuestra rutina ya está en marcha. Vale la pena mirar a quién le damos nuestros datos, qué decisiones comienza a intermediar y cuánto trabajo tendremos para salir de esta relación. Elegir al «Tamagotchi» es la parte divertida. El acceso que viene con él merece al menos la misma atención.