Harbor capta 10 millones de dólares para proteger a empresas contra riesgos de agentes de IA

3–5 minutos

La startup estadounidense Harbor recaudó 10 millones de dólares en una ronda inicial liderada por Base10 Partners, Abstract y 8VC. Su propuesta combina una plataforma de evaluación de riesgos de agentes de IA con un seguro que cubre pérdidas financieras cuando fallan los controles preventivos.

Del crédito al reembolso: por qué delegar decisiones a la IA es arriesgado

Un agente de inteligencia artificial puede aprobar un préstamo, devolver dinero o ejecutar un cobro. Cuando la decisión es errónea, el perjuicio recae sobre la empresa que implementó el sistema. Harbor se posiciona en este intervalo, ofreciendo una capa de protección entre la delegación de la tarea y la exposición financiera.

Evaluación de riesgos sin historial de siniestros

La fijación de precios de seguros depende tradicionalmente de datos sobre la frecuencia y magnitud de las pérdidas. Sin embargo, los agentes de IA aún no disponen de un historial de siniestros comparable al de actividades más antiguas. En lugar de esperar registros pasados, Harbor analiza directamente el funcionamiento del agente.

Los clientes proporcionan dos tipos de información: la arquitectura del modelo (herramientas, datos y permisos) y los registros de decisiones anteriores y acciones tomadas durante la operación. La empresa trabaja con un marco de 45 riesgos, desarrollado en colaboración con instituciones como el Stanford AI Safety Lab. Para cada aplicación, los riesgos relevantes se mapean y se dividen en modos de fallo posibles.

El análisis considera la frecuencia de errores observados en pruebas y en producción, el costo potencial de cada fallo, además de variables como permisos, límites de transacción y sector de actividad. Los resultados se comparan con una base de pruebas interna y con datos públicos, lo que orienta el valor de la prima del seguro.

Cuando el modelo, las herramientas o los datos se actualizan, Harbor reevalúa el agente y ajusta el precio según la nueva exposición. “Medimos al agente directamente. No puedes hacer eso con un empleado humano, pero sí con un agente”, explica Jesús Santos, cofundador de la empresa.

Intervención en tiempo real antes de la ejecución

La plataforma también inserta un punto de control entre la decisión del agente y su ejecución. En menos de 100 milisegundos, el sistema compara la acción propuesta con las reglas de la empresa, pudiendo bloquearla, permitir su continuación o remitirla a un responsable humano.

Por ejemplo, un banco que permite reembolsos automáticos pero exige aprobación humana para valores superiores a 5.000 dólares puede ver su política violada si el agente intenta devolver 7.200 dólares. La plataforma identifica la infracción antes del pago, bloquea la transacción y genera una justificación para su revisión.

En el contexto de Pix, donde las transferencias se completan en segundos, el intervalo entre la decisión y la acción es la ventana crítica para evitar errores repetidos miles de veces.

Qué cubre el seguro y quién asume el riesgo

La póliza ofrecida por Harbor incluye seis categorías de fallo: respuestas incorrectas o alucinaciones, acciones no autorizadas, sesgo y discriminación, incumplimiento de contratos, fuga de datos y violaciones de propiedad intelectual o difamación.

La cobertura abarca las pérdidas directas de la empresa, la responsabilidad civil ante terceros, los costos de defensa en procesos regulatorios y la respuesta a incidentes. Harbor realiza la fijación de precios y la suscripción, mientras que las aseguradoras asociadas proporcionan la capacidad financiera y asumen el riesgo.

“Ese es el propósito del seguro: debe pagar cuando la prevención falla”, afirma Santos al explicar que la protección sigue siendo válida incluso si los controles internos de la startup no funcionan.

Negociaciones con grandes bancos de América Latina

América Latina es una de las tres regiones estratégicas de Harbor, junto con Estados Unidos y Europa. La empresa mantiene conversaciones con tres de los cinco mayores bancos latinoamericanos, cuyos nombres no han sido revelados. El principal interés de las instituciones es el control en tiempo real, antes de que una acción se ejecute.

Entre las tareas que los bancos quieren automatizar están la aprobación de créditos, el aumento de límites, el cobro de deudas, los pagos, las transferencias y las decisiones sobre indemnizaciones. El desafío, según Santos, es explicar a los consejos, reguladores y aseguradoras cómo actuar cuando el agente se equivoca.

Preguntas frecuentes

  • ¿Qué hace Harbor? Ofrece una plataforma para evaluar riesgos de agentes de IA, intervenir en decisiones antes de su ejecución y estructurar un seguro para las pérdidas cubiertas.
  • ¿Cuánto dinero recaudó la empresa? 10 millones de dólares en una ronda inicial con Base10 Partners, Abstract y 8VC.
  • ¿Cómo calcula Harbor el precio del seguro? Analiza la arquitectura y los registros del agente, estima la frecuencia y el costo de los fallos y compara los resultados con su base de pruebas.
  • ¿Quién asume el riesgo financiero de las pólizas? Harbor realiza la fijación de precios y la suscripción; las aseguradoras asociadas asumen el riesgo financiero.
  • ¿Tiene Harbor clientes en Brasil? La empresa negocia con tres de los cinco mayores bancos de América Latina, pero no confirma clientes pagadores en el país.