Los ejecutivos de Snowflake abogan por el uso estratégico de la IA para controlar costos y maximizar resultados

5–8 minutos

En una reciente conversación, los ejecutivos de Snowflake, Baris Gultekin y Bruno Barreto, defendieron que las empresas elijan modelos de inteligencia artificial en función de las tareas específicas y del retorno esperado. La idea es asignar la tecnología más sofisticada únicamente allí donde aporta un valor real, mientras que soluciones más simples pueden resolver otras etapas sin incrementar los gastos.

“El chef Michelin no es necesariamente la persona que va a cortar la cebolla”. La comparación de Bruno Barreto, vicepresidente de Snowflake para América Latina, ilustra la decisión que las empresas deben tomar al adoptar la IA: cuándo vale la pena invertir en una tecnología más avanzada y cuándo una alternativa más accesible satisface la demanda.

Barreto explica que la elección comienza con la división de un proceso en tareas distintas. Una etapa puede requerir un modelo capaz de analizar información compleja, mientras que otra puede resolverse con una opción más económica. El criterio es la capacidad necesaria para entregar el resultado con la calidad esperada.

Según el ejecutivo, el trabajo del chef y el de quien prepara los ingredientes forman parte de la misma entrega, pero requieren habilidades diferentes. Aplicar esta lógica a la IA significa evaluar dónde la sofisticación aporta valor y dónde solo aumenta los costos. La definición del modelo se convierte en una decisión sobre cómo distribuir los recursos a lo largo del proceso.

“No necesitamos aplicar el mismo modelo para todos los casos, para todos los agentes, para todas las necesidades”, afirma Barreto.

El costo va más allá de una respuesta

Parte de los gastos está relacionada con los tokens, unidades en las que los modelos dividen el contenido procesado y generado. En muchas aplicaciones accesibles mediante interfaces de programación (API), el cobro se basa en este volumen.

Un agente puede necesitar varias llamadas al modelo para consultar información, activar herramientas, evaluar lo que recibió y producir una respuesta. Por eso, el precio de una consulta aislada no refleja necesariamente el costo total para completar la tarea.

Gultekin define la relación entre capacidad y costo como “eficiencia de la inteligencia”. “¿Estás pagando el precio adecuado por la inteligencia que estás recibiendo?”, se pregunta el ejecutivo.

La elección debe considerar lo que el sistema debe hacer y qué nivel de rendimiento es necesario para esa aplicación. “Si una pregunta puede ser respondida por un modelo económico, la plataforma puede usar ese modelo más económico en lugar del más caro”, dice.

“Trabajamos con nuestros clientes para asegurarnos de que comiencen con un objetivo de negocio en mente y, a partir de ahí, construyan la IA de la manera más eficiente y económica posible para alcanzar ese resultado”, afirma Gultekin.

La división de tareas también permite distribuir los gastos. Barreto compara una cocina, donde profesionales con habilidades y costos diferentes preparan el mismo plato. En la IA, la elección de los modelos debe seguir una lógica similar.

Según el ejecutivo, esta elección puede incluir un modelo de código abierto más económico para determinadas aplicaciones, en lugar de recurrir siempre a los sistemas más avanzados. La propuesta es controlar los costos sin renunciar a la capacidad necesaria para cada tarea.

La plataforma de Snowflake ofrece herramientas para establecer presupuestos y dirigir solicitudes al modelo adecuado. Sin embargo, monitorear el consumo no significa interrumpirlo inmediatamente: la documentación de la empresa indica que ciertas verificaciones son periódicas, lo que permite superar un límite antes de ejecutar una acción de control.

Cuando el agente necesita llamar a una persona

Gultekin distingue las actividades que pueden beneficiarse de los modelos de lenguaje de aquellas que requieren una secuencia estrictamente repetible. La elección de la herramienta, afirma, debe considerar esta diferencia.

“Si quieres algo que sea siempre repetible, en todas las etapas, no necesariamente quieres usar un modelo de lenguaje para eso”, dice.

En decisiones sensibles, la supervisión humana puede formar parte del proceso. El ejecutivo explica que los resultados insuficientes en las evaluaciones de precisión son un motivo para remitir ciertas etapas a una persona.

Para Barreto, esta capacidad de supervisión es clave para ganar la confianza de los gestores. Las dudas incluyen respuestas inventadas por los modelos, la protección de los datos y el cumplimiento de las exigencias de los sectores regulados.

“¿Cómo hago para que esto no salga de nuestro entorno? ¿Estamos actuando conforme a lo que se debe dentro de una industria regulada?”, ejemplifica el ejecutivo al describir las preguntas de los clientes.

El resultado debe reflejarse en el negocio

Dentro de Snowflake, Gultekin menciona un agente desarrollado para apoyar al equipo comercial. La herramienta ayuda a los vendedores a preparar reuniones, seguir el uso de los productos por parte de los clientes y conocer mejor el portafolio.

“No se trata solo de hacerlos más productivos para que necesitemos menos vendedores. Es al revés: están siendo mucho más eficaces en lo que hacen”, afirma.

En Brasil, Barreto señala a Azul como ejemplo. Según él, la aerolínea utiliza datos para predecir el comportamiento de los clientes de fidelidad ante retrasos de vuelos y orientar la atención, con el objetivo de retener a estos pasajeros.

Los ejecutivos no presentaron porcentajes de aumento de ingresos de estos proyectos. Sin embargo, Barreto afirma que las conversaciones con los clientes pasaron de la experimentación a la cobranza por resultados.

La empresa también amplió su estructura para atender la demanda regional. Según Barreto, la operación en América Latina prácticamente se duplicó en alrededor de un año y medio y cuenta con poco más de 200 colaboradores entre Brasil, México, Colombia, Chile y Costa Rica.

Antes de los agentes, los datos

El camino hacia estos resultados comienza antes de elegir el modelo. Para Gultekin, poner ChatGPT o Claude a disposición de los empleados ofrece una herramienta de trabajo, pero no equivale a implementar agentes que comprendan el funcionamiento de la organización.

“El número de empresas que han implementado agentes más profundos, que realmente entienden el contexto y los datos de la compañía, sigue siendo bajo”, afirma.

La preparación exige más que reunir archivos o liberar el acceso a los sistemas. Es necesario explicar a la IA cómo la empresa define sus indicadores, qué reglas aplica a los cálculos y qué significan los términos utilizados por los equipos. Esta base de datos proporciona el contexto para interpretar las preguntas y producir respuestas útiles.

“Cada empresa mide los ingresos y las ganancias de manera diferente”, dice Gultekin. “Todas sus métricas deben ser descritas”.

Si los departamentos calculan un indicador de formas diferentes, el agente necesita saber qué definición aplicar. Tener acceso a los registros, por sí solo, no resuelve esta diferencia.

Barreto identifica esta brecha en las empresas que intentan avanzar hacia la IA sin completar la organización de la información. “Falta la base, la fundación para empezar esto”, afirma.

Luego vienen la selección de las aplicaciones, la capacitación de los equipos y el paso de las pruebas a la producción. “Primero, la base con una plataforma de datos robusta. Segundo, pasar de la experimentación a la producción”, dice Barreto.

Para Gultekin, este orden define el punto de partida. “No hay estrategia de IA sin una estrategia de datos”, afirma.