TypeSafe AI presenta Jev, un modelo de IA para la toma de decisiones estructuradas, y critica el enfoque de los chatbots tradicionales

3–5 minutos

Diogo Almeida, exinvestigador de OpenAI que contribuyó al desarrollo de las técnicas detrás de ChatGPT, lanzó el lunes 15 su nueva startup, TypeSafe AI. La empresa salió de su fase de operación en secreto con una ronda inicial de financiación de 40 millones de dólares, liderada por DCVC, y presentó su primer producto público: Jev, un modelo diseñado para tomar decisiones estructuradas sin generar texto libre.

Almeida, graduado del Instituto de Tecnología de Georgia y exmiembro de Google Brain, trabajó durante una década en OpenAI. Su nombre aparece en el artículo técnico de GPT‑4 como coautor de las contribuciones fundamentales de aprendizaje por refuerzo con retroalimentación humana (RLHF) y de InstructGPT, técnicas que sustentan hoy la mayoría de los grandes chatbots, incluidos ChatGPT y Claude.

Por qué un exingeniero de OpenAI critica ahora su propia creación

En entrevistas recientes, Almeida afirma que el método RLHF, al entrenar modelos para complacer a los humanos, los llevó a priorizar respuestas plausibles, incluso cuando no son confiables, creando un comportamiento de «alucinación». Ilustra el problema con un ejemplo en el que ChatGPT elogió una grabación de audio de un pedo como si fuera música.

Tras dejar OpenAI en 2024, Almeida pasó dos años construyendo TypeSafe AI junto a los cofundadores Erik Gafni y Sasha Sheng, exinvestigadora de Meta/FAIR. El objetivo era desarrollar una IA que, en lugar de conversar, tomara decisiones autónomas y confiables dentro de sistemas de software.

Jev: un modelo que no conversa, sino que decide

Jev opera de manera diferente a los grandes modelos de lenguaje tradicionales. En lugar de producir texto token por token, responde a preguntas estructuradas —como elecciones, puntuaciones o probabilidades— procesadas simultáneamente. Un ejemplo de respuesta puede ser un objeto JSON con campos como {«facturación»: 0.08, «técnico»: 0.85, «ventas»: 0.07}, indicando directamente a qué cola de atención debe ser encaminado el caso.

La empresa bautiza este enfoque como «modelo System One», inspirado en la teoría de Daniel Kahneman sobre los dos sistemas de pensamiento humano. El modelo funciona como el «pensamiento automático» de un software, ofreciendo respuestas rápidas y breves, sin el razonamiento prolongado típico de un chatbot.

Sin alucinaciones y con confianza calibrada

Jev se entrena con una técnica llamada Refuerzo por Decisiones Calibradas (RLCD). En este método, la IA aprende a estimar con precisión la probabilidad de acierto de cada respuesta. Cuando el modelo afirma tener un 85 % de confianza, este número refleja la probabilidad real de acierto, a diferencia de los chatbots comunes que pueden parecer confiantes incluso cuando están equivocados.

El tiempo de respuesta varía entre 70 y 500 milisegundos, decenas a cientos de veces más rápido que los modelos de lenguaje tradicionales en tareas equivalentes. Como no genera texto libre, Jev no puede «alucinar» respuestas, eliminando un problema que persigue a Almeida desde su época en OpenAI.

El nombre del modelo rinde homenaje al economista William Stanley Jevons, recordando que los avances en eficiencia tienden a aumentar la demanda de una tecnología, y no a reducirla.

Un llamado a la próxima ola de automatización

Almeida describe a Jev como una «llamada de función de inteligencia de frontera», donde una entrada no estructurada genera una decisión probabilística y tipada. Cuestiona si el mercado aceptará la idea de que la automatización futura de la IA depende menos de conversaciones fluidas y más de modelos que, intencionalmente, no desean charlar.

Preguntas frecuentes

¿Qué es TypeSafe AI? TypeSafe AI es una startup fundada por Diogo Almeida, Erik Gafni y Sasha Sheng tras su salida de OpenAI en 2024. La empresa anunció una ronda inicial de financiación de 40 millones de dólares liderada por DCVC y lanzó el modelo Jev.

¿Quién es Diogo Almeida? Investigador de IA con experiencia en Google Brain y OpenAI, coautor de contribuciones técnicas de GPT‑4, RLHF e InstructGPT, fundamentales para chatbots como ChatGPT y Claude.

¿Cuál es la crítica de Almeida al RLHF? Argumenta que el RLHF enseñó a los modelos a priorizar respuestas bien evaluadas por humanos, incluso cuando no son confiables, llevándolos a preferir respuestas plausibles e inventadas en lugar de admitir ignorancia.

¿Cómo funciona Jev? El modelo responde a consultas estructuradas con elecciones, puntuaciones o probabilidades procesadas en paralelo, sin generar texto corrido, y se clasifica como un «modelo System One».

¿Qué es el Refuerzo por Decisiones Calibradas? El RLCD es una técnica de entrenamiento que hace que la IA estime con precisión la probabilidad de acierto de cada respuesta, garantizando que la confianza declarada corresponda a la probabilidad real.

¿Por qué Jev no alucina? Porque no genera texto libre y limita sus salidas a formatos estructurados, además de tener un tiempo de respuesta rápido, el modelo evita las alucinaciones.