Un modelo de decisión devuelve una respuesta, no un párrafo
Los modelos de decisión son la mitad silenciosa de la IA en producción: la parte que etiqueta, enruta, puntúa y aprueba. Clef y Clef-Flash son la entrada de pesos abiertos de Cloudflare en esa categoría.
La definición, sin marketing
Un modelo de decisión está entrenado para asignar un estado y un esquema de preguntas tipadas a una distribución sobre las respuestas permitidas. Le das la situación y la lista de respuestas que estás dispuesto a aceptar; él te devuelve una probabilidad para cada una. No hay texto libre, así que no hay analizador sintáctico ni un prompt que pueda salirse del esquema.
Ese es un contrato distinto al de un modelo de lenguaje. Un modelo de lenguaje está optimizado para continuar texto de forma verosímil. Un modelo de decisión está optimizado para acertar en una elección acotada, con rapidez, y para decir cuán seguro está.
- Entrada: un estado (texto, JSON, imagen, fotogramas de vídeo) más preguntas tipadas con respuestas permitidas.
- Salida: una probabilidad por respuesta permitida, en una sola pasada.
- Sin chat, sin llamadas a herramientas y sin razonamiento oculto que analizar.
Por qué esto importa en producción
La mayoría de los sistemas reales no necesitan un párrafo. Necesitan una decisión de enrutamiento, una etiqueta de gravedad, un sí/no con un número de confianza o un veredicto de moderación que haya que poder defender a posteriori. Cuando obtienes eso de un modelo generativo, pagas por tokens que descartas y heredas un modo de fallo por análisis del texto.
Un modelo de decisión elimina esa clase de error por construcción: el conjunto de respuestas es fijo, así que el modo de fallo es «poca confianza en la opción equivocada» en lugar de «el modelo respondió con un ensayo y la expresión regular no lo detectó».
Dónde encajan los modelos de decisión junto a los LLM
Son complementarios, no sustitutos. El patrón habitual en producción es un modelo de lenguaje que entiende una solicitud abierta y un modelo de decisión detrás para las elecciones acotadas: qué herramienta llamar, si escalar o en qué cola encaja un ticket.
Clef-Flash es lo bastante rápido (unos 39 ms de mediana) para colocarse en línea dentro de ese bucle, que es lo que hace que el patrón sea práctico y no teórico.
Empieza con un estado y una pregunta
El playground de este sitio te permite pegar un estado, escribir una o dos preguntas tipadas y ver de inmediato la distribución de probabilidad. Normalmente eso basta para saber si tu problema es un problema de decisión o un problema de redacción.
Preguntas frecuentes
¿Qué es un modelo de decisión en una frase?
Un modelo que toma una situación y un conjunto fijo de respuestas permitidas y devuelve una probabilidad para cada respuesta, en lugar de generar texto.
¿Los modelos de decisión sustituyen a los LLM?
No. Sustituyen la parte frágil de un flujo con LLM: el paso en el que intentas extraer una decisión acotada de un texto generado.
¿Cuáles son los casos de uso típicos?
Enrutar a un agente hacia una herramienta, clasificar tickets de soporte, etiquetar imágenes, puntuar clientes potenciales, moderar contenido y cualquier puerta que deba decidir antes de que una persona vea la cola.
Sigue leyendo
Notas del modelo
Un correo corto cuando salga un nuevo modelo de decisión o cambie un benchmark. Sin spam, baja en un clic.