Una API de moderación con IA donde tú escribes las reglas
Los clasificadores cerrados de toxicidad aplican categorías ajenas a tu producto. Clef-Flash evalúa publicaciones, metadatos JSON e imágenes frente a tus propios criterios y devuelve probabilidades calibradas.
La exportación funciona bien con CSV, falla con Parquet y quien diseñó el aviso de reintento claramente no lo probó ni una vez.
curl --fail-with-body https://clef-flash.com/api/v1/decisions \
-H "authorization: Bearer $CLEF_API_KEY" \
-H "content-type: application/json" \
--data-binary @- <<'CLEF_DECISION'
{
"model": "cloudflare/clef-flash",
"threshold": 0.9,
"state": "La exportación funciona bien con CSV, falla con Parquet y quien diseñó el aviso de reintento claramente no lo probó ni una vez.",
"questions": {
"violates_policy": {
"type": "noul",
"instructions": "Does this post break community rules on personal attacks, spam or off-platform payment fraud?",
"criteria": {
"true": "attacks an individual, promotes unsolicited links/codes, or solicits off-platform payment",
"false": "discusses the product, even harshly, without personal abuse, spam or payment diversion"
}
},
"policy_category": {
"type": "choice",
"instructions": "Which moderation bucket fits this post best?",
"criteria": {
"harassment": "personal attack or targeted insult against a person",
"spam": "affiliate code, referral link or repetitive promotion",
"scam": "off-platform payment request, phishing or escrow bypass",
"clean": "on-topic product criticism, question or feedback"
}
}
}
}
CLEF_DECISION
Pásalo a producción con una clave Pro de $19
2000 decisiones/día, 8 peticiones simultáneas en vuelo, estados de texto + JSON + imagen y clave enviada por correo en un minuto.
Por qué las taxonomías fijas fallan en comunidades reales
Cada marketplace, foro técnico o comunidad tiene normas que un detector genérico desconoce: desviar pagos fuera de la custodia, filtrar códigos de invitación, publicar spoilers en títulos o camuflar ataques personales dentro de reportes de errores. Las APIs cerradas te obligan a apilar expresiones regulares frágiles.
Con un modelo de decisión, tu política viaja en el campo criteria de cada llamada. Una pregunta noul calcula la probabilidad exacta de incumplimiento y una pregunta choice clasifica la categoría normativa en la misma pasada, sin ingeniería de prompts ni errores de parseo JSON.
Moderación en tres bandas: publicar, revisar o bloquear
Un veredicto binario fuerza un dilema costoso: si bajas el listón bloqueas a usuarios legítimos; si lo subes se cuela spam durante horas. Las probabilidades calibradas separan la puntuación del modelo de tus dos umbrales de negocio: un techo de publicación automática (p_allow) y un suelo de bloqueo (p_block).
Lo que cae por debajo de p_allow se publica al instante sin coste humano. Lo que iguala o supera p_block se rechaza automáticamente con motivo trazable. Solo la franja gris intermedia pasa a los moderadores, ya etiquetada con su categoría más probable.
- Por debajo de p_allow (por ejemplo < 0,35): publicación inmediata sin cola.
- Entre p_allow y p_block: revisión humana priorizada con categoría preasignada.
- En o sobre p_block (por ejemplo >= 0,90): bloqueo automático y registro del vector.
Enfoques de moderación comparados
Al incorporar codificador de visión nativo, las claves de pago pueden enviar texto, metadatos de cuenta (antigüedad, enlaces, historial) y hasta cuatro imágenes de 4 MiB en una sola llamada de hasta 24.576 tokens servidos (64K en la ficha del modelo; techo de 120.000 caracteres verificado antes de facturar).
| Enfoque | Reglas a medida | Contrato de salida | Estado multimodal | Coste @ 1M posts |
|---|---|---|---|---|
| API clásica de toxicidad | No — etiquetas fijas | Puntuaciones fijas | Solo texto casi siempre | Bajo, no detecta fraude propio |
| LLM de chat frontera | Sí, con prompt largo | Texto libre / JSON frágil | Sí, lento y costoso | ~$1.200+ entrada y salida |
| API de Decisión Clef-Flash | Sí, criteria por etiqueta | Probabilidades cerradas | Texto, JSON y 4 imágenes | ~$7,22 entrada ($0 salida) |
Privacidad, trazabilidad y códigos de rechazo predecibles
El contenido generado por usuarios suele incluir datos sensibles. Este despliegue registra únicamente contadores, modelo y latencia para tu cuota; nunca almacena el texto ni las imágenes del estado. Cada rechazo devuelve un código estable (como state_too_large, quota_exceeded o model_unavailable) con cabecera x-request-id y coste cero.
Preguntas frecuentes
¿Puede Clef-Flash moderar imágenes y texto juntos en una llamada?
Sí, con cualquier clave de pago (desde el plan Pro de $19). Tanto cloudflare/clef-flash como cloudflare/clef incluyen codificador de visión y aceptan hasta cuatro imágenes de 4 MiB junto con texto o JSON en una sola decisión.
¿Almacenáis o entrenáis con los comentarios enviados a la API?
No. El Worker contabiliza llamadas, tokens, latencia y códigos de estado por clave API; no guarda los textos ni las imágenes enviadas por tus usuarios.
¿Cuántas reglas de moderación puedo evaluar en la misma petición?
Hasta ocho preguntas tipadas por llamada, cada pregunta choice con entre dos y doce categorías y hasta 300 caracteres de criterio por etiqueta. Todas las preguntas de una llamada cuentan como una única decisión en tu cuota diaria.
¿Qué pasa si una publicación supera el límite de contexto?
Las claves de pago aplican un techo de 120.000 caracteres en cloudflare/clef-flash (dentro de sus 24.576 tokens servidos, frente a los 64K de la ficha) y responden 413 state_too_large antes de invocar al modelo, evitando truncamientos silenciosos o cargos imprevistos.
Sigue leyendo
- Ejemplo de moderación de comentarios
- Alternativas a Jev
- API de enrutamiento LLM
- API de clasificación con IA
- Precios y claves API
Notas del modelo
Un correo corto cuando salga un nuevo modelo de decisión o cambie un benchmark. Sin spam, baja en un clic.