Verificar no es una ceremonia estadística: es entender qué se está midiendo, qué parte del pronóstico representa y qué decisión mejora. Esta guía explica los mecanismos clave (sesgo, detección de eventos, discriminación, calibración, skill frente a baseline) con ejemplos claros, especialmente en niebla y observación.
Este artículo forma parte del tema Verificación en WikiMeteo.es, donde reunimos conceptos y guías prácticas para entender mejor el tiempo y el clima.
Accesos directos:
- Si vas con prisa: mira “Idea clave en 30 segundos” y “Plantilla semanal”.
- Si te lían las métricas: ve a “Qué mide cada familia” y “Mitos”.
- Si trabajas con niebla: ve a “Ejemplos (niebla y observación)”.
- Relacionado:
observacion,niebla - Tags:
biasrocskill - Keywords:
AUCCRPSCSIclimatología
1. Qué es y por qué importa
Verificar es comparar pronóstico y observación con un diseño claro: variable, umbral (si es evento), ventana temporal y escala espacial. Importa porque separa impresión de evidencia y te dice qué ajustar: sesgo, umbrales, comunicación, o método.
2. Idea clave en 30 segundos
- En una frase: cada métrica mide un “mecanismo” distinto; si eliges la métrica equivocada, sacas la conclusión equivocada
- Señal típica: un pronóstico parece bueno en promedio, pero falla justo en lo que genera impacto
- Confusión común: pensar que AUC/ROC o una correlación alta equivalen a “pronóstico fiable”
3. Los mecanismos que solemos querer medir
- Sesgo (bias): si el pronóstico tiende a pasarse o quedarse corto sistemáticamente.
- Error típico (magnitud): cuánto te equivocas “en números” (temperatura, visibilidad, etc.).
- Detección de eventos: si capturas el evento (niebla sí/no, lluvia intensa sí/no) y cuánto falsas alarmas generas.
- Discriminación: si el método sabe separar situaciones con más riesgo de menos riesgo.
- Calibración: si tus probabilidades significan lo que dicen (p. ej., 30% ocurre ~3 de cada 10).
- Valor añadido (skill): si mejoras a una referencia simple (baseline) como climatología o persistencia.
4. Qué mide cada familia de métricas (en cristiano)
- Bias: “me paso / me quedo corto” (mecanismo: error sistemático).
- CSI (o amenaza): balance simple entre aciertos, fallos y falsas alarmas para un evento (mecanismo: detección útil).
- AUC/ROC: “ordeno bien el riesgo” (mecanismo: discriminación), pero no dice si la probabilidad es correcta.
- CRPS: calidad de una predicción probabilística o de distribución (mecanismo: distancia entre lo que pronosticas y lo que ocurrió, considerando incertidumbre).
- Skill score: “¿soy mejor que un baseline?” (mecanismo: valor añadido real).
5. Baseline: la pieza que evita autoengaños
Sin baseline, es fácil celebrar un “buen score” que en realidad no mejora nada. Dos baselines típicos:
- Climatología: lo esperable por época/lugar (especialmente útil en eventos raros o estacionales).
- Persistencia: “mañana parecido a hoy” (útil en niebla, visibilidad, viento débil, etc.).
6. Ejemplos (niebla y observación): por qué los mecanismos importan
- Niebla (evento sí/no): puedes tener POD alto (detectas muchas) pero FAR alto (falsas nieblas). El mecanismo a corregir no es “detecta” sino “sobreactiva”.
- Niebla (probabilidades): puedes discriminar bien (ROC alto) pero estar sobreconfiado: dices 70% y ocurre 40–50%. Falta calibración.
- Observación: una estación con mal emplazamiento puede “inventar” sesgo. Si la observación no es representativa, el diagnóstico del mecanismo se estropea.
7. Mitos típicos (y cómo romperlos)
- Mito: “AUC alta = pronóstico perfecto”. Realidad: AUC mide discriminación; puedes discriminar y aun así estar mal calibrado.
- Mito: “Un CSI bueno significa que ya está”. Realidad: CSI depende del umbral; sin FAR/POD y sin baseline, puedes engañarte.
- Mito: “Si tengo bias ~0, todo bien”. Realidad: puedes tener bias cero y errores grandes por dispersión o timing.
8. Plantilla de verificación semanal (simple y útil)
Objetivo: 15–25 minutos cada semana para no perder el hilo y detectar problemas temprano.
- Elige 1–2 variables objetivo: p. ej., visibilidad (niebla) y lluvia intensa.
- Define evento y ventana: niebla = vis<1000 m (o umbral local) durante 06–10; lluvia intensa = >40 mm/24h.
- Define baseline: persistencia (niebla) y climatología (lluvia intensa).
- Métricas mínimas: bias (si aplica), POD+FAR+CSI (evento), y si hay probabilidades: una comprobación de fiabilidad básica.
- Revisa 2 casos: uno acierto y uno fallo (anota “tipo de fallo”: sesgo, desplazamiento, timing, calibración).
- Acción: una mejora concreta (umbral, comunicación, calibración, escala) y anótala.
| Semana | Evento | Baseline | POD | FAR | CSI | Nota |
|---|---|---|---|---|---|---|
| W01 | Niebla | Persistencia | … | … | … | Tipo de fallo dominante |
| W01 | Lluvia intensa | Climatología | … | … | … | Umbral/escala |
Gráfico simple recomendado: una línea semanal de CSI (o skill vs baseline) y, al lado, barras de FAR. Con eso detectas rápido si mejoras “a costa” de falsas alarmas.
9. Errores comunes
- Comparar semanas con distinto régimen sin anotarlo (niebla radiativa vs advectiva).
- Quedarte con una sola métrica (p. ej., CSI) sin mirar POD/FAR.
- No fijar baseline y celebrar números que no añaden valor.
- Ignorar calidad/representatividad de la observación (especialmente en niebla).
10. Buenas prácticas
- Define antes de medir: evento, umbral, ventana, escala.
- Mide mecanismo: sesgo, detección, discriminación, calibración, skill.
- Usa baseline: sin baseline no hay “valor añadido”.
- Acaba en acción: una mejora concreta cada ciclo.
11. Mini-glosario
- Bias: tendencia sistemática a sobre/infraestimar
- CSI: amenaza; balance de aciertos/fallos/falsas alarmas para un evento
- ROC/AUC: discriminación de un sistema probabilístico
- Calibración: probabilidades que coinciden con frecuencias
- CRPS: score probabilístico para una distribución
- Baseline: referencia simple (climatología/persistencia)
12. Referencias y lecturas recomendadas
- WMO: guías y glosarios de verificación y probabilístico
- NOAA: recursos educativos y materiales de verificación
- AEMET: documentación y recursos de predicción/verificación (cuando aplique)