Capstone — Fase 9: mejorar
Novena fase del Capstone: industrializar el aprendizaje. Cada edición del revisor es una etiqueta gratis y cada derivación un caso de estudio — el ciclo que los convierte en dataset v2, la escalera de mejoras costeada (prompt → ejemplos → fine-tuning, comprando la más barata que cierre el hueco), el A/B que la arquitectura regaló, y las evals vigilando que aprender no sea empeorar. El agente que mejora con su propia operación.
☰ Índice del contenido
La fase 8 dejó una observación al pasar que esta fase convierte en sistema: la tasa de edición bajó del 34% al 19% “porque los prompts aprendieron de las correcciones”. Eso fue artesanía — el equipo leyendo ediciones y ajustando a mano. La fase 9 la industrializa: el piloto produce señales de mejora como subproducto, y el proyecto que las cosecha con método mejora cada mes; el que no, se estanca en su versión de lanzamiento. Es el ciclo de vida de MLOps aplicado al agente — con la disciplina de comprar la mejora más barata que funcione.
La tesis de la fase
El ciclo tiene cuatro estaciones: cosechar el feedback operativo (la edición del revisor es una etiqueta gratis; la derivación evitable, un caso de estudio), curarlo en el dataset v2 con la disciplina de la fase 2, elegir la mejora por la escalera de costos — reescribir el prompt, sumar ejemplos, y solo si el hueco persiste, el fine-tuning que quedó opcional — y desplegarla por el camino de siempre: suite, gates, rollout gradual. Aprender no es un proyecto anual: es el bucle mensual del sistema — con las evals vigilando que mejorar aquí no sea empeorar allá.
Estación 1: cosechar (las señales ya existen)
El piloto emite cuatro señales de mejora sin que nadie las pida — la cosecha es cuestión de tubería, no de esfuerzo:
| Señal | Qué contiene | En qué se convierte |
|---|---|---|
| La edición del revisor | El borrador del agente + la versión enviada | El par (malo → bueno): la etiqueta de redacción más valiosa que existe |
| La re-clasificación | El humano movió el correo de categoría | Etiqueta de clasificación nueva, del mundo real |
| La derivación por baja confianza | Casos que el agente no se atrevió | El mapa de qué falta: ¿conocimiento (corpus) o capacidad (modelo)? |
| La pregunta sin fuente | El retrieval no encontró respuesta | El backlog de la base de conocimiento — huecos con frecuencia |
La cuarta señal merece su punto: buena parte de “mejorar el agente” resulta ser mejorar el corpus — las diez preguntas frecuentes sin documento que las responda valen más que cualquier ajuste de modelo, y el dueño de negocio de la fase 2 recibe ese backlog mensual con frecuencias. El agente también es un detector de huecos documentales — gratis.
Estación 2: curar (fase 2, segunda vuelta)
Las señales crudas pasan por el pipeline conocido — PII, dedup, y la cuarentena del eval intacta (nada del dataset de evaluación se toca: la fuga sigue vigilada) — hacia dos destinos: dataset_eval v2 (los casos nuevos del mundo real, especialmente los que el agente falló: el eval se endurece con la operación — versionado, con las métricas re-baselineadas al cambiar) y dataset_mejora v1 (los pares de edición y re-clasificaciones curados: por primera vez, un dataset de entrenamiento — por ahora, en la bodega con linaje).
Estación 3: la escalera de mejoras, costeada
Con el diagnóstico de la fase 8 (el hueco: “otro” sigue en 84%, la redacción de reclamos suaves edita al 25%) — la disciplina es subir la escalera desde abajo:
LA ESCALERA — COMPRAR LA MEJORA MÁS BARATA
1. PROMPT: reescribir con los patrones de
error a la vista (horas, gratis)
│ ¿cerró el hueco? → fin
▼ no
2. EJEMPLOS: los mejores pares del dataset
de mejora como few-shot por categoría
(un día; +tokens por correo — costear)
│ ¿cerró? → fin
▼ no
3. FINE-TUNING del clasificador (gama
económica) con dataset_mejora
(la opción que la fase 2 dejó lista:
semanas, costo de entrenamiento, y un
modelo propio que versionar y re-evaluar
— ft-04 en adelante)
│
▼
4. (no comprada: cambiar de gama en la
cascada — el A/B de abajo la evalúa
en paralelo, porque es configuración)
El resultado del proyecto, honesto: el peldaño 1 cerró la redacción de reclamos (la regla “no prometas plazos” tenía una hermana: “en reclamos suaves, valida la molestia antes de derivar”); el peldaño 2 subió “otro” a 88% y el acierto global a 93% — sobre los dos criterios de clasificación; el fine-tuning no se compró — y esa no-compra es una decisión de ingeniería tan digna como la contraria, tomada con la economía en la mano y el dataset listo en la bodega para el día que la escala la justifique.
Estación 4: desplegar la mejora (con el A/B que la arquitectura regaló)
Toda mejora vuelve por el camino único — suite con gates (incluido el dataset adversarial de la fase 6: la mejora que abre un hueco de seguridad no pasa), despliegue gradual por categoría (la infraestructura de ascensos de la fase 8, reutilizada: la mejora corre primero donde el muestreo la vigila), y — el regalo de la fase 3 — el A/B por configuración: como el routing es por gama y no por marca, comparar el modelo B contra el A en el nodo redactar es repartir tráfico entre dos perfiles y leer las métricas por rama. La pregunta “¿el modelo nuevo de gama económica ya clasifica tan bien como el medio?” se responde con datos cada trimestre — y es la palanca de costo que se opera, no se debate.
Ojo — mejorar también envejece: el bucle tiene su meta-vigilancia. Las mejoras de prompt se acumulan — y el prompt de 40 reglas contradictorias es una deuda conocida: cada trimestre se consolida (re-escribir desde los patrones vigentes, re-medir). Los ejemplos few-shot caducan — el caso de 2026 puede no representar 2027: se rotan con el dataset. Y la señal de fondo — la deriva que la distribución de la fase 8 vigila — puede exigir algo que ninguna escalera arregla: re-visitar el caso de negocio, porque el mundo cambió. El ciclo de mejora opera dentro del sistema; la Metodología sigue siendo dueña del si el sistema debe existir.
El entregable: el ciclo mensual operando — cosecha automática, curaduría con calendario, backlog documental al dueño, mejoras por la escalera con sus números — y el dataset de entrenamiento en la bodega: listo, versionado, esperando que la economía lo llame.
Errores comunes
- Dejar las ediciones en la bandeja. Cada corrección del revisor no cosechada es una etiqueta pagada y botada. La tubería de cosecha es la inversión con mejor retorno de la fase.
- Empezar por el fine-tuning. El peldaño 3 comprado antes de probar el 1 es la complejidad por prestigio — y el proyecto real cerró sus huecos en los peldaños 1-2. La escalera se sube desde abajo.
- Mejorar el modelo cuando el hueco era el corpus. La mitad de las derivaciones evitables eran preguntas sin documento. El backlog documental al dueño de negocio, antes de tocar prompts.
- Contaminar el eval con la mejora. Los pares de edición que entran al dataset de evaluación y al de mejora inflan todo. La cuarentena es sagrada — y el eval v2 se versiona con re-baseline explícito.
- Desplegar mejoras sin el dataset adversarial. La mejora de redacción que reabre el hueco de compromisos prohibidos es la regresión de seguridad clásica. Todos los gates, siempre — también para las buenas noticias.
- Acumular parches de prompt para siempre. Las 40 reglas superpuestas de un año de mejoras son el prompt que nadie entiende. Consolidación trimestral: re-escribir, re-medir, respirar.
La frase para llevarse
“El piloto paga sus propias mejoras: la edición es etiqueta, la derivación es diagnóstico, la pregunta sin fuente es backlog documental. Cúralas con la disciplina de siempre, sube la escalera desde el peldaño gratis, despliega por el camino único con todos los gates — y celebra la no-compra del fine-tuning como lo que es: ingeniería con la economía en la mano.”
Qué viene
Fase 10, el cierre: presentar. Las doce semanas terminan y el proyecto vuelve a donde empezó — el comité. El dossier de la Metodología actualizado con resultados reales (la columna “proyectado” contra la columna “medido”), las lecciones que solo la construcción enseña, la decisión siguiente (escalar, y con qué condiciones) — y el cierre del capstone: qué amarró de todo el catálogo, y el examen final para quien quiera rendirlo con su propio caso.
Material relacionado
Preguntas sobre este curso
Regístrate gratis para hacer preguntas y guardar tu progreso.
✉ Entérate de lo nuevo
Recibe un aviso cuando publique nuevos cursos, workshops o investigaciones. Sin spam.