Slash AI Lab

Fine-tuning vs RAG: el criterio

Por defecto: RAG si el conocimiento debe estar al día y las citas importan. Fine-tune cuando el estilo, el idioma o una skill estrecha no caben en el contexto. Híbrido cuando ambas cosas son ciertas.

Por defecto RAGCuando toca AdaptersRegla Restricciones > recetas
En resumen

Fine-tuning y RAG no compiten: resuelven problemas distintos. Este es el orden de decisión que usamos antes de gastar un peso en training.

La regla por defecto

RAG primero, casi siempre

Conocimiento cambiante + citas exigibles = RAG.

Si tu conocimiento cambia (catálogos, políticas, documentación) o tus respuestas deben poder citarse, RAG es la respuesta por defecto: indexación, re-ranking y citas verificables, sin toucher al modelo.

El RAG falla cuando el problema no es conocimiento sino forma: tono, formato o una tarea estrecha que el modelo genérico no ejecuta con la calidad que exiges. Ahí entra el fine-tuning.

Cuándo fine-tune

Fine-tune con propósito

Adapters LoRA para forma, no para saber.

El fine-tuning gana cuando necesitas que el modelo hable, formatee o ejecute como tu organización: estilo editorial, estructuras de salida fijas, dominio estrecho con reglas estables.

En Slash usamos adapters LoRA para esa capa — no reentrenamos el mundo. El coste baja, la reversión es posible y el conocimiento sigue viviendo en RAG, donde puede actualizarse.

Híbrido

El híbrido, cuando ambas cosas son ciertas

Adapters para forma + RAG para dato.

Cuando el estilo debe ser tuyo y el conocimiento debe estar al día, el híbrido gana: adapters para la forma, RAG para el dato. Es la configuración más común en producción de Slash — y la más barata de mantener.

Cómo decidir

El orden de decisión

Cuatro preguntas antes de pagar un training.

Antes de fine-tunear, responde por escrito: ¿el problema es conocimiento o forma? ¿Tus datos cambian a diario o son estables? ¿Las citas son exigibles? ¿El cumplimiento exige tener el conocimiento en casa? La respuesta define la ruta; el resto es lucro de consultores.

Lo esencial

  • RAG por defecto: conocimiento cambiante y citas exigibles.
  • Fine-tuning solo para forma: estilo, formato, tareas estrechas.
  • El híbrido cuando ambas cosas son ciertas.
  • Nada se decide sin un baseline medido.
  • Inferencia local si el cumplimiento lo exige.
Preguntas frecuentes

Las preguntas que escuchamos a menudo

¿Cuándo NO conviene fine-tuning?

Cuando el problema es conocimiento faltante o cambiante: eso lo resuelve RAG con menos coste y riesgo.

¿Qué es un adapter LoRA?

Una capa pequeña entrenada sobre el modelo base para forma y tareas estrechas; barata, reversible y compatible con inferencia local.

¿Se puede combinar RAG y fine-tuning?

Sí, es lo habitual en producción: adapters para la forma, RAG para el dato con citas.

¿Cuánto cuesta un experimento?

Se acota por sprints; el diagnóstico define el tamaño. Escríbenos con tu caso.

¿Cómo evalúan el resultado?

Con un baseline del mejor modelo genérico y métricas comparables de calidad, coste y latencia.

Hablar con Slash

Pongámoslo en producción

Cuéntanos tu reto. Respondemos en menos de 24 horas con una primera lectura honesta: si podemos ayudarte, te diremos cómo; si no, te diremos quién puede.

Contesto personalmente. Sin formularios eternos ni respuestas automáticas.