RAG o fine-tuning: qué decisión estás tomando
RAG (retrieval-augmented generation) recupera documentos relevantes y los pasa al modelo, mientras fine-tuning cambia sus pesos con ejemplos. Una técnica aporta contexto documental durante la respuesta y la otra ajusta el comportamiento aprendido con datos de entrenamiento.
Si tu documentación cambia, necesitas citar fuentes o quieres actualizar el conocimiento sin reentrenar el modelo cada vez, RAG es el punto de partida natural. Si la tarea es estable y exige un estilo o formato muy específico, fine-tuning puede encajar cuando aceptas el coste de entrenamiento y reentrenamiento.
La pregunta que ordena la decisión es qué parte del problema cambia con el tiempo: la información que el sistema consulta o la forma en que responde. Todo lo demás (costos, citas, mantenimiento) se desprende de esa respuesta.
Cuándo empezar con RAG
RAG suele ser una opción razonable cuando:
- la documentación se actualiza con frecuencia;
- la respuesta debe apoyarse en fuentes identificables;
- necesitas probar cambios pequeños y reversibles;
- el presupuesto y el tiempo de puesta en marcha importan.
Por ejemplo, un equipo que responde preguntas sobre un manual interno actualizado puede recuperar la versión relevante del documento antes de generar una respuesta. Si el manual cambia, se actualiza la fuente que se consulta. Eso no convierte automáticamente la respuesta en correcta: todavía hay que revisar qué documento se recuperó y si la respuesta lo interpreta bien. Puedes contrastar los conceptos de RAG y fine-tuning antes de diseñar la prueba.
Cuándo considerar fine-tuning
Fine-tuning puede ser más apropiado cuando la tarea es estable, tienes suficientes ejemplos representativos y el objetivo principal es mantener un estilo, formato o patrón de salida consistente.
No es una forma práctica de enseñarle al modelo el documento de esta semana si ese documento seguirá cambiando. Para información que debe mantenerse actualizada y citarse, conviene separar la recuperación de documentos del comportamiento del modelo.
Cuándo combinarlos, y en qué orden
Una arquitectura común usa RAG para el conocimiento que cambia y un ajuste ligero para el estilo de salida: los datos vienen de los documentos recuperados y el formato sale siempre igual. Funciona, pero tiene un orden. Primero haz que RAG responda bien con el modelo base. Si la evaluación muestra que el contenido es correcto y solo el formato falla de forma sistemática, recién ahí evalúa el ajuste. Pagar entrenamiento para un problema que era de recuperación es el gasto evitable más común en estos proyectos.
En costos, la regla es simple. RAG cuesta búsqueda, infraestructura liviana y revisión, y se actualiza editando documentos. Fine-tuning suma entrenamiento, evaluación rigurosa y reentrenamiento cada vez que la tarea cambia. Para presupuestos chicos y equipos sin personal de ML, RAG suele salir más barato de operar durante el primer año.
Un ejemplo ilustrativo
Imagina dos necesidades distintas:
- Responder preguntas sobre políticas que cambian cada mes. Aquí importa recuperar la versión vigente y mostrar la fuente correspondiente.
- Convertir solicitudes estables en un formato de salida muy concreto, con ejemplos aceptables y rechazados bien definidos. Aquí puede tener sentido evaluar un ajuste del comportamiento.
Son ejemplos ilustrativos, no resultados de una prueba propia. La elección final debe basarse en una muestra que puedas revisar.
Diagrama conceptual: RAG aporta contexto documental al responder; fine-tuning ajusta el comportamiento con ejemplos.
La prueba mínima antes de conectar datos reales
Empieza con un proceso pequeño, reversible y medible. Antes de conectar cuentas o información real, documenta qué entra, qué salida esperas, quién revisará el resultado y cómo detendrás o desharás una acción incorrecta.
Elige una tarea que puedas completar y revisar en menos de una hora. Retira datos personales, credenciales, contratos y cualquier información confidencial. Guarda una muestra del proceso actual para comparar. Después, ejecuta tres casos:
- uno normal;
- uno incompleto;
- uno que fuerce un límite.
Registra en una tabla el tiempo, las correcciones, los errores y la decisión final. La muestra no tiene que ser grande para ser útil, pero sí debe representar el tipo de trabajo que quieres automatizar.
| Caso | Qué miras | Señal de alerta |
|---|---|---|
| Normal | Respuesta útil con fuente correcta | Correcciones en cada salida |
| Incompleto | Pide lo que falta o trabaja con lo que hay | Inventa los datos faltantes |
| Límite | Admite que no encontró respuesta | Responde con seguridad sin fuente |
Si el caso límite inventa respuestas, tu problema es de instrucciones y evaluación, no de arquitectura. Ninguna técnica compensa un sistema que no sabe decir que no encontró la respuesta.
Criterios para decidir
Compara precisión, claridad, tiempo total y retrabajo. Una respuesta más rápida no es una mejora si exige más verificación o introduce errores difíciles de detectar.
Conserva la versión de la herramienta, la fecha y la fuente oficial consultada. Si dos personas revisarían la misma salida de forma distinta, define antes una rúbrica con ejemplos aceptables y rechazados. Esa rúbrica hace visible qué significa “mejor” antes de elegir una arquitectura.
El error caro
El error es fine-tunear para que el sistema memorice el documento de esta semana. Eso es trabajo de RAG cuando el problema principal es consultar documentación cambiante.
También es arriesgado decidir solo por una respuesta llamativa o por una prueba aislada. La comparación debe incluir los casos normales, incompletos y límite, además del coste de revisar y corregir.
Evidencia y límites
Distingue una afirmación documentada por el proveedor, una observación de una prueba propia y una opinión editorial. No conviertas una experiencia aislada en un porcentaje, un promedio o una promesa de resultado.
Para decisiones médicas, jurídicas, financieras, educativas, laborales o de seguridad, usa la IA solo como apoyo y exige revisión de una persona cualificada. Ninguna herramienta garantiza ingresos, empleo, ahorro, exactitud ni cumplimiento normativo.
Siguiente paso
Cuando tengas una muestra que puedas revisar, practícala con ChatGPT para Principiantes (7 clases prácticas, gratuito y sin tarjeta) y, si ya lo dominas, con ChatGPT para el Trabajo (8 clases). Explora los cursos y proyectos de agentes y elige una práctica verificable. Repite la prueba una semana después; si la mejora se mantiene y los riesgos están controlados, amplía gradualmente.
AIClases es una escuela de IA en español con cursos prácticos, libros, biblioteca de prompts, guías, herramientas, casos reales y certificado verificable.
¿Quieres revisar las opciones disponibles? Explorar cursos o ver planes.