Fine-tuning o RAG: entrenar un modelo de IA con los datos de tu empresa o dejar que busque en tus documentos

Si quieres que un modelo de IA responda preguntas a partir de los documentos de tu empresa, normalmente no necesitas entrenarlo con ellos. La generación aumentada por recuperación, o RAG, busca en tus documentos cada vez que llega una pregunta y pasa al modelo los fragmentos que coinciden junto con la pregunta. El fine-tuning (ajuste fino) consiste en seguir entrenando un modelo existente con ejemplos que preparas tú. Los artículos de investigación y las guías de proveedores dicen que sirve más para enseñar un formato o un tono que para enseñar hechos nuevos. Una prueba con preguntas reales de tu negocio muestra cuál de los dos necesitas, o si necesitas ambos.

¿Qué diferencia hay entre el fine-tuning y RAG?

Un modelo de lenguaje grande (LLM), el tipo de IA que hay detrás de ChatGPT, aprende lo que sabe del texto con el que se entrenó. Los documentos que nunca salieron de tu empresa no formaban parte de ese texto, así que el modelo tiene que recibirlos de otra manera.

Con RAG, tus documentos se quedan fuera del modelo, en un índice de búsqueda: un catálogo de fragmentos construido a partir de tus archivos. Cuando alguien hace una pregunta, el sistema encuentra los fragmentos que coinciden y los añade al prompt, el texto que recibe el modelo. Como el sistema sabe qué fragmentos ha usado, puede mostrar el documento de origen junto a cada respuesta.

El fine-tuning sigue entrenando el modelo con ejemplos, cada uno de los cuales empareja una pregunta o una tarea con la respuesta que quieres. El resultado es una nueva versión del modelo. Lo que aprendió queda repartido entre los números internos del modelo, y ningún archivo muestra de dónde salió un dato concreto.

La guía de OpenAI «Optimizing LLM Accuracy», consultada el 23 de octubre de 2026, explica la diferencia con un examen. RAG es como tener «el libro de texto contigo» para consultar lo que haga falta. El fine-tuning es como ir a clase durante meses y aprender de «muchos ejemplos repetidos».

La guía añade que los dos métodos «se suman, no se excluyen». También dice que «muchos de nuestros mayores despliegues para clientes en OpenAI se hicieron solo con prompt engineering y RAG». El prompt engineering consiste en escribir mejores instrucciones y ejemplos para el modelo.

¿Podemos afinar un modelo con nuestros documentos para que conozca nuestro negocio?

La investigación publicada indica que entrenar un modelo con tus documentos no le enseña de forma fiable los hechos de tu negocio. En un estudio publicado por primera vez en diciembre de 2023, Oded Ovadia y tres coautores compararon RAG con el fine-tuning de un modelo sobre el texto plano de los documentos. Su resumen dice que «RAG lo supera de forma sistemática» y que a los modelos «les cuesta aprender información factual nueva» de esta manera. Añade que mostrar al modelo «numerosas variaciones del mismo hecho» durante el entrenamiento podría ayudar.

Un artículo científico de 2024 de Zorik Gekhman y seis coautores puso a prueba el fine-tuning con preguntas emparejadas con sus respuestas. Los ejemplos que contienen hechos nuevos «se aprenden significativamente más despacio» que los que coinciden con lo que el modelo ya sabe. Cuando el modelo llegaba a aprenderlos, aumentaba la probabilidad de que diera respuestas factualmente erróneas. Los autores escriben que sus resultados respaldan la idea de que los modelos «adquieren el conocimiento factual sobre todo mediante el preentrenamiento», es decir, el entrenamiento original que hace el creador del modelo, y que el fine-tuning «les enseña a usarlo de forma más eficiente».

En una empresa, la información que cambia, como los precios o la redacción de las políticas, debe estar en los documentos en los que busca el sistema. Un modelo afinado conserva lo que aprendió el día en que se entrenó, y cambiarlo exige otra ronda de entrenamiento.

¿Cuándo vale la pena el fine-tuning?

La guía de OpenAI aconseja trabajar en cómo se comporta el modelo, y no en la información que recibe, cuando «produce resultados incoherentes con un formato incorrecto» o cuando su tono o su estilo de expresión «no es correcto». Lo primero son mejores instrucciones y ejemplos en el prompt, y el fine-tuning es el paso siguiente. La guía también menciona la eficiencia como motivo para afinar un modelo, es decir, la misma precisión con un modelo más pequeño o con menos tokens. Un token es un fragmento de palabra, y los proveedores de modelos cobran por token.

Por ejemplo, un modelo que lee facturas tiene que devolver sus datos exactamente con el formato que acepta tu sistema contable. Puede que las respuestas redactadas para clientes tengan que sonar como tu equipo de soporte. Un modelo afinado más pequeño también puede resultar más barato de ejecutar que uno general grande, si alcanza la precisión que necesitas.

Los ejemplos de entrenamiento tienen que parecerse exactamente al trabajo real. La guía aconseja empezar con «50+ ejemplos», probar después y añadir más solo si los errores que quedan tienen que ver con cómo se comporta el modelo. Alguien que hace este trabajo a diario tiene que escribir o revisar esos ejemplos, así que incluye sus horas en el presupuesto junto con el tiempo de ingeniería.

Nuestro conjunto de documentos es pequeño. ¿De verdad necesitamos RAG?

Con un conjunto pequeño de documentos, puede que no necesites RAG en absoluto. Anthropic, la empresa que está detrás de los modelos Claude, escribió en una publicación del 19 de septiembre de 2024: «Si tu base de conocimiento tiene menos de 200 000 tokens (unas 500 páginas de material), puedes incluir sin más la base de conocimiento completa en el prompt que le das al modelo, sin necesidad de RAG ni de métodos similares».

Cada modelo tiene un límite de cuántos tokens puede leer a la vez. El prompt caching (caché de prompts) permite que una aplicación reutilice texto que ya envió en solicitudes anteriores, como el mismo conjunto de documentos. La publicación, consultada el mismo día que la guía, dice que el prompt caching reduce los costes «hasta en un 90%» con Claude. La guía de OpenAI advierte de que a los modelos «les puede costar mantener la atención en prompts muy grandes», así que haz las pruebas con el tamaño que piensas usar.

Enviar todos los documentos con cada pregunta sigue costando más que enviar unos pocos fragmentos, y el coste crece con cada página que añades. Un piloto puede empezar con un conjunto pequeño, como los manuales de una línea de productos, y pasar a RAG cuando los documentos ya no quepan en el prompt.

¿Qué puede fallar con RAG?

Un sistema RAG puede fallar antes de que el modelo escriba una sola palabra, cuando la búsqueda devuelve fragmentos equivocados o demasiados fragmentos. La guía de OpenAI describe los dos casos. El sistema puede aportar «el contexto equivocado, de modo que el modelo no tiene ninguna posibilidad de responder». El otro riesgo es el exceso de texto irrelevante, porque «ahoga la información real y provoca alucinaciones», es decir, respuestas que suenan correctas pero son falsas.

Muchos sistemas RAG buscan por significado y no por palabras exactas, y eso puede hacer que se escapen códigos exactos. La publicación de Anthropic pone el ejemplo de una pregunta de soporte sobre el código de error TS-999. Una búsqueda así podría encontrar páginas sobre códigos de error en general y pasar por alto la de TS-999. La publicación propone combinarla con la búsqueda por palabras clave, que busca el texto exacto.

Así que prueba la búsqueda por separado. Para cada pregunta de prueba, comprueba si volvió el fragmento correcto antes de juzgar la respuesta. Si no volvió, la guía de OpenAI señala la búsqueda como lo que hay que arreglar.

¿Qué mantiene nuestros datos bajo control, RAG o el fine-tuning?

Los dos pueden funcionar en tus propios servidores. Con RAG, tus documentos están en un índice que controlas, y el modelo solo ve los fragmentos elegidos para cada pregunta. El fine-tuning incorpora los ejemplos de entrenamiento a los archivos del modelo, y lo que el modelo aprendió de ellos puede reaparecer en sus respuestas.

Con RAG es más fácil hacer cumplir los derechos de acceso, porque la búsqueda puede dejar fuera los documentos que la persona que pregunta no tiene permiso para ver. Microsoft describe una forma de hacerlo en su servicio Azure AI Search. Su página sobre el patrón de filtro de seguridad, consultada el mismo día, describe un filtro que «recorta los resultados de búsqueda en función de una cadena que contiene una identidad de grupo o de usuario». La página propone este filtro para los sistemas que no pueden usar las listas de control de acceso integradas del servicio.

La misma página dice que en el propio filtro «no hay autenticación ni autorización», así que tu aplicación tiene que pasar el usuario o el grupo correctos con cada búsqueda. Un modelo afinado no tiene nada equivalente. Lo que aprendió de los ejemplos de un departamento puede aparecer en las respuestas a cualquier usuario de ese modelo.

El Comité Europeo de Protección de Datos (CEPD), formado por representantes de las autoridades nacionales de protección de datos y del Supervisor Europeo de Protección de Datos, adoptó el Dictamen 28/2024 el 17 de diciembre de 2024. Dice que «los modelos de IA entrenados con datos personales no pueden considerarse anónimos en todos los casos», porque los datos personales «pueden seguir “absorbidos” en los parámetros del modelo». Los parámetros son los números internos en los que un modelo guarda lo que aprendió. Si un modelo concreto es anónimo o no, añade el dictamen, debe evaluarse caso por caso.

Si afinas un modelo con tickets de soporte o expedientes de clientes, da por hecho que el propio modelo puede contener datos personales. Pregunta cómo se atendería una solicitud para borrar los registros de una persona. Con RAG, una vez que se elimina un documento y se actualiza el índice, la búsqueda ya no lo encuentra para preguntas nuevas. Las copias que quedan en logs, cachés o historiales de chat guardados necesitan su propia limpieza. Las normas varían según el país, y este artículo no constituye asesoramiento jurídico, así que revisa tu caso con un abogado.

¿Cuánto tiempo seguirá funcionando un modelo afinado?

Un modelo afinado se construye sobre un modelo base, el modelo general del que partiste. Si haces el fine-tuning a través de un servicio en la nube, el proveedor decide cuánto tiempo siguen disponibles ese modelo base y tu versión de él. La página de precios de la API de OpenAI, consultada el mismo día, dice: «OpenAI está cerrando de forma progresiva la plataforma de fine-tuning». Añade que los modelos afinados siguen disponibles hasta que sus modelos base quedan obsoletos (deprecated), el término que usa OpenAI para los modelos que está retirando.

La página de retiradas (deprecations) de OpenAI da las fechas. Desde el 7 de mayo de 2026, las organizaciones que nunca habían hecho fine-tuning ya no podían empezar. Desde el 2 de julio de 2026, lo mismo pasó a valer para las organizaciones que no habían usado un modelo afinado en los 60 días anteriores. El 6 de enero de 2027, «los clientes existentes activos ya no podrán crear nuevos trabajos de fine-tuning».

La misma página fija también fechas de fin para los propios modelos. Indica el 23 de octubre de 2026 como fecha de desactivación de las versiones afinadas de gpt-4.1-nano y de otros cinco modelos. GPT-4o, GPT-4o mini, GPT-4.1 y GPT-4.1 mini les siguen el 14 de enero de 2027, y «las versiones afinadas de estos modelos siguen el mismo calendario de desactivación que los modelos base en los que se basan».

Los modelos de pesos abiertos, cuyos creadores publican los archivos del modelo para que cualquiera los ejecute según una licencia, se pueden seguir afinando en tu propio hardware. gpt-oss-120b de OpenAI es uno de ellos, y su página en Hugging Face, el sitio de modelos, consultada el mismo día, indica la licencia Apache 2.0. La página dice que el modelo «se puede afinar en un solo nodo H100», es decir, en un servidor con GPU Nvidia H100, un tipo de chip que la página menciona para ejecutar el modelo.

Tanto si el modelo funciona en la nube de un proveedor como en tu propio hardware, un nuevo modelo base implica otra ronda de fine-tuning y de pruebas. Un sistema RAG también necesita nuevas pruebas cuando cambia el modelo que redacta las respuestas, pero el índice y tus documentos se quedan como están.

¿Cuánto cuesta construir y operar RAG y fine-tuning?

Aquí no se dan cifras, porque dependen de tus volúmenes y de tu configuración. Lo que sí es distinto son las partidas de la factura.

En RAG, el trabajo de construcción consiste en preparar los documentos para que se puedan buscar bien, construir el índice y probar la búsqueda. Los costes de funcionamiento incluyen el servicio de búsqueda y prompts más largos, ya que cada pregunta lleva consigo los fragmentos encontrados para ella. La reindexación puede ejecutarse automáticamente cuando se añade o se modifica un archivo.

Con el fine-tuning, buena parte del coste puede ser tiempo del personal, porque las personas que conocen la tarea escriben y revisan los ejemplos de entrenamiento. Después vienen las rondas de entrenamiento y los servidores o el servicio que alojan el nuevo modelo. Un nuevo modelo base o una nueva tarea implica volver a pagar ese trabajo.

Algunos sistemas necesitan las dos cosas. Si las primeras pruebas muestran problemas tanto con los hechos como con el formato, la guía de OpenAI dice que «es probable que acabes con fine-tuning + RAG». En ese caso pagas por ambos.

¿Debemos elegir RAG o fine-tuning, y qué debemos preguntar a una empresa que se ofrece a construirlo?

Empieza con un conjunto de prueba hecho de preguntas o documentos reales de tu trabajo, cada uno con una respuesta revisada por una persona. La guía de OpenAI dice que un conjunto de «20+ preguntas y respuestas», una vez que has analizado por qué se producen los fallos, te da «la línea base adecuada» para métodos más avanzados. El artículo sobre un piloto de IA estancado explica cómo construirlo.

Después prueba un prompt bien escrito con RAG y agrupa los fallos por causa. Si falta un fragmento, hay que trabajar en la búsqueda. A veces el fragmento correcto volvió y aun así el modelo lo interpretó mal o respondió con un formato equivocado. Para ese caso, la guía propone primero mejores instrucciones, y fine-tuning si unos pocos ejemplos resueltos en el prompt mejoran las respuestas.

Haz las mismas preguntas a cada empresa que proponga un diseño:

• ¿Qué resultados de nuestro conjunto de prueba les llevaron a proponer fine-tuning?
• ¿Cómo impedirá el sistema que el personal vea documentos que no tiene permiso para abrir?
• Si afinan el modelo, ¿quién escribe los ejemplos de entrenamiento y qué pasa cuando se retire el modelo base?
• Después del lanzamiento, ¿cómo eliminamos un documento o los datos de una persona?

¿Dónde encaja amBrain?

El único proyecto con modelos de lenguaje que amBrain describe en público es este: «Hemos llevado a producción una integración de LLM dentro del perímetro FinTech de un cliente: extracción y normalización de avisos no estructurados de brókers y de centros de negociación —eventos corporativos, cambios de instrumentos y de márgenes— en registros estructurados que consume el sistema de trading».

Este artículo no es un caso de estudio y no describe ningún trabajo para clientes. La frase citada no dice si ese sistema usa RAG, fine-tuning o ninguno de los dos, qué modelo usa ni dónde funciona ese modelo. Los ejemplos de este artículo son generales y no proceden de ese proyecto ni de ningún otro trabajo de amBrain.

Las empresas, los organismos públicos, los modelos y los artículos de investigación que se nombran aquí se citan a partir de sus páginas publicadas, y el artículo no afirma que amBrain tenga relación alguna con ninguno de ellos. No da precios, plazos ni condiciones de amBrain.

amBrain desarrolla software desde 2019. Trabaja en tres formatos: entrega completa, un equipo dedicado o ingenieros integrados en tu equipo. Sobre la propiedad, su frase es: «El cliente conserva la propiedad completa del producto y del código, salvo nuestros componentes reutilizables». Si amBrain está en tu lista corta, hazle las mismas preguntas que a cualquier otra empresa.