El ajuste fino, una técnica utilizada en el aprendizaje profundo en el ámbito del inteligencia artificial[1]se refiere específicamente a los algoritmos de aprendizaje automático. Sirve principalmente para aumentar la eficacia de los modelos de redes neuronales existentes modificando y reutilizando parámetros específicos dentro de estos modelos. Este método es un subconjunto del aprendizaje por transferencia, en el que los conocimientos obtenidos de una tarea se aprovechan para otra tarea relacionada. El ajuste fino puede aplicarse a toda la red o a un grupo seleccionado de capas, a menudo incorporando adaptadores para su mejora. Resulta especialmente beneficioso en el procesamiento del lenguaje natural para el modelado lingüístico. No obstante, hay que tener en cuenta que el ajuste fino puede afectar a la estabilidad del modelo, lo que obliga a utilizar técnicas como la interpolación lineal para mantener el rendimiento. Diversas estrategias, como el método de adaptación de bajo rango (Low-rank adaptation, LoRA), presentan formas alternativas de ajuste fino.
En aprendizaje profundo, puesta a punto es un enfoque para aprendizaje por transferencia en la que el pesos de un preentrenamiento modelo se entrenan con datos nuevos. El ajuste puede realizarse en toda la red neuronalo sólo en un subconjunto de sus capas, en cuyo caso las capas que no se están afinando se "congelan" (no se actualizan durante el retropropagación paso). Un modelo también puede aumentarse con "adaptadores" que constan de muchos menos parámetros que el modelo original, y ajustarse de forma eficiente mediante el ajuste de los pesos de los adaptadores y dejando congelados el resto de los pesos del modelo.
Para algunas arquitecturas, como redes neuronales convolucionalesPor lo general, las capas más tempranas (las más cercanas a la capa de entrada) se mantienen congeladas porque capturan características de bajo nivel, mientras que las capas más tardías suelen discernir características de alto nivel que pueden estar más relacionadas con la tarea para la que se ha entrenado el modelo.
Los modelos preentrenados en corpus grandes y generales suelen ajustarse reutilizando los parámetros del modelo como punto de partida y añadiendo una capa específica de la tarea entrenada desde cero. El ajuste del modelo completo también es habitual y suele dar mejores resultados, pero es más costoso desde el punto de vista informático.
El ajuste fino suele realizarse con aprendizaje supervisado, pero también existen técnicas para afinar un modelo utilizando supervisión deficiente. El ajuste fino puede combinarse con un aprendizaje por refuerzo a partir de información humana- objetivo para producir modelos lingüísticos como ChatGPT (una versión mejorada de GPT-3) y Gorrión.
Español 
English 
Français