Descenso de gradiente

Algoritmo de optimización que ajusta los parámetros de un modelo en la dirección que más reduce el error. Es el motor que hace que las redes neuronales aprendan.

Algoritmo de optimización que ajusta los parámetros de un modelo en la dirección que más reduce el error. Es el motor que hace que las redes neuronales aprendan.

Actualizado: 3 de junio de 2026.

Imagina bajar una montaña con niebla: das pasos en la dirección de mayor pendiente hacia abajo hasta llegar al valle. El descenso de gradiente hace lo mismo con la función de pérdida, buscando el mínimo error.

La tasa de aprendizaje

El tamaño del paso lo fija la tasa de aprendizaje: si es muy grande, te pasas; si es muy pequeña, tardas eternidades. La retropropagación calcula la dirección de cada paso.

Variantes

El descenso de gradiente estocástico (SGD) y optimizadores como Adam aceleran el proceso usando lotes de datos en cada paso.