LeNet y AlexNet: las primeras victorias

Mucho antes de los gigantes actuales, dos redes pequeñas demostraron que las convoluciones aprendidas podían interpretar imágenes. Conozca a las pioneras.

En 1998, Yann LeCun creó LeNet-5 para reconocer dígitos escritos a mano en cheques. Era pequeña, pero funcionaba de maravilla.

El patrón de LeNet era claro: alternar capas de convolución y pooling, y terminar con unas pocas capas densas. Esa receta todavía se refleja en los modelos actuales.

La gran idea era que LeNet aprendía sus filtros a partir de los datos mediante backpropagation, en lugar de que un ingeniero programara a mano detectores de bordes.

Los datos y la capacidad de cómputo eran escasos, así que el progreso se estancó durante años. El mundo aún no estaba preparado para ampliar esta idea.

En 2012, AlexNet arrasó en el concurso ImageNet, redujo a la mitad la tasa de error y desencadenó el auge moderno del aprendizaje profundo.

AlexNet era una versión ampliada de LeNet: más capas, muchos más filtros y millones de parámetros ávidos de datos.

AlexNet sustituyó las activaciones saturantes y lentas por la ReLU, rápida y sencilla, lo que permitió entrenar una red profunda en un tiempo razonable.

Se ejecutaba en dos GPU en paralelo. Esta elección de hardware convirtió una idea antigua en un sistema práctico y ganador.

Para evitar que memorizara los datos, AlexNet incorporó dropout en sus capas densas, silenciando neuronas al azar durante el entrenamiento.

Ambas redes son pilas de un bloque fundamental. Esta es una sola capa Conv2d, el ladrillo con el que se construye todo.

LeNet mostró que las CNN podían aprender, y AlexNet demostró que podían triunfar a gran escala. Juntas inauguraron la era que está estudiando. ¡Un gran comienzo!