Entrena tus redes neuronales profundas mejor y más rápido. Dos técnicas novedosas: Snapshot ensembles y FreezeOut

Las redes neuronales profundas cuentan con muchos parámetros entrenables que se emplean para realizar inferencias. A menudo esto plantea dos problemas: por una parte el modelo realiza predicciones en ocasiones no demasiado acertadas y por otra es necesario mucho tiempo para entrenarlo. En este post se tratan dos ténicas novedosas para incrementar la precisión (Snapshot ensembles) y reducir el tiempo de entrenamiento (FreezeOut).

Papers originales:
- Snapshot Ensembles: Train 1, get M for free
- FreezeOut: Accelerate Training by Progressively Freezing Layers