Deep Learning Architecture Patterns

Deep Learning Architecture Patterns

1. entender o tratar de crear nuevos diseños de arquitectura basados en convulsional networks

2. Abstraccion de diseño demodelos de arquitectura mas comunes

   • Strive of simplicity
     • usar pocos tipos de redes , para mantener la arquitectura lo mas simple posible
   • Increase of symetry
     • esta basado basicamente en el hecho , qu ene el area de arquitectura la simetrias es sinonimo de orden y belleza , y muestra una baja posiblidad de redundancia
   • Cover the problem space
   • over train
     • Consiste en implementar cualquier metodo de entrenamiento , en un problema mas dificl del general para poder , resolver los normales mas facilmente
   • Pyramid Shape
     • Dice que l numero de canales que se usan deberan ir aumentando mientras se va adentrando mas en la arquitectura
   • Proliferate paths
     • Basado en la idea de que ResNet puede tener un numero exponecial de conjunto de redes con diferente tamaño
       • Fractal net
   • Incremental feature Construction
   • normalize layer inputs
   • input transition
   • Available resource Guide Layer widths
   • Summation joining
   • Down Sampling transition
   • Maxout for competition