Auto Encoder (AE) - creado desde un Mapa Mental

Page 1

Origenes

¿Qué es?

¿Para qué se usa?

Algoritmo de aprendizaje.

Implementación en Phyton

Estas redes neuronales están capacitadas para conservar la mayor cantidad de información posible cuando se insertan en el encoder y luego en el decoder, pero también para que las nuevas representaciones adquieran diferentes tipos de propiedades.

Aplicaciones

Los autoencoders fueron inventados originalmente en la década de 1980; sin embargo, las versiones iniciales fueron difíciles de entrenar, ya que las codificaciones tienen que competir para establecer el mismo pequeño conjunto de bits.

Esto fue resuelto por "autoencoding escasa". En un autoencoder escaso, en realidad hay más (en lugar de menos) unidades ocultas que entradas, pero solo un pequeño número de unidades ocultas pueden estar activas al mismo tiempo.

RNA con el objetivo de generar nuevos datos, primero comprimiendo la entrada en un espacio de variables latentes y luego construyendo la salida en base a la información adquirida.

Consta de dos partes

Esta RNA puede tener varias capas ocultas, pero se trata de que la cantidad de capas ocultas sea impar, de tal forma que se guarde simetría. Las neuronas de salida son de igual cantidad que las de entrada.

Enconder: la partes de la red que comprime la entrada en un espacio de variables latentes.

Decoder: La parte que trata de reconstruir la entrada en base a la información

Hasta la fecha, la reducción de ruido y la reducción de la dimensión para la visualización de datos se consideran las aplicaciones más interesantes de autoencoders. Con la configuración apropiada de la dimensión y las restricciones relacionadas en la dispersión de los datos, a través del autoencoder es posible obtener proyecciones en subespacios de mayor interés en comparación con métodos lineales como PCA.

La red utiliza el algoritmo de backpropagation, el algoritmo es no supervisado. Como se ha mencionado, la red recibe los datos y los comprime (encoder) y los regresa a sus dimensiones (decoder), obteniendo una representación con dimensiones más pequeñas hasta tener una aproximación a la entrada. Se puede utilizar cualquier derivación del backpropagation, descritas anteriormente. Se aplica el algoritmo actualizando los pesos teniendo en cuenta que las salidas deseadas son las mismas entradas, en base al error global.

https://github.com/mchablani/deep-learning/blob/master/autoencoder/Convolutional_Autoencoder.ipynb https://blog.keras.io/building-autoencoders-in-keras.html

• Síntesis de imágenes, e.g. Google Street View • Geolocalización de imágenes, PlaNet CNN 377MB • Reconocimiento de caras en imágenes térmicas (cámaras de infrarrojos)