Deep Convolutional Neural Network (CNN o DCN)

Description

Mapa conceptual elaborado para el curso Neural Networks, como parte de la primera evaluación. Referencias : http://deeplearning.net/tutorial/lenet.html http://www.asimovinstitute.org/neural-network-zoo/ http://www.asimovinstitute.org/neural-network-zoo-prequel-cells-layers/ https://es.wikipedia.org/wiki/Redes_neuronales_convolucionales http://www.diegocalvo.es/red-neuronal-convolucional-cnn/ https://machinelearningmastery.com/inspirational-applications-deep-learning/
Adrián Galindo
Mind Map by Adrián Galindo, updated more than 1 year ago
Adrián Galindo
Created by Adrián Galindo over 6 years ago
187
0

Resource summary

Deep Convolutional Neural Network (CNN o DCN)
  1. ¿Qué es?
    1. Convolución
      1. Operación matemática que combina dos señales para producir una tercera señal.
        1. Propiedades
          1. Asociatividad
            1. Conmutatividad
              1. Distribución
            2. Son similares a las redes neuronales multicapa, cada parte de la red se especializa en una tarea, lo cual reduce el número de capas ocultas, por lo que el entrenamiento es más rápido. Además, presenta invarianza a la traslación de los patrones a identificar.
              1. Arquitectura
                1. Capa convolucional
                  1. Se realizan operaciones de productos y sumas entre la capa de entrada y los n filtros (o kernel) que genera un mapa de características. Los características extraídas corresponden a cada posible ubicación del filtro en la imagen original.
                    1. Neurona convolucional
                      1. Similares a las células feed forward, excepto que normalmente están conectadas a sólo unas pocas neuronas de la capa anterior. A menudo se utilizan para preservar la información espacial, porque están conectados no a unas cuantas células aleatorias, sino a todas las células en una cierta proximidad.
                    2. Reducción de muestreo (Pooling)
                      1. Se reduce la cantidad de parámetros al quedarse con las características más comunes.
                        1. Se realiza mediante la extracción de estadísticas como el promedio o el máximo de una región fija del mapa de características, al reducir características el método pierde precisión aunque mejora su compatibilidad.
                      2. Clasificación (Red perceptron multicapa)
                        1. Capas completamente conectadas en la que cada pixel se considera como una neurona separada al igual que en un perceptron multicapa.
                    3. Origines
                      1. Bio-inspiradas por las neuronas en la corteza visual primaria (V1) de un cerebro biológico.
                        1. Kunihiko Fukushima (1980)
                          1. Neocognitron
                            1. Red neuronal autoorganizada para un mecanismo de reconocimiento de patrones no afectado por el cambio de posición.
                              1. http://vision.stanford.edu/teaching/cs131_fall1415/lectures/Fukushima1988.pdf
                          2. Hubel y Wiesel (1968)
                            1. Trabajo en la corteza visual de los gatos
                              1. La corteza visual contiene una compleja disposición de las células
                                1. Campo receptivo
                                  1. Células simples y complejas.
                              2. Thomas Serre et al. (2007)
                                1. Reconocimiento robusto de objetos con mecanismos parecidos a la corteza.
                                  1. http://cbcl.mit.edu/publications/ps/serre-wolf-poggio-PAMI-07.pdf
                                2. Yann LeCun et al. (1998)
                                  1. El aprendizaje basado en gradientes aplicado al reconocimiento de documentos
                                    1. http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf
                                3. Principales capacidades
                                  1. Soy especialmente utilizadas para el procesamiento de imagenes
                                  2. Aplicaciones
                                    1. Procesamiento de imágenes
                                      1. Clasificación de imágenes
                                        1. Segmentación de imágenes
                                          1. Auto-etiquetado de imágenes
                                            1. Identificar letras en imágenes.
                                            2. Visión artificial
                                              1. Procesamiento de audio
                                                1. Clasificación de señales de audio utilizando convoluciones en 1D.
                                                2. Clasificación de datos volumétricos usando convoluciones en 3D.
                                                  1. Clasificación de series de tiempo
                                                  2. Algoritmos de aprendizaje
                                                    1. Aprendizaje basado en Backpropagation
                                                      1. Extracción de características
                                                        1. Como todas las capas tienen tareas asignadas con ciertas características de aprendizaje de las imágenes, estas características se pueden extraer de la red en cualquier momento durante el proceso de entrenamiento.
                                                        2. Dropout: Consiste en desconectar un porcentaje de las neuronas en cada iteración del entrenamiento
                                                        3. Variantes
                                                          1. Las CNN son una variación del perceptrón multicapa
                                                          2. Implementaciones
                                                            1. Software
                                                              1. Google
                                                                1. Google Translate app
                                                                  1. Hace una traducción visual en tiempo real de más de 20 idiomas.
                                                                  2. Búsqueda por imágenes
                                                                    1. ImageNet
                                                                      1. Identificación de múltiples objetos en una imágen
                                                                  3. Facebook
                                                                    1. Auto-Etiquetado de personas en fotografías.
                                                                    2. https://machinelearningmastery.com/inspirational-applications-deep-learning/
                                                                      1. Aplicaciones en software de medicina para el procesamiento de imágenes médicas de rayos X o de otro tipo.
                                                                    Show full summary Hide full summary

                                                                    Similar

                                                                    Autoencoders
                                                                    Jesús Aguilar
                                                                    Attention
                                                                    Pilar O. G.
                                                                    La inteligencia artificial no es como la pintan
                                                                    Ximena Casillas
                                                                    Liquid State Machine (LSM)
                                                                    Raul Trinidad
                                                                    A Level: English language and literature technique = Dramatic terms
                                                                    Jessica 'JessieB
                                                                    GCSE Biology, Module B4
                                                                    jessmitchell
                                                                    20 Study Hacks To Improve Your Memory
                                                                    jen.sch.ca
                                                                    BIOLOGY HL DEFINITIONS IB
                                                                    Luisa Mandacaru
                                                                    Sociology: Crime and Deviance Flash cards
                                                                    Beth Morley
                                                                    5 Tips for motivating your students
                                                                    Jen Molte
                                                                    Using GoConqr to study geography
                                                                    Sarah Egan