Restricted BM (RBM)

Restricted BM (RBM)

1. ¿Qué es?

   • RBM es una red neuronal superficial de dos capas que constituye los bloques para las redes neuronales profundas
   • Su nombre indica las RBM son una variante de las BM.
     • La restricción de que sus nodos deben formar un grafo bipartito.

2. ¿Cuál es su arquitectura?

   • Está confirmada por dos capas, la primera capa es llamada "la capa visible" o de ingreso, la segunda capa es la capa oculta
     • Las neuronas de entrada se convierten en neuronas de salida al final de una actualización de red completa.

3. Historia de la red neuronal RBM

   • Posteriormente Geoffrey Hinton y sus colaboradores crearon algoritmos más eficientes a mediados del siglo 2000.
   • Fue creada por Paul Smolensky en 1986.
     • Inicialmente aparecieron con el nombre de "Harmonium".

4. Principales usos

   • Reducción de dimensionalidad, clasificación, regresión, filtrado colaborativo, aprendizaje característico, modelado de temas y crear módulos de aprendizaje para redes neuronales profundas.

5. Principales aplicaciones

   • Reconocimiento de voz, análisis de riesgos, análisis predictivo con uso de sensores, reconocimiento facial, búsqueda por imagen

6. Tipos de reglas de aprendizaje

   • Dependiendo de su uso puede ser por aprendizaje supervisado o no supervisado.
     • Aprendizaje supervisado con propagación hacia atras, en esta fase la capa oculta se convierte en la entrada, siendo multiplicados por sus propios pesos por cada nodo, la suma de estos productos se añade a la capa visible, a esto se le llama la fase de reconstrucción

7. Modificaciones de la arquitectura básica.

   • La conexión de estas neuronas es restringidas, a comparación con una BM en ésta cada neurona se conecta con cada neurona del grupo diferente de modo que ninguna neurona de entrada está directamente conectada con otra neurona de entrada ni neuronas ocultas con neuronas ocultas.
   • Se pueden entrenar como FFNN con diferencia que se transmiten los datos y luego retroceden los datos (volviendo a la primera capa). Después de eso se entrena con forward-and-back-propagation.

8. Hardware/Software en el que ha sido implementada

   • Unlabeled image ( Hinton 2006 ) Ventanas de coeficientes "mel-cepstral" que representan el habla ( Mohamed 2009 ) Clasificación de películas por usuarios ( Salakhutdinov 2007).