Aprendizaje basado en explicaciones e inducción lógica

Conocimiento en el aprendizaje

Formulación logica del aprendizaje

"Para poder aprender algo nuevo se debe olvidar (casi) todo lo que sepa"

Conocimiento en el aprendizaje

Aprendizaje basado en explicaciones

Aprendizaje Basado en información relevante

Programación logica inductiva

Recordemos el problema de aprendizaje del restaurante del Capítulo 18: aprender una

regla para decidir si esperar por una mesa. Los ejemplos fueron descritos a través de atributos tales como Alternativa, Bar, Vier/Sab, etc.

Considere el caso de un turista que va a Brasil y conoce a su primera persona brasileña. Al escucharle hablar en portugués, inmediatamente concluirá que los

brasileños hablan en portugués, aunque al descubrir que su nombre es Fernando

no concluirá que todos los brasileños se llaman Fernando. En la ciencia existen

casos similares. Por ejemplo, cuando un estudiante de primer año de Física mide

la densidad y la conductancia de una muestra de cobre a una temperatura determinada, está bastante seguro cuando generaliza estos valores a todas las piezas de

cobre. Aunque cuando mida la masa, no considerará la hipótesis de que todas las

piezas de cobre tienen esa masa. Por otro lado, sería bastante razonable hacer este

tipo de generalización sobre todos los peniques

El aprendizaje basado en explicaciones es un método para extraer reglas generales a partir de observaciones particulares.

Parece que nuestro turista en Brasil es capaz de hacer una generalización segura sobre el idioma que hablan otros brasileños. Su conocimiento básico autoriza la inferencia: la gente del mismo país (normalmente) habla el mismo idioma. Esto se puede expresar en lógica de primer orden de la siguiente manera:

La programación lógica inductiva (ILP) combina los métodos de inducción con la potencia de las representaciones de primer orden, concentrándose en particular en las representaciones de teorías como programas lógicos.

En un principio, se puede

pensar que la formulación lógica del aprendizaje supone una gran cantidad de trabajo

extra, pero ayuda a aclarar muchos de los aspectos del aprendizaje.

Ejemplos e Hipotesis

En un marco lógico, un ejemplo es un objeto que se describe a través de sentencias lógicas;

Alternativa(X1) ∧ ¬Bar(X1) ∧ ¬Vier/Sab(X1) ∧ Hambriento(X1) ∧ ...

Notación Di (Xi ) =Descripción de Xi ,

donde Di puede ser cualquier expresión lógica con un único argumento.

La clasificación del objeto viene dada por la sentencia: Esperar(X1)

Usaremos la notación genérica Q(Xi ) si el ejemplo es positivo, y ¬Q(Xi ) si el ejemplo es negativo.

El propósito del aprendizaje inductivo en el marco lógico es encontrar una expresión lógica equivalente al predicado meta Q que se pueda usar para clasificar correctamente los ejemplos. Cada hipótesis propone una expresión, que denominaremos una definición candidata del predicado meta.

Usando Ci para representar la definición candidata, cada hipótesis Hi es una sentencia de la forma ∀x Q(x) ⇔ Ci (x).

Cada hipótesis predice que un cierto conjunto de ejemplos (por ejemplo, aquellos que satisfagan su definición candidata) serán ejemplos del predicado meta.

El espacio de hipótesis H es el conjunto de todas las hipótesis {H1, ..., Hn} que el algoritmo de aprendizaje está diseñado para considerar. Por ejemplo, el algoritmo APRENDIZAJE-ÁRBOL-DECISIÓN puede considerar cualquier hipótesis del árbol de decisión definida en términos de los atributos que se proporcionan

Si un ejemplo es un falso positivo o un falso negativo para una hipótesis, el ejemplo y la hipótesis son lógicamente inconsistentes entre sí. Si asumimos que el ejemplo es una observación correcta del hecho, la hipótesis puede ser excluida.

Considere el caso de un estudiante de Medicina que sabe realizar

diagnósticos sofisticados, pero es ignorante respecto a farmacología, que está observando la consulta entre un paciente y un experto. Después de una serie de preguntas y respuestas, el experto dice al paciente que tome un determinado antibiótico.

El estudiante de medicina inferirá la regla general sobre qué antibiótico particular es efectivo para un tipo de infección determinado.

En cada uno de los ejemplos anteriores, se puede apelar al conocimiento a priori para intentar justificar las generalizaciones realizadas. Veremos qué tipos de restricciones se generan en cada caso. Las restricciones incluirán el ConocimientoDeBase, además de las Hipótesis, las Descripciones observadas y las Clasificaciones.

La situación del turista en Brasil. Puede que éste no se explique por qué Fernando habla de esa forma, a menos que conozca sus bulas Papales. Además, se puede esperar la misma generalización de un turista completamente ignorante en lo relativo a historia colonial. En este caso, el conocimiento a priori relevante es que, en cualquier país, la mayoría de la gente habla el mismo idioma; por otro lado, no se asume que Fernando sea el nombre de todos los brasileños, porque este tipo de regularidad no se verifica para los nombres. En cada caso, el ConocimientoBásico a priori se refiere a la relevancia que tiene un conjunto de características sobre el predicado meta. Este conocimiento, junto con las observaciones, permite al agente inferir una nueva regla general que explica las observaciones:

Hipótesis ∧ Descripciones |= Clasificaciones

Hipótesis ∧ Descripciones ∧ Clasificaciones |= Hipótesis

Denominaremos a este tipo de generalización aprendizaje basado en relevancia(RBL) . Observe que como el RBL no hace uso del contenido de las observaciones, no produce hipótesis que vayan más allá del contenido lógico del conocimiento básico y de las observaciones. Es un método de aprendizaje deductivo, y por sí mismo no puede justificar la creación de nuevo conocimiento sin un conocimiento inicial de partida.

La técnica de memorizaciónha sido extensamente utilizada en informática para acelerar los programas guardando los resultados de la computación. La idea básica de las funciones memo es acumular una base de datos de pares entrada/salida;

El aprendizaje basado en explicaciones lleva esta idea más allá, creando reglas generalesque cubren una clase completa de casos. En el caso de la diferenciación, la memorización permitiría recordar que la derivada de X2 es 2X, pero si el agente tuviera que calcular la derivada de Z2 respecto a Z, lo haría a partir de cero.

Por ejemplo, considere el problema de diferenciar y simplificar expresiones algebraicas. Si diferenciamos la expresión X2, respecto a X, obtenemos 2X. En un sistema de razonamiento lógico, el objetivo se puede expresar como PREGUNTA(Derivada(X2, X) = d, BC), con solución d = 2X.

Nacionalidad(x, n) ∧ Nacionalidad(y, n) ∧ Idioma(x, l) ⇒ Idioma(y, l)

(Traducción literal: «si x e y tienen la misma nacionalidad n, y x habla el idioma l, entonces y también habla este idioma.») No es difícil demostrar que a partir de esta sentencia y de la observación,

Nacionalidad(Fernando, Brasil) ∧ Idioma(Fernando, Portugues)

se deduce la siguiente conclusión.

Nacionalidad(x, Brasil) ⇒ Idioma(x, Portugues)

Las sentencias como las anteriores expresan una forma estricta de relevancia: dada una nacionalidad, el idioma queda totalmente determinado. (Dicho de otro modo: el idioma es función de la nacionalidad.) Estas sentencias se denominan dependencias funcionales o determinaciones. Son tan comunes en algunos tipos de aplicaciones, (por ejemplo, definiendo diseños de bases de datos) que se utiliza una sintaxis especial para escribirlas.

Las generalizaciones correspondientes se obtienen lógicamente a partir de las determinaciones y de las observaciones.

ILP ofrece un enfoque riguroso al problema general de aprendizaje inductivo basado en el conocimiento.

ILP, ofrece algoritmos completos para inducir teorías de primer orden generales, a partir de los ejemplos. Estos algoritmos aprenden con éxito en dominios donde los algoritmos basados en los atributos son difíciles de aplicar.

La programación lógica inductiva produce hipótesis que son (relativamente) fáciles de entender por humanos.