Sistemas de IA explicables: comprender las decisiones de las máquinas

Sistemas de IA explicables: comprender las decisiones de las máquinas

1. DARPA

   • Agencia de proyectos de investigación avanzada de defensa
   • Trabajan
     • Reconocimiento de imágenes
     • Reconocimiento y generación de voz
     • Robótica
     • Vehículos autónomos
     • Sistemas de diagnóstico médico
     • Sistemas de aprendizaje automático
     • Desarrollo de nuevos enfoques de aprendizaje automático
   • 2016
     • Inteligencia artificial explicable (XAI)
   • IA
     • Características
       • El tipo de usuario
         • Novato
         • Experto
       • El mecanismo de acceso
         • Ventana emergente
         • Invocación del usuario
       • Tipo de conocimiento para la explicación
         • Fundamentos del conocimiento
         • Conocimiento terminológico
         • Toma
           • Longitud de la explicación
           • Su orientación

2. Inteligencia Artificial

   • Utilizan
     • Matemáticas complejas
     • Tecnologías actuales
   • Ayudan
     • Razonamiento de toma de decisiones
   • Incomprensible
     • Aplicaciones militares
     • Vehículos autónomos
     • Por decisiones inesperadas

3. Conclusiones

   • Existe
     • Dicotomía entre un alto rendimiento
     • Capacidad de explicación deficiente
   • Ventajas
     • Desarrollar nuevas técnicas
     • Elusión la necesidad de esta capa extra
       • Permite
         • Métodos de aprendizaje automático vinculados
         • Mejorar las capacidades de explicación

4. Capacidad de explicación

   • IA simbólica
     • Almacenan conocimientos
     • Utilizan símbolos
     • Se manipulan con operativos lógicos
     • Usuarios finales
       • Comunicación
         • Interfaz de usuario
         • Motor de inferencia de sistema experto
           • Utiliza
             • Conocimiento del área
             • Consulta determinada por usuario
           • Responde consultas analizadas
           • Explicación de la capacidad
           • Base de conockimiento
     • Usa
       • Reglas de operación.
   • IA de aprendizaje automático
     • IA no simbólico
       • No usa
         • Reglas de operación.
       • Utilizan
         • Enfoque de desglose para la extracción de reglas
       • Integra
         • El problema
         • Resolver el comportamiento
       • Se basa
         • Redes neuronales
           • Adquieren gran cantidad de información