Help shape GoConqr. What should we add next?

Slides

Resumen

M M Inteligencia Artificial Spanish 9 slides

Slides in this set (9)

  1. Resumen

    • La inteligencia artificial y las capacidades de aprendizaje automático están creciendo a un ritmo sin precedentes. Estas tecnologías tienen muchas aplicaciones ampliamente beneficiosas, que van desde la traducción automática hasta el análisis de imágenes médicas. Históricamente, se ha prestado menos atención a las formas en que la inteligencia artificial se puede usar maliciosamente.Este informe examina el panorama de posibles amenazas a la seguridad derivadas de usos malintencionados de las tecnologías de inteligencia artificial y propone formas de predecir, prevenir y mitigar mejor estas amenazas.Analizamos, pero no resolvemos de manera concluyente, la cuestión de cuál será el equilibrio a largo plazo entre los atacantes y los defensores. Nos centramos en cambio en los tipos de ataques que probablemente veamos pronto si no se desarrollan defensas adecuadas
    • La inteligencia artificial y las capacidades de aprendizaje automático están creciendo a un ritmo sin precedentes. Estas…
  2. Slide 2

    • En respuesta al cambiante panorama de amenazas, hacemos cuatro recomendaciones de alto nivel:
    • Los responsables políticos deberían colaborar estrechamente con los investigadores técnicos para investigar, prevenir y mitigar los posibles usos maliciosos de la IA.
    • Los investigadores e ingenieros en inteligencia artificial deberían tomar en serio la naturaleza de doble uso de su trabajo.
    • Deben identificarse las mejores prácticas en las áreas de investigación con métodos más maduros para abordar problemas de doble uso, como la seguridad informática.
    • Buscar activamente expandir el rango de partes interesadas y expertos en el dominio involucrados en las discusiones sobre estos desafíos.
    • En respuesta al cambiante panorama de amenazas, hacemos cuatro recomendaciones de alto nivel: Los responsables políticos…
  3. Slide 3

    • A medida que las capacidades de IA se vuelven más poderosas y generalizadas, esperamos que el uso creciente de los sistemas de IA genere los siguientes cambios en el panorama de las amenazas:
    • Expansión de amenazas existentes. El costo de los ataques puede reducirse mediante el uso escalable de los sistemas de IA para completar tareas que normalmente requerirían trabajo humano, inteligencia y experiencia. Un efecto natural sería ampliar el conjunto de actores que pueden llevar a cabo ataques particulares, la velocidad a la que pueden llevar a cabo estos ataques y el conjunto de objetivos potenciales.
  4. Slide 4

    • Introducción de nuevas amenazas. Pueden surgir nuevos ataques mediante el uso de sistemas de IA para completar tareas que de otro modo serían poco prácticas para los humanos. Además, los actores malintencionados pueden explotar las vulnerabilidades de los sistemas de inteligencia artificial desplegados por los defensores.
  5. Slide 5

    • Cambia al caracter tipico de las amenazas Creemos que hay razones para esperar que los ataques permitidos por el uso creciente de la inteligencia artificial sean especialmente efectivos, estén bien focalizados, sean difíciles de atribuir y exploten las vulnerabilidades en los sistemas de inteligencia artificial.
  6. Escenarios

    • Estructuramos nuestro análisis considerando por separado tres dominios de seguridad e ilustramos posibles cambios a las amenazas dentro de estos dominios a través de ejemplos representativos:
    • Seguridad digital El uso de la inteligencia artificial para automatizar tareas relacionadas con la realización de ataques cibernéticos aliviará la compensación existente entre la escala y la eficacia de los ataques. Esto puede ampliar la amenaza asociada con los ataques cibernéticos intensivos en mano de obra (como el spear phishing). También esperamos nuevos ataques que exploten vulnerabilidades humanas (por ejemplo, mediante el uso de síntesis de voz para suplantación), vulnerabilidades de software existentes (por ejemplo, mediante pirateo automático) o vulnerabilidades de sistemas de Inteligencia Artificial (por ejemplo, a través de ejemplos adversarios e intoxicación de datos)
    • Escenarios
  7. Slide 7

    • Seguridad física. El uso de inteligencia artificial para automatizar tareas relacionadas con la realización de ataques con drones y otros sistemas físicos (por ejemplo, mediante el despliegue de sistemas de armas autónomos) puede ampliar las amenazas asociadas con estos ataques. También esperamos nuevos ataques que subviertan los sistemas ciberfísicos (por ejemplo, causen la caída de vehículos autónomos) o que impliquen sistemas físicos que no sería factible dirigir de forma remota (por ejemplo, un enjambre de miles de microdrones).
    • Seguridad física. El uso de inteligencia artificial para automatizar tareas relacionadas con la realización de ataques con…
  8. Slide 8

    • Seguridad política El uso de AI para automatizar tareas relacionadas con la vigilancia (por ejemplo, análisis de datos recopilados en masa), persuasión (por ejemplo, creación de propaganda dirigida) y engaño (por ejemplo, manipulación de videos) puede ampliar las amenazas asociadas con la invasión de privacidad y la manipulación social. También esperamos ataques novedosos que aprovechen una mejor capacidad para analizar los comportamientos humanos, los estados de ánimo y las creencias sobre la base de los datos disponibles. Estas preocupaciones son más significativas en el contexto de estados autoritarios, pero también pueden socavar la capacidad de las democracias para sostener debates públicos veraces.
    • Seguridad política El uso de AI para automatizar tareas relacionadas con la vigilancia (por ejemplo, análisis de datos…
  9. Slide 9

    • Además de las recomendaciones de alto nivel enumeradas anteriormente, también proponemos la exploración de varias preguntas abiertas y posibles intervenciones dentro de cuatro áreas de investigación prioritarias:

Information

Description
Inteligencia Artificial (El uso malicioso de la IA) Slide Set on Resumen, created by M M on 20/09/2018.
Created by
M M · Sep 2018
Updated
Sep 20, 2018
Views
7
Rating

Feedback

What is it about?

What should we add next?