¿Qué deben saber las personas nuevas en el campo sobre el aprendizaje automático adversario?

Al principio, las técnicas de aprendizaje automático se diseñaron para entornos estáticos en los que se suponía que los datos de entrenamiento se generaban a partir de la misma distribución. Cuando el adversario, como malware, spam, etc., se adapta, este modelo falla en algún grado. Un malware puede manipular los datos de entrada al atacar vulnerabilidades específicas de los algoritmos de aprendizaje para alterar la seguridad de todo el sistema.

Por ejemplo, filtrado de spam, detección de troyanos, etc.

Esto es donde entra en juego el aprendizaje automático adverso. Es el encanto del aprendizaje automático y la seguridad informática. Esta descendencia tiene como objetivo permitir la implementación segura de técnicas de aprendizaje automático en entornos hostiles, también conocidos como adversarios, como el filtrado de spam, la detección de malware y el reconocimiento biométrico.

Si el atacante es aún más inteligente, apuntaría a los algoritmos de aprendizaje automático. Pero la investigación también se ha invertido en esa área.

Fuente: Aprendizaje automático adversario – Wikipedia

El diablo está en los detalles. [1] Especialmente con las redes de confrontación, las metodologías para la capacitación son cada vez más complejas y, a menudo, quedan fuera de los documentos de implementación. Si bien puede leer sobre las GAN de búsqueda de límites o las WAN de Wasserstein, la aplicación de la red a su propio problema será una tarea difícil pero creativa. El proceso de capacitación será engorroso, pero también productivo, ya que los ajustes que realice pueden acumularse para ser un cambio sustancial en la arquitectura general o la metodología de capacitación.

Notas al pie

[1] https://www.robots.ox.ac.uk/~vgg …