¿Crees que la investigación universal de perturbaciones adversas es justa en las redes neuronales profundas?

Absolutamente. El documento se aplica ampliamente a todas las redes neuronales profundas conocidas. Muestra un hecho aterrador de que todavía sabemos muy poco de cómo funcionan estas redes profundas.

Antes de continuar, me gustaría abordar su punto “… pero ser perfecto en lo que han visto hasta ahora en el entrenamiento …”. Actualmente, esto no es verdad. Si una red neuronal profunda solo puede ser perfecta en lo que han visto así en el entrenamiento, se llama “sobreajuste”. El propósito y la importancia de una red neuronal profunda bien entrenada es poder “generalizar”, es decir, tener un buen desempeño en datos no vistos. El zumbido del aprendizaje profundo comenzó cuando pudo vencer al otro aprendizaje automático generalizando mejor.

El documento de perturbaciones adversas universales nos dice que el DL de hoy tiene un grave problema de generalización que no existe en el aprendizaje humano. Es un gran descubrimiento y un tema muy interesante. Cómo defender el ataque y mejorar la debilidad sería una buena dirección para DL en los próximos 2 años.

More Interesting

Inferencia bayesiana: si tuviera que trazar un millar de correos electrónicos basados ​​en "spaminess" utilizando un algoritmo simple de Naive Bayes para establecer la probabilidad de "spaminess" para el eje x, ¿cuál debería ser mi eje y?

Estoy tratando de evaluar el rendimiento del modelo (regresión). En la literatura, algunos usan RMSE y otros usan correlación. ¿Hay alguna diferencia entre ambos enfoques?

¿Cómo se usa el aprendizaje automático para los datos de EEG?

¿Qué tipo de problemas puede resolver AI / Machine Learning en los países en desarrollo?

¿Cuál es la diferencia al aplicar el aprendizaje profundo en el reconocimiento de voz automático usando kaldi y usando la antorcha?

Sistemas móviles: ¿Qué empresas / organizaciones de investigación están trabajando en el área de análisis de comportamiento / sistemas colaborativos basados ​​en dispositivos móviles?

¿Qué son los hiperparámetros en el aprendizaje automático?

¿Qué significa realmente el aprendizaje automático en términos reales?

¿Cuáles son los problemas de investigación en la detección de objetos?

¿Cuál es una buena manera de entender la pérdida de Minkowski con una configuración diferente?

¿Cuál es el mejor marco de recomendación para mi primer sistema de recomendación?

¿Cuál es la diferencia entre el entrenamiento por lotes, en línea y mini-lote en redes neuronales? ¿Cuál debo usar para un conjunto de datos de pequeño a mediano tamaño con fines de predicción?

¿Cómo se usan las estadísticas en Machine Learning?

¿Hay un equivalente a Rosalind en el aprendizaje automático?

Neil Lawrence: ¿Qué opinas sobre la relación entre las estadísticas y el aprendizaje automático?