Absolutamente. El documento se aplica ampliamente a todas las redes neuronales profundas conocidas. Muestra un hecho aterrador de que todavía sabemos muy poco de cómo funcionan estas redes profundas.
Antes de continuar, me gustaría abordar su punto “… pero ser perfecto en lo que han visto hasta ahora en el entrenamiento …”. Actualmente, esto no es verdad. Si una red neuronal profunda solo puede ser perfecta en lo que han visto así en el entrenamiento, se llama “sobreajuste”. El propósito y la importancia de una red neuronal profunda bien entrenada es poder “generalizar”, es decir, tener un buen desempeño en datos no vistos. El zumbido del aprendizaje profundo comenzó cuando pudo vencer al otro aprendizaje automático generalizando mejor.
El documento de perturbaciones adversas universales nos dice que el DL de hoy tiene un grave problema de generalización que no existe en el aprendizaje humano. Es un gran descubrimiento y un tema muy interesante. Cómo defender el ataque y mejorar la debilidad sería una buena dirección para DL en los próximos 2 años.
- ¿Cuál es la diferencia entre rpart y randomForest en R?
- Cómo construir un motor de recomendación en tiempo real
- Quiero escribir un trabajo de investigación sobre análisis de sentimientos, pero no sé nada sobre el análisis de sentimientos. ¿Cómo debo proceder?
- ¿Puede un fármaco ser estadísticamente efectivo para toda la población, pero estadísticamente no es efectivo para todas las subpoblaciones (como hombres y mujeres) por separado?
- ¿Debo ir por TensorFlow o PyTorch?