¿Cómo genera el modelo generativo muestras de ruidos?

Tiempo en el blanco! Usted ha formulado la pregunta en el momento adecuado, ya que acabo de leer las “Redes adversarias generativas” de Ian Goodfellow.

  1. En términos generales, las redes generadoras (G) aprenden la distribución de datos de los datos de entrenamiento. Significa que, dado un conjunto de capacitación, G aprende a generar datos similares, como en el conjunto de capacitación para engañar a la red Discriminator. Seguramente, esto sucede mediante la adaptación gradual de los ruidos a las representaciones con la ayuda del descenso de gradiente y la propagación hacia atrás.
  2. Las redes generadoras y discriminadoras se entrenan simultáneamente. Supongamos que estamos en el tiempo T. Tenemos ruido aleatorio N y una imagen de muestra S de los datos de entrenamiento. Primero, el N alimentado a través de la red G y la red G producen una imagen resultante R. Estos R y S se entregan al Discriminador. El discriminador dice cuán diferente es la R de la S y al mismo tiempo aprende la verdadera etiqueta de la S. Esta diferencia se propaga a los remitentes. G y D actualizan sus pesos en consecuencia.

La red generativa aprende de la distribución probabilística del conjunto de datos. En algunas GAN, incluso pueden dar la función para la distribución probabilística.

El modelo discriminatorio y el modelo generativo trabajan juntos, como un juego mini-max. Ambos se impulsan mutuamente para superarse a sí mismos. Al principio del entrenamiento, la D puede rechazar valores de los datos generados por G con gran confianza, con un valor cercano a 1. Lentamente, a medida que la G mejora, los valores de D se acercan a 0. El punto de referencia es cuando la D no puede discriminar entre los datos de entrenamiento y la imagen producida por G.

More Interesting

¿Cuál es la explicación simple del modelo de Ising y Potts?

¿Hay algún otro clasificador de aprendizaje profundo como softmax?

Estoy tratando de evaluar el rendimiento del modelo (regresión). En la literatura, algunos usan RMSE y otros usan correlación. ¿Hay alguna diferencia entre ambos enfoques?

¿Cuáles son algunas habilidades matemáticas altamente relevantes que se requieren si quiero comenzar a investigar en algoritmos de Machine Learning?

¿Cuál es el progreso en visión artificial?

¿Hay alguna métrica de evaluación para chatbots?

¿Es posible verificar manualmente si los vectores de soporte siguen hiperplanos teóricos en SVM usando un núcleo de base radial?

¿Por qué las tasas de aceptación de las conferencias de minería de datos son tan bajas y qué tipo de documentos se rechazan?

¿Cuál sería un enfoque razonable para optimizar los ingresos publicitarios del sitio web utilizando datos de GA y aprendizaje automático?

Supongamos que reuní a todos los usuarios de Twitter que escribieron tweets con las palabras "aprendizaje automático" en ellos (durante el último mes, por ejemplo), y luego construí un gráfico de red basado en sus seguidores. Además de las diversas medidas de centralidad, ¿qué otras técnicas podría utilizar para identificar a las mejores personas a seguir? ¿Cómo lo hace Klout?

Cómo derivar la propagación hacia atrás desde la segunda capa de convolución

¿Cuántas redes neuronales cubre el curso Coursera de Andrew Ng?

Cómo entrenar Word2Vec en un conjunto de datos personalizado

¿Es un doctorado en inteligencia artificial una cosa? ¿O el doctorado estaría realmente en aprendizaje automático / visión artificial, etc.?

¿Debo comenzar a aprender Python y el aprendizaje automático al mismo tiempo?