¿Qué es la red neuronal de valor complejo?

El aprendizaje automático se trata de aplicar familias de funciones que garantizan más y más variaciones en el espacio de peso.

Esto significa que los investigadores de aprendizaje automático estudian qué funciones son las mejores para transformar los pesos de la red neuronal artificial, de modo que los pesos aprenden a representar buenos valores para los cuales la red neuronal artificial puede producir hipótesis o conjeturas correctas .

Las redes neuronales de valor complejo son otra forma de representar valores más ricos en los pesos del modelo; porque los valores complejos pueden permitir que se capture más información sobre el espacio de entrada , en términos de cambios de fase, etc., que está más allá del espacio de magnitud de la característica, aprendido en redes neuronales valoradas reales típicas, como Abhishek menciona en su maravillosa respuesta.

No solo pueden aprender pesos más ricos, sino que son computacionalmente superiores a las redes neuronales de valor real:

  1. Para algunos problemas, se necesitan menos números de nodos o neuronas de valor complejo para aprender tareas; por ejemplo, para alguna tarea [matemática] T [/ matemática], se requieren muchas más neuronas o neuronas valoradas reales que complejas para realizar la tarea [matemática] T [/ matemática].
  2. Para algunos problemas, las redes de valores complejos eliminan la necesidad de un gradiente de descenso / retropropagación.

Aquí hay una buena entrada introductoria en el blog de la red neuronal compleja de Tariq Rashid:

Redes neuronales de valor complejo: experimentos

Aquí hay un artículo de 2017 sobre Deep Complex Networks, de Chiheb et al:

[1705.09792] Redes complejas profundas

Una red neuronal de valores complejos es una red neuronal que puede manejar valores complejos. Si ha visto las funciones de activación, generalmente tratan con números con valores reales y no manejan valores complejos que consisten en valores reales e imaginarios.

Esto es útil para las aplicaciones de procesamiento de audio, ya que se realiza una gran cantidad de análisis utilizando la transformación de Fourier, que es una transformación de valor compleja. Actualmente las personas usan la forma polar para el análisis, es decir, la magnitud de los números complejos para el análisis. Pero la fase también es importante y tener una red neuronal de valor complejo nos permitiría observar todo el valor y no solo su magnitud.