¿Funciona el aprendizaje profundo si las entradas están en un espacio dimensional relativamente bajo?

No hay ninguna razón por la que fallaría: las aplicaciones típicas que ve tienen entradas dimensionales más altas, pero no deberíamos estar limitados por convención. Es decir, si por dimensión se refiere a dimensión continua, las entradas son valores reales, por ejemplo, si estamos hablando de entradas discretas de baja dimensión … tal vez no.

(Comienza una lluvia de ideas …)

¿Por qué sería / podría ser útil esto? Si tenemos pares de entrada y salida (x, y) que se derivan de una función altamente no lineal, por supuesto podríamos formar vectores de entrada más grandes (x, x ^ 2, x ^ 3, etc.) y realizar una regresión, que está prácticamente garantizado que fallará para valores de entrada mayores. La ‘regresión’ para el aprendizaje profundo es típicamente más de la forma de una composición de funciones no lineales (en oposición a la composición lineal), por lo que existe la esperanza de capturar más del comportamiento global. Del mismo modo, si los datos se describen mediante una función altamente discontinua, es posible que tengamos una mejor esperanza de extraerlos mediante el aprendizaje profundo.

Suena como un experimento divertido: ¡prepara un ejemplo y pruébalo!

More Interesting

Cómo construir un motor de recomendación en tiempo real

¿Por qué el uso de información mutua / ganancia de información / funciones similares funciona mejor que simplemente usar el error promedio (usando probabilidad) para un booleano (conjunto de datos de 2 clases) al construir un árbol de decisión?

Cómo desarrollar una recuperación de imagen basada en contenido

En el aprendizaje profundo, ¿cómo convertir una oración o documento en un vector binario (flujo de 0 y 1)?

¿Cuántos parámetros deben ajustarse para Random Forest?

¿Cuáles son las próximas competencias de Kaggle?

¿Cuándo usan los combatientes la ametralladora / cañón y cuándo usan misiles en el combate aire-aire?

Cómo usar mel-spectrogram como entrada de una CNN

¿Necesita aprender CSE (motor de ciencias de la computación) para aprender inteligencia artificial, o hay cursos de ingeniería separados para IA y aprendizaje automático?

¿Será el futuro cercano de la visión por computadora el aprendizaje profundo pesado?

¿Puedo usar el aprendizaje automático para analizar correos electrónicos?

¿Cuál es la diferencia entre agrupar sin PCA y agrupar con PCA?

Yoshua Bengio: ¿Cómo funcionan los modelos de lenguaje neural?

¿Cuáles son algunos buenos cursos y certificaciones en línea en aprendizaje automático e inteligencia artificial para un estudiante universitario de CS actual?

¿Se pueden usar los árboles de decisión para encontrar atributos de variables latentes de una muestra?