¿Cómo se comportaría una red neuronal híbrida?

Puede pensar en esta nueva red híbrida como una estructura forestal, en cuyo caso no tiene que realizar el procesamiento de activación neuronal tradicional. Se te pueden abrir otras opciones. En mi libro, construyendo mentes con patrones, tomo percepciones como activación de cómputo de entrada y agrego nodos a la red dinámicamente según muchos principios. Algunos de los nodos se usan para razonar (ya que representan ideas), mientras que otros nodos se usan para resolver problemas (ya que representan soluciones). (Ver Construyendo Mentes con Patrones).

Los bosques también se pueden utilizar para generar predicciones … “[Proponemos] un enfoque de conjunto de árbol de decisión con un rendimiento altamente competitivo para redes neuronales profundas. A diferencia de las redes neuronales profundas que requieren un gran esfuerzo en el ajuste de hiperparámetros, gcForest es mucho más fácil de entrenar. En realidad, incluso cuando gcForest se aplica a diferentes datos de diferentes dominios, se puede lograr un rendimiento excelente con casi la misma configuración de hiperparámetros. El proceso de capacitación de gcForest es eficiente y escalable. En nuestros experimentos, el tiempo de entrenamiento que se ejecuta en una PC es comparable al de las redes neuronales profundas que se ejecutan con instalaciones de GPU, y la ventaja de la eficiencia puede ser más evidente porque gcForest es naturalmente apto para la implementación paralela. Además, en contraste con las redes neuronales profundas que requieren datos de entrenamiento a gran escala, gcForest puede funcionar bien incluso cuando solo hay datos de entrenamiento a pequeña escala. Además, como un enfoque basado en un árbol, gcForest debería ser más fácil para el análisis teórico que las redes neuronales profundas ”(ver https://arxiv.org/pdf/1702.08835…)

Finalmente, puede consultar la arquitectura cognitiva del grupo de Facebook para obtener más ideas sobre arquitecturas de redes neuronales híbridas. (Modero el grupo)

La mejor de las suertes.