¿Qué intentos hay para crear redes neuronales más similares al cerebro biológico?

La “ingeniería neuromórfica” es un campo que piensa mucho más sobre el aspecto de la neurociencia de las cosas que la IA.

Actualmente, los principales focos de la investigación neuromórfica son:

  1. Neuroprotésica
  2. Robótica
  3. Simulación cerebral a gran escala

(1) y (2) son mucho más aplicables comercialmente en este momento que (3).

Las retinas artificiales (muchos grupos) y las neuroprotésicas (BrainGate – Home) son un área de investigación popular. En neuromórficos, el hardware debe ser capaz de interactuar con el tejido neural y decodificar la actividad eléctrica, por lo que parte de esa investigación implica construir modelos del tejido con el que el hardware está interactuando.

(2) es un área de nicho, con algunos grupos construyendo pequeños robots que usan poblaciones neuromórficas o tejido neural real)
)

También te puede interesar la “Neurociencia Computacional”, que se trata de construir modelos biológicamente realistas. En este punto, la línea entre “aplicaciones prácticas” y “simulaciones” está borrosa, ya que a veces el trabajo teórico puede ser inmensamente práctico para aplicaciones comerciales.

Existe una tendencia reciente en Deep Learning de utilizar diseños cada vez más inspirados biológicamente en redes neuronales artificiales. Los usos prácticos de estos incluyen muchos productos comerciales que poseen un alto grado de IA débil.

En mi opinión, la arquitectura de Numenta es más un modelo cognitivo / a nivel de sistemas con paralelos superficiales a la biología. Cuando comenzaron, sus documentos técnicos reflejaron un diseño mucho más biológico, pero desde que comercializaron sus aplicaciones, se ha convertido más en las arquitecturas típicas de aprendizaje profundo.

Uno es Spaun, una simulación neuromórfica de la cognición. Spaun es una gran simulación dinámica de muchas áreas del cerebro, compuesta de más de 4 millones de neutrones integrados y de fuga, estructurados en conjuntos y redes modelados a partir de la conectividad encontrada en los cerebros.

El modelo de Spaun muestra cómo áreas del cerebro, como la memoria visual y de trabajo, trabajan juntas para producir tipos de cognición (en este caso 8 tareas diferentes completadas con una red) transformando dinámicamente las representaciones neurales de los estímulos y las actividades de la población neural interna que representan objetivos y estados de tareas.

Todos los modelos cerebrales hasta la fecha son muy debatidos y hay muchos campos. He descubierto que es mejor tener una visión funcional integrada de lo que está haciendo el cerebro y ver cada modelo de cerebro destacando uno o más de estos niveles de abstracción.

Muchos de los modelos de investigación de áreas cerebrales construidas con Nengo tienen la ventaja de que a menudo se han correlacionado estadísticamente con el aumento de datos del cerebro. (Ver enlace de trabajos de investigación a continuación). Esto los hace, en mi opinión, algo más biológicamente plausibles que los sistemas simbólicos puros, por ejemplo.

Pero como todas las simulaciones cerebrales, Spaun es una abstracción de lo real construido en un nivel elegido. Para los modelos de Nengo, se encuentran predominantemente en el conjunto neural y los niveles de circuito (con la excepción de cuando ejecuta Nengo utilizando modelos neurales muy biológicamente plausibles en los que se agrega simulación de nivel de neurotransmisores).

Hay varios artículos y charlas que cubren la idea de Spaun y el código es de código abierto. Un artículo de muestra es el Popular Science:

Conoce a Spaun, el cerebro simulado más complejo de todos los tiempos

El libro del Dr. Eliasmith cubre en detalle los principios sobre los cuales fue construido. Cómo construir un cerebro: una arquitectura neuronal para la cognición biológica (Serie Oxford sobre modelos y arquitecturas cognitivas): 9780190262129: Libros de medicina y ciencias de la salud en Amazon.com

Una nueva versión de Spaun saldrá el próximo año con una funcionalidad más interesante.

Consulte la página de Spaun a continuación para obtener más detalles.

Repositorio de modelos neuronales y cognitivos

Como alguien que recogió esto después de que todo se desarrolló, el Marco de Ingeniería Neual (NEF – los métodos matemáticos para simular los cálculos realizados por las poblaciones de neutrones) y la Arquitectura de Puntero Semántico (el SPA – la abstracción matemática para el nivel superior representación de conceptos semánticos en el cerebro) que implementa Nengo y sobre los cuales se construye Spaun, son poderosos y sutiles. Te costará convencerte de que así es como las neuronas se calculan en los puntos. Esta sensación se alternará con asombro por los correlatos biológicos y, cuando construyes un modelo de trabajo grande, asombro por la funcionalidad de comportamiento de estas grandes redes dinámicas, así como su complejidad por un lado y su simple belleza por otro. Es un viaje desde el pensamiento procesal hasta el pensamiento con millones de neuronas interconectadas, procesamiento paralelo simultáneo, masivamente recurrente, controlado por retroalimentación, aprendizaje en tiempo real e interconectado. Usted lo diseña hasta cierto punto, lo programa un poco, lo deja aprender a otro grado y lo guía dinámicamente. Es un arte. Una divertida! Pero un viaje.

Con la llegada de chips neuromórficos, que ofrecen potencia masiva, velocidad y mayor complejidad / sofisticación de las redes computadas, todo utilizando millones de neuronas paralelas, muchos de nosotros haremos este viaje pronto. ¡Muchas demostraciones en el sitio de Nengo y muchos videos en YouTube también! Los primeros allí pueden escribir nuevas aplicaciones neuromórficas y también reescribir todas las aplicaciones que ahora hacemos en el código de procedimiento ML y ofrecerlas a este nuevo mercado. Los chips neuromórficos nos darán baja potencia, cálculo de IA de borde y cómputo de servidor ampliado. A medida que las redes se vuelven mucho más complejas y en tiempo real, esta es la plataforma de elección. Las capas son geniales, pero eso es solo una parte del poder del cerebro. Consulte los chips que provienen de IBM e Intel y la plataforma Spinnaker existente para conocer las opciones de hardware. Nengo los admite o los admitirá a todos y también se ejecuta en modo de simulación en CPU, MPI y GPU, para permitirle comenzar su programación neuromórfica ahora.

Spaun es solo uno de los modelos de circuitos cerebrales biológicos construidos por el laboratorio. Muchos más documentos están aquí CNRGlab @ UWaterloo

El cerebro utiliza el aprendizaje profundo como las redes, pero su poder real proviene de la integración de muchas formas de redes neuronales en tiempo real dependiendo de la dinámica (retroalimentación, atractores, procesamiento continuo de tiempo), demandas de tareas, atención, etc. Si bien tenemos un largo camino para Para comprender el cerebro, los grandes sistemas neuromórficos como Spaun muestran cómo un gran sistema dinámico se puede calcular de forma neural e implementar semántica, procesamiento simbólico y dinámica en un sistema que exhibe comportamientos de alto nivel. Sugiere el camino a seguir para construir sistemas cognitivos de tiempo continuo para ir más allá de la categorización hacia la cognición fluida.

Fue desarrollado por el Centro de Neurociencia Teórica de la Universidad de Waterloo, el enlace está aquí;

Centro de Neurociencia Teórica | Centro de neurociencia teórica

El compilador neuromórfico con el que se creó Spaun es Nengo, enlace: El simulador neural Nengo. Nengo es ideal para programar plataformas neuromórficas como Spinnaker, BrainDrop y el chip Loihi emergente de Intel. El modelo de programación se basa en conjuntos y redes, que es un mejor modelo de abstracción que las capas para el desarrollo de aplicaciones neuromórficas. Si bien es una forma diferente de desarrollar redes de IA, es muy adecuado para construir redes altamente recurrentes e interconectadas como redes de computación líquidas e integrarlas con redes profundas y redes de refuerzo. Spaun tiene todas estas redes trabajando juntas dinámicamente. Spaun es la simulación cerebral funcional más grande desarrollada hasta ahora. Originalmente se publicó en Science en 2012 y pronto saldrá otra actualización que admite el seguimiento de tareas.

————————

Applied Brain Research Inc (ABR) es la startup de la Universidad de Waterloo que comercializa Nengo, el controlador de robótica neuromórfica adaptativa que se construyó con Nengo y un sistema de control de robótica de servicio (un ‘cerebro’ de robot neuromórfico) basado en Spaun. Enlace: http://Www.AppliedBrainResearch.com

Soy el co-CEO de ABR. Cuido el aspecto comercial de las cosas, mi co-CEO y nuestro científico principal es el Dr. Eliasmith, el Presidente de Investigación de Canadá en Neurociencia Teórica. Fue el investigador principal que construyó Spaun con el resto de los fundadores de ABR. Las biografías están aquí http://appliedbrainresearch.com/

Pete Suma, co-CEO ABR

Creo que el algoritmo de aprendizaje cortical de Numenta es exactamente lo que estás buscando. Es un algoritmo de reconocimiento de patrones que utiliza memoria temporal jerárquica y representaciones distribuidas dispersas para hacer aprendizaje automático de una manera basada en cómo Jeff Hawkins ha teorizado que el cerebro funciona. Su capacidad como algoritmo de aprendizaje automático es meh, pero es fascinante verlo desde una perspectiva de neurociencia / cognición.

¡Y la mejor parte es que es de código abierto! Comience en su sitio web -> Numenta | NuPIC. Recomiendo leer el libro blanco -> Libro blanco CLA | NuPIC

No dude en hacer más preguntas si tiene alguna. Me encanta hablar de eso.

Ingeniería neuromórfica – Wikipedia

La Computación Neuromórfica es un campo especial de Computación, Inteligencia Artificial y Redes Neuronales Artificiales donde, en lugar de codificar la Red en una computadora normal, la Red Neural Artificial se construye como un circuito en un Chip. Sus neuronas utilizan fundamentalmente las mismas fórmulas de cálculo que sus primos de software usan para calcular la corriente eléctrica entrante, cambiar sus pesos memristivos (este es un intento flojo de imitar la neuroplasticidad, aunque esto está muy por detrás de lo que un cerebro puede hacer) y luego enviar el amplificado / resistió la corriente a las neuronas cercanas si se cumple un requisito. Aunque se parecen más a un cerebro que a sus primos de software, siguen siendo muy diferentes de cómo funciona realmente un cerebro debido a que se sabe muy poco sobre el cerebro (los chips neuromórficos, por ejemplo, mientras pueden entrenar para una tarea aún no pueden almacenar todos los recuerdos adecuados) como un cerebro puede y aún requiere algo de memoria externa para almacenarlo, aunque esta no es la estructura de von Neumann)

El aprendizaje profundo y las redes lógicas vienen a la mente con respecto a los circuitos neuronales. Las redes bayesianas también imitan el razonamiento humano y la sinaptogénesis.

More Interesting

¿Qué significan las hipótesis finita e infinita en el aprendizaje automático? Cuáles son las diferencias entre ellos?

¿Cómo se puede mejorar Google News?

¿Cómo lidiamos con el conjunto de datos que tiene 3 variables categóricas de 10 variables usando regresión logística?

Aprendizaje automático: ¿es el enfoque descrito a continuación una buena forma de evaluar la calidad de las recomendaciones basadas en comentarios implícitos?

¿Cuál es la importancia del análisis de componentes principales (PCA) en el modelado predictivo?

Como cuerpo técnico, ¿cómo se concilia el hecho de estar basado en datos, abrazar la diversidad de la fuerza laboral y contratar a los mejores?

¿Cuáles son las principales similitudes y diferencias entre los alumnos basados ​​en instancias y las máquinas de vectores de soporte?

¿Cuáles son las formas de ingresar a Stanford para obtener una maestría en informática o una maestría en aprendizaje automático e inteligencia artificial?

¿Un descenso de gradiente funciona en Big Data?

¿Puedo usar algoritmos y bibliotecas ML para empresas?

¿Qué debo aprender para convertirme en desarrollador de software para robótica, inteligencia artificial y aprendizaje automático?

¿Dónde puedo encontrar corpus de texto médico en inglés para entrenar mis datos?

¿Qué trabajo puede hacer un ingeniero de aprendizaje automático para ayudar a las personas?

¿Cómo se compara XGBoost (aumento de gradiente) con Random Forest?

¿Cómo puedo entrenar a un clasificador de imágenes para detectar mi propia cara de un conjunto de datos de 16,000 imágenes?