¿Puede una máquina de Turing simular una red neuronal?

Si una máquina de Turing puede simular una red neuronal natural es una pregunta abierta, vea:

[cs / 0605065] Sobre el posible poder computacional de la mente humana

Si la pregunta es si una máquina de Turing puede simular cualquier red neuronal implementada por computadora, como las de aprendizaje profundo, sí pueden.

Mientras todos los pesos en una red neuronal sean (Turing) computables, una máquina universal de Turing podrá emular la red.

Tenga en cuenta que la respuesta de Ian Goodfellow (actualmente superior) es buena pero bastante errónea al creer que un número real no es computable porque es infinito. Según lo definido por Turing, un número computable (Turing-) es aquel para el cual sus dígitos pueden calcularse por medios finitos, con cada dígito llegando en tiempo finito (observe que nunca trabajamos con precisión infinita en informática o ingeniería, y no sabemos si la naturaleza lo hace). La única forma en que no se puede calcular un número real es si es un número no computable, es decir, uno cuyos dígitos no son computables por una máquina de Turing. El documento mencionado anteriormente cubre estos casos.

La respuesta a esta pregunta depende de cómo defina formalmente “simular” y “red neuronal”.

En general, me inclino a elegir definiciones que respondan “sí”, porque las computadoras modernas usan las redes neuronales con éxito:

  • Si define una “red neuronal” como un modelo matemático del tipo utilizado en aplicaciones de software modernas, donde la salida es una serie de transformaciones lineales y no linealidades de entrada de elementos, entonces no hay nada computacionalmente difícil sobre la simulación de redes neuronales .
  • Si desea ser muy técnico, podría argumentar que los modelos matemáticos de las redes neuronales se definen utilizando números reales, que pueden tener infinitos dígitos, por lo que la máquina de Turing podría funcionar para siempre sin completar una sola actualización. Puede solucionar este problema definiendo “red neuronal” como una aproximación de n bits del modelo que usa números neuronales, o definiendo “simular” para permitir aproximaciones de n bits de la cosa real.

Podría elegir otras definiciones, como hacer que “red neuronal” se refiera a un cerebro real, y luego la pregunta es más difícil de responder porque no sabemos con certeza qué hace el cerebro, o podría elegir un modelo matemático diferente para llamar ” red neuronal “, y algunos de esos modelos podrían ser incalculables.

Si:

  • Una computadora digital moderna es una máquina de Turing
  • Las computadoras se utilizan para simular redes neuronales. Se utilizan para resolver tareas difíciles de aprendizaje. Esos algoritmos de “aprendizaje profundo” que actualmente son tan populares, para vencer a la gente en Go, etc., son ejemplos de redes neuronales artificiales.

More Interesting

Al construir una red neuronal artificial para un simulador de caminata, ¿cuál es el número óptimo de variables de entrada?

Cómo aprender las matemáticas de las redes neuronales de U o T para el aprendizaje automático

¿Una combinación humano-computadora supera a una computadora en ajedrez?

¿Hay alguna conexión entre el aprendizaje automático y la inteligencia artificial?

¿Qué podría valer Tesla en 20 años si incluso supera las expectativas más locas?

¿Cómo la inteligencia artificial cambiará los mercados de valores en el futuro?

¿Por qué necesitamos microprocesadores de alta velocidad para IA si el cerebro humano tiene una velocidad de aproximadamente 20-40 MS?

¿Es una buena idea utilizar un algoritmo de aprendizaje automático para imputar valores perdidos en un conjunto de entrenamiento?

¿Qué empresas están desarrollando aplicaciones para implementaciones de software de arquitecturas cognitivas?

Cómo escribir una aplicación simple de autoaprendizaje usando Scala que comprenda las entradas del lenguaje natural

¿Cuándo reemplazará la inteligencia artificial a los teléfonos inteligentes?

¿Cuáles son los éxitos recientes en IA además del aprendizaje profundo?

¿Cuáles son algunos videojuegos / sims con notable aparición de IA?

¿Qué pasa si Quora ganó sensibilidad?

Inteligencia artificial: ¿Qué tan inteligentes son las mejores personas en inteligencia artificial, en comparación con las mejores personas en matemáticas y física?