¿Existe, por casualidad, alguna interconexión entre la teoría de la complejidad computacional y el aprendizaje profundo?

Sí, hay una buena conexión: máquinas neuronales de Turing.

Si pensamos en los programas de computadora como datos, porque son datos, entonces podemos pensar en un algoritmo de ML que, dado un conjunto de entrada de entrenamiento y respuestas, aprenderá el código de un algoritmo que, dada la entrada, creará la salida esperada.

Si esto es difícil de visualizar, piense que puede probar aleatoriamente las máquinas de Turing hasta que obtenga una que haga lo que necesita y recuerde que cualquier algoritmo puede expresarse como una máquina de Turing según la tesis de Church-Turing. Ahora, en lugar de muestrear al azar el enorme espacio de las máquinas de Turing, estamos utilizando Machine Learning para aprender esas máquinas más rápido.

Es sorprendente e interesante pensar en tomar el gradiente de una máquina de Turing para aproximar la máquina que desea crear, apuesto a que ni siquiera Newton pensó en eso.

[1410.5401] Máquinas neuronales de Turing

More Interesting

Quiero aprender matemáticas programando. ¿Cuáles son los proyectos de programación simples pero geniales que requerirían conocimiento de álgebra, cálculo, probabilidad, etc.?

¿Hay evidencia que respalde que P = NP?

¿Por qué la informática teórica es tan seca en los trabajos, a excepción de la academia? Aunque todas las empresas se enfrentan a desafíos, no hay una guerra muy reñida contra problemas difíciles, y las personas tienden a elegir la forma fácil de resolver cada problema.

En términos simples, ¿qué es el algoritmo Z?

¿Cómo verificamos la inexistencia de un camino hamiltoniano?

¿Cómo es O (N ^ 4) la respuesta correcta? ¿Puedes explicarlo paso a paso?

¿Por qué el problema P = NP es el "gran problema" en la complejidad computacional?

¿Cuál es la mejor manera de transformar una secuencia de 0 y 1 en otra secuencia que tenga el mayor número posible de 0 y exista una forma de revertir la nueva secuencia?

Cómo responder a las consultas de rango medio de manera eficiente

Examen de ingreso conjunto (JEE): ¿Quién puede explicar la parte resaltada a continuación?

¿Existe alguna notación conveniente, como la notación factorial (n!) Para expresar la suma de todos los números contados del 1 al n?

¿Cuál es la explicación rigurosa de por qué n / m es el factor de carga en una tabla hash?

¿Cuándo es una función sub o supermultiplicativa?

¿Por qué las máquinas de Turing son un equivalente teórico tan prolífico de lo que puede hacer una computadora real?

¿Cuántas pruebas hay para secuencias?