¿Por qué TensorFlow tiene definiciones para muchas operaciones matemáticas?

En TensorFlow, las operaciones se utilizan para construir gráficos de cálculo. No son lo mismo que las operaciones numpy, por ejemplo, que se ejecutan inmediatamente y le dan resultados de inmediato.

En el mundo TensorFlow, construye operaciones complejas a partir de operaciones simples y luego pasa valores a través de esas operaciones. Esto permite que TensorFlow le brinde cosas como la diferenciación automática de extremo a extremo, pero también cosas como distribuir sus operaciones entre CPU y GPU, sin que los valores intermedios tengan que volver a Python, lo que puede llevar una cantidad significativa de tiempo si se están realizando todas las operaciones ejecutado en GPU.

Su llamada para crear una instancia de TF en Python no ejecuta inmediatamente esa operación. En cambio, agrega la operación al gráfico de ejecución de su modelo, de modo que TF sabe que la operación debe ejecutarse cuando llama al método session.run (). Por el contrario, cuando utiliza la mayoría de los métodos NumPy, la acción se realiza inmediatamente cuando llama al método. Por lo tanto, el diseño de TF en el que difiere la ejecución de operaciones hasta que se ejecuta la sesión le impide usar métodos NumPy directamente en lugar de operaciones matemáticas TF. Sin embargo, aún puede usar NumPy en su script TF para cosas como el preprocesamiento de datos para proporcionar las entradas para su modelo.

TensorFlow representa las redes neuronales como un gráfico de cálculo en el que los nodos “núcleos” podrían ubicarse en diferentes dispositivos (formación de GPU múltiple, por ejemplo). Si reemplazó tf.add con numpy add primero, su gráfico no será diferenciable de extremo a extremo, por lo que no puede usar tf.train.optimizer para esa parte del gráfico además de cada vez que use operaciones matemáticas numpy que evaluar ese tensor y transferir su contenido a la máquina maestra.