No creo que la ineficiencia sea un problema. Probablemente no sea correcto comparar el número de neuronas en una red neuronal artificial y una real, pero ya deberíamos poder llegar a millones. De acuerdo con esto: Lista de animales por número de neuronas, esto nos pondría en un nivel con un cerebro de ratón.
La otra razón por la que no creo que la eficiencia sea un problema es este gráfico: Desarrollo del rendimiento. Muestra el desarrollo del rendimiento de la supercomputadora (tenga en cuenta que la escala es logarítmica, por lo que el crecimiento es exponencial). En general, no importa cuánta potencia informática se requiera para hacer algo. Si no se puede proporcionar hoy, solo espere diez años, tendremos mil veces más. Punto en el caso: Nvidia acaba de anunciar una nueva GPU que tiene 11 TFlops de potencia de procesamiento. Esto significa que es más rápido que la supercomputadora 500 más rápida de hace 20 años combinada. *
Entonces, la ineficiencia real de las redes neuronales artificiales no está relacionada con el hardware, es que no pueden aprender de una sola vez, generalizando a partir de uno o muy pocos ejemplos. En cambio, necesitan muchos ejemplos de capacitación que los hacen poco prácticos para muchas tareas. El problema es que todavía no sabemos cómo está conectado el cerebro y cómo funciona en detalle. Solo sabemos que no está utilizando la propagación hacia atrás y el descenso de gradiente.
- ¿Cómo deberíamos ponerle precio a nuestros servicios de desarrollo de chatbot?
- ¿Por qué las variables ficticias realmente producen más precisión en algunos casos para el aprendizaje automático?
- ¿Alguna vez ha habido una situación en la que la IA no funcionó correctamente e hizo algo para lo que no estaba programada?
- Cómo hacer un asistente electrónico (como SIRI) con una aplicación de consola en C ++ como mi primer proyecto de investigación
- ¿Qué aprendes de crear un chatbot?
* Divulgación completa: podría ser que los puntos de referencia de hpc son para flotantes de 64 bits, pero eso solo cambiaría el marco de tiempo en unos pocos años.
