¿Por qué podrían estar equivocadas las estimaciones de la IA que se está desarrollando tan rápido como 2030?

No lo creo:

• Los aviones no vuelan como pájaros, los automóviles no corren como caballos. ¿Por qué debería simular un cerebro ser el camino a la IA?
• El secreto del cerebro es aprender. Adquirir las capacidades y el conocimiento de un ser humano adulto requiere mucho esfuerzo de aprendizaje. Estamos lejos de comprender cómo funciona esto, e incluso si supiéramos que no querríamos una IA que necesita ser entrenada 20 años (o más) como un humano.
• Estoy muy seguro de que este aprendizaje no será posible sin un acceso propio a la realidad. No es suficiente simular un cerebro, necesitas simular un cuerpo y un mundo a su alrededor.
• Después de todo, no necesitamos ni queremos un humano como inteligencia. Hay 7,5 mil millones de personas en la tierra, ¿por qué gastar billones de dólares para desarrollar algo que ya está allí? ¿Por qué desarrollar algo que es propenso a errores y emociones como los humanos? Lo que queremos es una IA que interactúe con los humanos de manera significativa.
• Además, un cerebro no es simplemente una gran red neuronal. Consiste en una gran cantidad de componentes funcionales altamente especializados que interactúan entre sí (por ejemplo, buscar el sistema de memoria humana). Las neuronas son solo los elementos más primitivos, al igual que los transistores en una computadora.
• Lo que necesitamos es una mejor comprensión de cómo funcionan realmente estos componentes funcionales. Creo que esto es absolutamente factible, pero también es una investigación fundamental realmente difícil. No esperes que ocurra demasiado en unos 15 años.
• No te creas la exageración. Usar redes “profundas” (término relativo) para el reconocimiento de patrones es una idea muy antigua, ya lo vi en los años 90. Lo que sucedió es que las capacidades SIMD de los procesadores GPU modernos hicieron que la simulación de redes neuronales fuera barata, para que pudieran usarse en problemas de la vida real. Esto está bien y bien, pero no lo hacemos, pero estamos en condiciones de lograr la inteligencia humana como mañana.

La estimación es en realidad un poco conservadora en mi opinión. Pero el poder de la computación por sí solo no significa que podamos lograrlo.

El hecho es que ya tenemos suficiente potencia informática para producir una red neuronal del mismo tamaño y complejidad del cerebro humano. Pero no entendemos los principios detrás de la operación del cerebro lo suficientemente bien como para usar ese poder para producir una IA fuerte. Tampoco entendemos los modelos que ya tenemos lo suficiente como para predecir de manera confiable qué cambios menores les harán.

La investigación en IA tiende a moverse en ataques y chorros en lugar de una línea recta. Algunos avances importantes han sido accidentales . No es el tipo de campo que se presta a una ordenada línea de tiempo de desarrollo.

¿Es el cerebro humano una computadora? No puedo darte un ejemplo de una función incalculable que un cerebro humano puede calcular, puedo darte una función indescriptible (castores ocupados) pero no puedo formalizar una que luego puedo ejecutar pero una computadora no puede. Por el momento nadie (que yo sepa) puede, si alguien puede: ¡Fields Medal! Horray!

Pero esto no significa que tales funciones (por así decirlo) no existan; la máquina para describirlos puede no existir: los humanos trabajan en el nivel 1, posiblemente las máquinas para hacer funcionar el nivel 1 están en el nivel 2, para escribir el nivel 2 puede requerir un sistema de nivel 3 o un sistema de nivel 2 que es diferente del sistema de nivel 2 que se requiere para hacer el nivel 1.

¡O algo!

Algunas personas piensan que el cerebro humano es bastante parecido al hipocampo, pero más grande, pero otras personas dirían que el cerebro es bastante diverso y contiene una serie de estructuras complejas. Además, las personas que piensan que el cerebro es como un gran hipocampo piensan que comprenden fundamentalmente cómo funciona el hipocampo, pero si bien pueden simular algunos aspectos de cómo parece funcionar, el hipocampo está situado en un (enormemente, más allá del cerebro, más allá el cuerpo) sistema más grande y aislar su comportamiento aún no se ha hecho. Ahora se entiende que las células gliales (¡diversas células gliales!) Desempeñan un papel en la transmisión de señales en el cerebro, las hormonas, la temperatura, los niveles de oxígeno y el daño patológico también son factores.

Pero en sus propios términos, el trabajo actual es deficiente. Entendemos que la cognición es una actividad social y aprender a incorporar la capacidad en la competencia general; La IA actual no abarca estos conceptos. El programa actual no funciona para ofrecer sistemas que coincidan con el consenso filosófico de lo que es la IA, entonces, ¿cómo puede tener éxito en ese sentido? Para ser justos, las personas que trabajan en IA ahora (creo) no harían esta afirmación en absoluto, pero creo que dirían que están tratando de resolver algunos problemas particulares o simular algún comportamiento en particular.

Entonces, tres razones: puede ser que no podamos concebirlo; sabemos poco sobre cómo funciona en el modelo que tenemos; y el programa principal de investigación no lo aborda.

¡Aparte de eso, todo es ganar!