¿Podemos entender un sistema mediante la recopilación de todo tipo de datos?

La recopilación de datos no es suficiente para la comprensión, incluso si es posible hacer predicciones precisas utilizando los datos, y los enfoques computacionales puramente basados ​​en datos en la ciencia en realidad pueden conducir a una falsa ilusión de comprensión. Para citar un extracto de la entrevista Noam Chomsky sobre Where Artificial Intelligence Went Wrong publicado en The Atlantic en 2012:

Supongamos que alguien dice que quiere eliminar el departamento de física y hacerlo de la manera correcta. La forma “correcta” es tomar un sinfín de cintas de video de lo que está sucediendo fuera de la ventana y alimentarlas en la computadora más grande y más rápida, gigabytes de datos, y hacer análisis estadísticos complejos (ya sabes, Bayesian esto y aquello) y tú ‘ Obtendré algún tipo de predicción sobre lo que sucederá fuera de la ventana a continuación. De hecho, obtienes una predicción mucho mejor que la que ofrecerá el departamento de física. Bueno, si el éxito se define como obtener una aproximación justa a una masa de datos caóticos no analizados, entonces es mucho mejor hacerlo de esta manera que hacerlo de la manera en que lo hacen los físicos, ya sabes, sin experimentos de pensamiento sobre planos sin fricción, etc. Etcétera. Pero no obtendrá el tipo de comprensión al que siempre se han dirigido las ciencias: lo que obtendrá es una aproximación a lo que está sucediendo.

[…]

Un enfoque muy diferente, que creo que es el correcto, es tratar de ver si puedes entender cuáles son los principios fundamentales que se ocupan de las propiedades centrales, y reconocer que en el uso real, habrá miles de otras variables intervenir: algo así como lo que está sucediendo fuera de la ventana, y los abordará más adelante si desea mejores aproximaciones, ese es un enfoque diferente. Estos son solo dos conceptos diferentes de la ciencia. El segundo es lo que la ciencia ha sido desde Galileo, esa es la ciencia moderna. El tipo de datos aproximado no analizado es una especie de enfoque nuevo, no del todo, hay cosas así en el pasado. Básicamente es un nuevo enfoque que se ha acelerado por la existencia de memorias masivas, procesamiento muy rápido, que le permite hacer cosas como esta que no podría haber hecho a mano. Pero creo, yo mismo, que está dirigiendo temas como la ciencia cognitiva computacional en una dirección de alguna aplicación práctica, pero lejos de la comprensión.

Lista de reproducción de YouTube de partes de la entrevista (dice esto en el segundo video): Noam Chomsky sobre dónde la inteligencia artificial salió mal

Los datos son tan útiles como el modelo en el que puede alimentarlos. Sin el marco adecuado para ver los datos, puede llegar fácilmente a conclusiones falsas.

Mira el Gran Apesta, por ejemplo. Los científicos de la época estaban convencidos de que tres brotes recientes de cólera fueron el resultado del “mal aire”, por lo que no prestaron atención a las aguas residuales que inundaban el Támesis hasta que comenzó a apestar. La instalación de un nuevo sistema de alcantarillado (afortunadamente) resolvió el problema de los despojos en el Támesis de todos modos, pero básicamente tuvieron suerte: esos brotes de cólera probablemente podrían haberse evitado si la teoría de los gérmenes fuera ampliamente aceptada antes de 1880.

Es por eso que el elemento humano es importante: permite la extrapolación sui generis , brindándole nuevas formas de utilizar los datos que ya tiene a su disposición. El análisis por computadora solo puede funcionar dentro del sistema / modelo en el que lo define, lo que significa que depende de los humanos formular hipótesis y proporcionar dichos modelos.

Bueno, si no podemos obtener ningún conocimiento de esta manera, entonces estamos realmente jodidos, porque es la única forma que tenemos de obtener cualquier conocimiento.

En el pasado, la respuesta a esta pregunta ha sido sí, podemos. Todo lo que sabemos del universo que nos rodea es conocimiento adquirido precisamente al usar esta metodología, también llamada método científico. No hay razón para suponer que a medida que investigamos sistemas cada vez más complejos, el método científico no podrá dar respuestas. Personalmente no subestimaría el poder de la mente humana, cuando se aplica a problemas específicos. Mire los avances realizados en los últimos cien años solo.

Los datos conducen a comprender el comportamiento y la estructura del sistema. Más datos se pueden entender más patrones de comportamiento. Comprender estos comportamientos puede llevar a pensar lógicamente y derivar la producción de otros comportamientos similares.

Es posible que no podamos entender el sistema por completo si la complejidad y los patrones de comportamiento son demasiado altos y si se recogen menos.

Por ejemplo: cerebro humano: hay miles de millones de patrones de comportamiento y podríamos reunir solo millones y es por eso que no hemos entendido completamente el cerebro.

p.ej