Los enfoques actuales de AI y ML son de naturaleza estadística y no pueden generar modelos o descubrir mecanismos causales a partir de datos (a veces los científicos ayudan con AI y ML pero no con AI o ML, y las personas se confunden creyendo que es AI o ML).
Las tendencias y los métodos, incluido el aprendizaje profundo (y las redes neuronales profundas), son enfoques de caja negra que funcionan increíblemente bien para describir datos, pero proporcionan poca o ninguna comprensión de los mecanismos de generación. Como consecuencia, tampoco pueden ser escalables a dominios para los que no fueron entrenados, y requieren toneladas de datos para ser entrenados antes de hacer algo interesante, y necesitan capacitación cada vez que se les presentan (aunque sea ligeramente) datos diferentes .
Con suerte, AI y ML se incorporarán más a los enfoques basados en modelos, dejando atrás las estadísticas tradicionales e incorporando los primeros principios universales algorítmicos. Esto significa impulsar la ciencia fundamental en lugar de simplemente lanzar más recursos computacionales para resolver todo como lo hacen la IA y el ML actuales.
- Si una película de 2 horas sin comprimir suele ser de 1 terabyte, ¿cómo consiguen que quepa en un disco?
- ¿Qué son los personajes de escape?
- ¿Por qué fue difícil romper la máquina Enigma? ¿Fue su diseño muy inteligente y genio?
- ¿Cómo se puede usar Machine Learning para eliminar la política de la oficina?
- ¿Es posible ver si / cuando un archivo fue copiado en mi computadora?
Los ejemplos anteriores potentes de enfoques basados en modelos incluyen el modelado de ecuaciones diferenciales, pero esos enfoques también han carecido de los mecanismos para explorar y actualizar (y por lo tanto mejorar y escalar) modelos y, por lo tanto, lo que se necesita son enfoques fuertes basados en el ciclo de datos de modelo. Afortunadamente, estamos avanzando en esa dirección, aquí nuestro enfoque orientado a la causalidad basado en la inferencia computacional dinámica:
Un cálculo de información algorítmica para el descubrimiento causal y los sistemas de reprogramación
Y aquí un video explicando el método:
Al principio, los resultados pueden parecer menos impresionantes en comparación con las noticias sobre el aprendizaje profundo (DL) que golpea a los humanos en Go, etc. Y hay razones para estar entusiasmado con eso, ya que DL es una herramienta muy poderosa para extraer y analizar datos. El DL eventualmente se incorporará al conjunto de herramientas que los científicos de datos aplicarán por defecto, al igual que las personas hacen análisis de regresión lineal (DL es en realidad un análisis de regresión con esteroides). Sin embargo, los científicos fundamentales continúan empujando desde la dirección opuesta hacia el modelado y la comprensión en lugar de reducir los números de los datos.
Por ejemplo, el documento anterior muestra cómo un motor puede generar modelos casi óptimos a partir de observaciones naturales o inducidas para crear mecanismos generadores que reproduzcan el sistema que a su vez reproduzca los datos, proporcionando así una comprensión profunda de las causas y los medios de dirección para manipularlos. , algo que queremos hacer si queremos, por ejemplo, curar enfermedades en lugar de tratarlas, por mencionar solo un ejemplo. En este otro artículo, una aplicación del método anterior podría modelar aspectos de la evolución natural que han permanecido misteriosos (por ejemplo, explosiones de diversidad, la aparición de genes, etc.) y también pueden acelerar los algoritmos evolutivos naturales y artificiales:
[1709.00268] Las mutaciones algorítmicamente probables reproducen aspectos de la evolución, como la tasa de convergencia, la memoria genética, la modularidad, las explosiones de diversidad y la extinción en masa.
Este video también muestra cómo ha impactado la investigación sobre la cognición:
Aquí hay algunas otras referencias interesantes:
Las redes neuronales profundas se engañan fácilmente: Predicciones de alta confianza para imágenes irreconocibles:
https://www.cv-foundation.org/openaccess/content_cvpr_2015/papers/Nguyen_Deep_Neural_Networks_2015_CVPR_paper.pdf
Abrir una caja negra de red neuronal profunda conduce a una compresión con pérdida de las estimaciones de información mutua entre el conjunto de entrenamiento y la predicción:
https://arxiv.org/pdf/1703.00810…https://arxiv.org/pdf/1703.00810.pdf
Grandes clasificadores, sin causalidad o generación de modelos.
