¿Es posible aprender automáticamente los diferentes métodos y algoritmos de aprendizaje automático?

Lo que está preguntando se llama “Meta aprendizaje” y ha sido defendido por investigadores como Hutter y Schmidhuber, entre otros. La página de Schmidhuber (APRENDIENDO A APRENDER) contiene muchas referencias y documentos, aunque es muy desordenada. Este sería el último AGI pero aún está en pañales. Sin embargo, creo que ahí es donde radica el futuro de la IA y alentaría al OP a verificarlo.

Por el momento, incluso el trabajo de Hutter y Schmidhuber todavía está limitado por el “paradigma”, así que, por ejemplo, supongamos que tiene una colección de redes neuronales que han sido entrenadas a través del descenso de gradiente para aprender algunos conjuntos de datos. Si mantiene un historial de cada iteración del descenso de gradiente en cada uno de estos conjuntos, efectivamente tiene toda la información sobre cómo se entrenaron. La tarea del algoritmo de metaaprendizaje sería averiguar la regla según la cual se actualizaron estos pesos. Esto es sutil: cuando estás entrenando una red neuronal con descenso de gradiente, le dices a la red CÓMO cambiar los pesos mediante el cálculo del descenso de gradiente. En el proceso de metaaprendizaje, la máquina se presenta solo con los diferentes RESULTADOS del cálculo del descenso del gradiente y se le pide que descubra la regla de actualización del descenso del gradiente. Eso sería aprender a aprender en el contexto muy restringido de las redes neuronales.

Formalmente, lo mismo se puede extender a cualquier método de aprendizaje. El problema con todo esto es que es muy difícil de implementar de manera eficiente a pesar de que es fácil de establecer.

No lo llaman así, pero esto está relacionado con dos áreas:

-modelo de selección

-autoML, es decir, aprendizaje automático

La idea es: ¿cómo reducimos la cantidad de derivación, ajuste manual y conocimiento específicos del modelo necesarios para utilizar el aprendizaje automático con éxito? Documentos como “Inferencia Variacional Automática en STAN” son importantes aquí. Parte del ‘método’ de aprendizaje automático para aplicar inferencia variacional era hacer cálculos de gradiente a mano. Papeles como este apuntan a eliminar esta necesidad.

More Interesting

Cómo resolver el problema de 'La lista negra' en un CodeSprint reciente de HackerRank

¿Desde dónde debo comenzar a aprender los algoritmos necesarios para la programación competitiva?

¿Cuáles son los planes generales para los algoritmos de divide y vencerás?

Staad Pro: ¿Cómo puedo resolver este problema?

Cómo definir una función para encontrar el producto de dígitos en Python usando recursividad

¿Qué puedo aprender ahora en solo 10 minutos que podría mejorar mi pensamiento algorítmico?

¿Puede la longitud de un comando Mathematica o Wolfram | Alpha ser una aproximación aproximada de su complejidad de Kolmogorov?

¿Cómo asigno enteros de o a n en una matriz bidimensional en Java?

¿Dónde se puede encontrar una implementación de árbol de sufijos de la subcadena común más larga?

Cómo medir la precisión de un algoritmo de planificación de ruta

¿Qué debo hacer para mejorar el pensamiento algorítmico, especialmente para la programación dinámica?

¿Cuál es el mejor método de clasificación para usar si solo un elemento está fuera de servicio?

¿En qué tipos de gráfico DFS y BFS producirán el mismo árbol (misma fuente) independientemente de la secuencia de visitas de los vecinos?

¿Puedes darme una idea para un juego simple que implemente el algoritmo (como el algoritmo A *) o la inteligencia artificial para NPC en el juego?

¿Cuál es la forma más rápida de encontrar el número original antes del descuento a mano? (números grandes)