La evolución de la red neuronal, la técnica de entrenamiento y el algoritmo son tres cosas diferentes.
- Red: el perceptrón multicapa, la red neuronal convolucional, la red neuronal adversaria generativa, la red neuronal residual, etc.son diferentes tipos de red neuronal, cuya arquitectura u otros hiperparámetros pueden optimizarse fácilmente utilizando un algoritmo genético. Pero crear un nuevo tipo de red utilizando un algoritmo genético es un desafío.
- Técnica: abandono, normalización de lotes, etc. son diferentes técnicas de entrenamiento. Para obtener este tipo de técnica se requiere la participación humana o la inteligencia general artificial.
- Algoritmo: la divergencia constructiva, la retropropagación, etc. son diferentes algoritmos de redes neuronales. Esta tarea es algo así como crear un algoritmo usando un algoritmo (genético).
Algoritmo genético:
Para crear un nuevo tipo de técnica, algoritmo o red usando un algoritmo genético se requieren dos cosas:
- ¿Debo hacer ACM ICPC o aprender inteligencia artificial?
- ¿Cómo se puede obtener una comprensión profunda sobre el aprendizaje automático, como publicar artículos sobre NIPS, ICML?
- Cómo ganar dinero haciendo investigación de IA, sin ningún título
- ¿Qué es el aprendizaje federado?
- Hay tantas tecnologías disruptivas al mismo tiempo, ¿qué hará su efecto combinado en la sociedad?
- Representación: una representación de todas las técnicas / redes / algoritmos esperados en una lista simple de variables, que creo que es la parte más difícil. Además, tales representaciones deberían estar habilitadas por tres operaciones genéticas principales: selección, cruce y mutación.
- Objetivo (s): La segunda y última cosa importante es crear una función objetivo de la técnica / red / algoritmo, que se utilizará para obtener el rendimiento de la técnica / red / algoritmo. Si el rendimiento de cualquier técnica / red / algoritmo está representado por más de una función objetivo, se puede utilizar un marco de objetivos múltiples.
