¿Cuál es la clave para diferenciar y comparar dos algoritmos de aprendizaje automático?

Suponiendo que está hablando de 2 algoritmos de clasificación que funcionan en el mismo tipo de datos, la métrica obvia para comparar es alguna noción de precisión , tal vez la comparación de precisión en varios conjuntos de datos de referencia.

Algunos otros aspectos para comparar dos algoritmos:

  1. Complejidad : esto está relacionado con la precisión. Esencialmente, un modelo más complejo funcionará mejor en problemas más complejos, pero se sobreajustará en problemas más simples. Un modelo más simple hará lo contrario. Puede comparar cómo controla la complejidad, como en SVM con kernel RBF, tiene un parámetro para controlar el ancho del kernel.
  2. Tiempo de entrenamiento – ¿Cómo crece con el no. de muestras de entrenamiento y el no. de características? También puede analizar los algoritmos de optimización utilizados en cada modelo aquí, como descenso de gradiente, solución de forma cerrada, ISTA, etc.
  3. Tiempo de predicción – Nuevamente, ¿cómo crece con el no. de muestras de entrenamiento y el no. de características?
  4. Tamaños de modelos : ¿qué necesita almacenar para predecir? Habla sobre la complejidad del espacio.
  5. Hiperparámetros – Más el no. de hiperparámetros, se requiere más ajuste para obtener un buen modelo.