¿Cómo funcionan los métodos de conjunto y por qué son superiores a los modelos individuales?

Esos documentos sobre: Métodos de conjunto (es decir, sistemas de clasificación múltiple), diversidad de clasificadores de conjunto y selección dinámica de clasificadores son lo suficientemente buenos como para tener una comprensión general de la idea y la motivación de MCS.

• Una encuesta de sistemas clasificadores múltiples como sistemas híbridos
• Un análisis de las medidas de diversidad.
• Selección dinámica de clasificadores: una revisión exhaustiva

Responde tu pregunta de una manera muy simple:

Imagine que tiene una enfermedad extraña y desconocida, y tiene la opción de ir a un solo médico o al Comité de un médico de varias áreas de conocimiento, ¿cuál elegiría? Esa es la idea general detrás de los métodos de conjunto (es decir, sistemas clasificadores múltiples).

Ensemble Methods utiliza dos o más clasificadores diversos (a veces clasificadores de diferente naturaleza) con la esperanza de que, en promedio, un conjunto de clasificadores tenga un rendimiento más alto que un solo clasificador. Si tiene 10 clasificadores, cada uno clasifica erróneamente el 10% del patrón de prueba … imagine que todos los clasificadores son 100% diversos … el uso de todos los clasificadores le dará un 100% de precisión, mientras que uno solo le dará un 90% de precisión. Es por eso que, en un método de conjunto, desea generar clasificadores que tengan diferentes regiones de competencia (están equivocados en diferentes áreas del espacio).

Ahora, hagámoslo aún mejor, imagine que tiene un hospital con varios médicos de diferentes áreas. Cada vez que llegue al hospital, un médico general lo examinará y, conociendo a todos los médicos y los pacientes anteriores, lo enviará al médico que cree que es la mejor opción para usted. En comparación con solo ir a un médico general, sería un gran negocio, ¿verdad? Esa es la idea detrás de Dynamic Classifier Selection (DCS), o Dynamic Ensemble Selection (DES).

Dada una muestra de prueba, el algoritmo DCS seleccionará el clasificador con mayor precisión de clasificación en la región de muestra de prueba. La precisión local general es un método DCS que, dada una muestra de prueba x, encuentra los vecinos K más cercanos de x en el conjunto de validación, y selecciona el clasificador que clasifica mejor a esos vecinos para hacer la clasificación de x.

¡Avísame si tienes problemas para entender esos documentos!

Los diferentes métodos de conjunto utilizan diferentes técnicas, pero dos de las técnicas originales son el embolsado (submuestreo de los datos de entrenamiento) y el refuerzo (centrado en instancias de entrenamiento mal clasificadas y reaprendizaje con diferentes pesos).

Cada uno funciona por una razón diferente.

• El ensacado funciona porque algunos algoritmos de aprendizaje subyacentes son inestables: entradas ligeramente diferentes conducen a salidas muy diferentes. Si puede aprovechar esta inestabilidad ejecutando múltiples instancias, se puede demostrar que la inestabilidad reducida conduce a un menor error. Si desea comprender por qué, el papel de ensacado original ( http://www.springerlink.com/cont …) tiene una sección llamada “por qué funciona el ensacado”
• El impulso funciona debido al enfoque en definir mejor el “borde de decisión”. Al volver a ponderar los ejemplos cerca del margen (los ejemplos positivo y negativo) se obtiene un error reducido (consulte http://citeseerx.ist.psu.edu/vie …)