Las redes neuronales artificiales son notorias a este respecto, especialmente cuando son profundas.
¿Mira esta red y me dice si cree que alguien sabe cómo interpretar el significado de la neurona 7 en la capa oculta 2?
- ¿Alguien en Quora ha usado una supercomputadora para cosas informáticas normales?
- ¿Qué consejo le darías a un profesor asistente de investigación en ciencias de la computación (sistemas) que quiera abandonar la academia y entrar en la industria? ¿Qué habilidades necesitaré para que la academia no me equipe? ¿Es esta una buena idea?
- ¿Cómo se fabrican las máquinas que fabrican máquinas que fabrican productos?
- ¿Cuáles son buenos ejemplos de procesamiento de lenguaje natural superficial (SNLP)?
- ¿Cuáles son algunas de las mejores prácticas para construir modelos de aprendizaje automático de múltiples pasos? Cuando la salida de los modelos ML de nivel inferior se convierte en entrada para el modelo de nivel superior, ¿cómo minimizaría el error y mejoraría la precisión?
Las redes reales también son mucho más grandes, lo que lo hace aún peor. Sí, hay esfuerzos para visualizar lo que sucede dentro de las redes neuronales, como las espeluznantes imágenes de ensueño de DeepMind de Google, pero los ANN todavía son cuadros negros en su mayor parte.
También se sabe que las máquinas de vectores de soporte son difíciles de interpretar, ya que producen límites de decisión no lineales y no intuitivos, así:
En el extremo opuesto del espectro, tienes árboles de decisión .
Estos son excelentes para comprender lo que está sucediendo. Simplemente sigue la rama hasta llegar a la hoja y luego sabes exactamente por qué el modelo predijo lo que hizo.
Desafortunadamente, los árboles de decisión a menudo se implementan como conjuntos en la práctica para mejorar la precisión y reducir la varianza. Los bosques aleatorios y los árboles impulsados por gradientes son modelos bastante simples conceptualmente, pero una vez que se agregan decenas o cientos de árboles, resulta poco práctico tratar de interpretar por qué el modelo hizo una cierta predicción.
Este es uno de los principales problemas del aprendizaje automático en la actualidad. Los algoritmos de mejor rendimiento también son los menos transparentes.
