¿Qué laboratorios universitarios están trabajando en inteligencia artificial explicable?

Todos ellos. Todos y cada uno.

¿Conoces el chiste sobre cómo ponen barcos en las botellas? Ponen algo de basura allí, se sacuden, a veces consiguen un barco …

No es cómo haces investigación. Todo lo que haces en el experimento debe ser entendido. Solo porque, bueno, escribiste cada línea de código en él.

Algunas personas confunden “explicable” y “para tontos”. Se están realizando muchas investigaciones sobre las vulnerabilidades en las redes neuronales, especialmente en la visión por computadora. La regresión lineal es tan “explicable” porque es muy simple. Para entenderlo, apenas necesitas tu sistema neuronal autónomo. Incluso una médula espinal es probablemente suficiente. Para dar sentido a lo que sucede dentro, digamos, un ConvNet, se necesitará una gran red neuronal de tipo biológico.

Nadie está interesado en crear una caja negra más sofisticada solo porque tiene un puntaje más alto en Kaggle. Nada de lo que sale de un laboratorio es una caja negra para quienes lo crearon. No es así como funciona la ciencia, solo porque no haya una explicación popular no significa que nadie la entienda.

La física cuántica también se puede explicar, pero no a un alumno de quinto grado (a menos que el profesor Miroshnichenko le haya enseñado).