Es un problema estrecho pero real.
Estrecho porque la mayoría de los sistemas de IA se basan en matemáticas sólidas. Puede ser complicado, pero no hay misterios allí.
El problema es con una caja de herramientas, las redes neuronales.
- ¿Cómo ingresar al campo de la inteligencia artificial? ¿Cuáles son buenos recursos para ello?
- ¿Cuál es el principal obstáculo que nos mantiene alejados de hacer AGI autoconsciente?
- ¿Qué pasará con las muchas personas que van a perder sus trabajos después de la fuerte automatización de la IA?
- ¿En qué asignatura de matemáticas debería especializarme si quisiera trabajar en IA?
- ¿Pueden los humanos ser reemplazados por robots con inteligencia artificial?
Las redes neuronales manipulan dimensiones muy grandes. Fueron inventados para manipular dimensiones muy grandes, y de alguna manera aún no pueden escapar de la maldición que conlleva.
Una imagen de 50 × 50 en RGB es un modelo de 7500 dimensiones (“dimensiones” como en 2D o 3D: intente representar mentalmente 7500D …). Y un auto sin conductor necesita reconocer el borde de la carretera, o un oficial de policía levantando su mano, en 400 milisegundos, usando mucho más que una imagen de 50 × 50 píxeles.
La solución, inventada en los años 70, fue dividir estos cálculos en millones de pasos simples, imitando cómo podría funcionar el cerebro. Tomó 20 años hacerlo funcionar correctamente. Ahora lo hace
Entonces, ahora podemos calcular, pero debido a que atraviesa millones de operaciones únicas, realmente no podemos rastrear lo que se computa, y arreglar lo que está mal.
El problema de las grandes dimensiones sigue con nosotros.
Las neuronas hacen un trabajo matemático, los millones de cálculos interconectados que necesitan para extraer reglas de los millones de combinaciones de píxeles. Desglosamos el problema para hacerlo computable, pero esto no nos da un “modelo” de lo que se hace. No podemos “pensar” al respecto, entender y arreglar las cosas. No podemos pasar de a a b a c y d y decir: así es como el sistema reconoció las imágenes, esto es lo que usó. No podemos ponerlo en la pizarra y no podemos depurarlo.
Hoy no es un gran problema porque la mayoría de lo que hacemos con estas aplicaciones sigue siendo lo suficientemente simple. Sabemos cuando está mal.
Pero el objetivo de la industria es, por supuesto, construir sistemas más complejos. Una mayor abstracción hará que sea más difícil identificar la respuesta correcta, y si no podemos hacerlo, no confiaremos ni utilizaremos el sistema. 22 capturas.
No es aceptable para los sistemas que se ocupan de la vida y la muerte: el ejército y la medicina. Es por eso que la medicina tiene una relación de amor y odio con la IA, y el ejército (DARPA) está financiando proyectos de investigación para encontrar una solución.
Buen artículo aquí: DARPA está financiando proyectos que intentarán abrir las cajas negras de AI
Ese trabajo de DARPA comenzó en noviembre pasado. Desde entonces hemos visto conferencias y ponencias todos los meses …
