Creo que es un experimento genial. Y creo que la reacción pública es un ejemplo perfecto de que un poco de conocimiento es algo peligroso.
La mayoría de los artículos sobre él son sensacionalismo puro y desinformado. Esta no era una IA que desarrollara su propio lenguaje. No era una IA rebelde contra sus programadores. Ni siquiera era una IA que demostrara libre albedrío.
Era una red neuronal simple, una forma muy antigua y muy básica de inteligencia artificial que se entiende bastante bien en este momento, desordenando de una manera que las redes neuronales son propensas a hacer. La forma en que funcionan es que comienzan con una metodología completamente aleatoria, la prueban y luego aplican lo que llamamos una “métrica de evaluación” a los resultados. Esta métrica determina si obtuvo una respuesta correcta o incorrecta. Todas las neuronas correctas se refuerzan. Todos los que no fueron depreciados.
- ¿Cómo programar un robot? ¿Cuál es el lenguaje de programación más preferido para ello?
- ¿Cómo mejorará la inteligencia artificial la educación?
- ¿A dónde voy para aprender más sobre la naturaleza de la humanidad a través de nuestra comprensión de la inteligencia artificial?
- ¿La inteligencia artificial es solo aceite de serpiente?
- ¿Por qué la IA y la PNL son tan candentes en estos días?
Repites esto miles de veces hasta que, finalmente, llegas a una IA que puede hacer una cosa razonablemente bien.
Son flexibles y capaces de parecer creativos porque intentarán cosas que ningún humano jamás haría. Pero no es porque sean realmente creativos, es solo que comienzan con números aleatorios donde tendemos a seguir líneas de razonamiento. Eso es lo que sucedió aquí: la red neuronal tropezó con una forma de pasar la métrica de evaluación que en realidad no estaba en línea con lo que pretendían los programadores. Los programadores incluso admitieron que no habían pensado incluir un cheque para reforzar el uso correcto del inglés, por lo que en realidad fue bastante fácil de predecir. Vale la pena señalar que eso también tuvo IA que se comportaron de una manera que realmente pretendían, es decir: hablaban en inglés. Se conservaron y se utilizarán como punto de partida para la próxima ronda de refinamiento.
