¿Podrían los programadores crear un robot con inteligencia artificial mayor que ellos?

Sí, los programadores pueden crear máquinas que sean más inteligentes que ellos, porque:

  • La inteligencia humana está limitada por la biología, pero la inteligencia artificial es artificial y puede escalar a máquinas cada vez más grandes.
  • La inteligencia humana se limita a los cerebros individuales, pero la inteligencia de la máquina puede crear vastas redes.
  • La inteligencia humana se limita a la comunicación imperfecta a velocidades verbales, pero la inteligencia de la máquina puede transmitir grandes cantidades de datos perfectamente.
  • La inteligencia humana se limita a un algoritmo de aprendizaje fijo, pero las máquinas se pueden reprogramar con cualquier algoritmo de aprendizaje que se pueda descubrir.
  • La inteligencia humana no se puede aumentar directamente con la inteligencia artificial, pero la inteligencia artificial se beneficia de la constante comprensión y mejora que proporcionan millones de programadores a diario.
  • La inteligencia humana está limitada por la percepción humana lenta, pero las máquinas pueden procesar grandes cantidades de datos.
  • La inteligencia humana es propensa a errores, que la inteligencia de máquina puede superar al proporcionar un cálculo más confiable.
  • Las máquinas no se limitan a hacer exactamente lo que los humanos les dicen que hagan, sino que se están convirtiendo en sistemas de aprendizaje general más capaces que pueden descubrir cómo hacer las cosas por su cuenta.

Puede ver algunas de estas tendencias en las noticias existentes sobre robots. Por ejemplo, el artículo de Superintelligence muestra un gráfico de cómo el reconocimiento de imágenes siguió mejorando año tras año hasta que en 2015 finalmente superó la tasa de logros humanos. No se requería nada mágico o especial para superar esta línea, solo una acumulación gradual del progreso de la máquina.

Otro ejemplo es el juego Go, que fue recientemente conquistado por AlphaGo. Leí que gran parte de su estrategia se aprendió automáticamente jugando muchos juegos contra sí misma, y ​​de hecho podría haber sido totalmente programada de esa manera en lugar de ser sembrada primero al referirse a juegos anteriores por expertos. Entonces, AlphaGo es un sistema de aprendizaje que, en efecto, se enseña a jugar Go, con resultados que obviamente exceden la habilidad Go-playing de quien lo haya programado, ya que se encuentra entre los mejores del mundo ahora.

Dado que AlphaGo es un sistema de aprendizaje, la programación solo tiene que describir las características de cómo funciona un sistema de aprendizaje, y no el proceso paso a paso que el sistema de aprendizaje va a lograr. El proceso proviene de la capacidad de las máquinas de considerar cantidades masivas de datos, como el programa de reconocimiento de imágenes que mastica arrojó millones de fotografías en busca de características, o por cantidades masivas de simulación, como el programa AlphaGo que mejora su juego simplemente jugando toneladas de juegos contra sí mismo. Son los datos y la experiencia los que alimentan el sistema de aprendizaje, y no solo las instrucciones paso a paso que le proporciona el programador, que se vería limitado en su cumplimiento si eso fuera todo lo que pudieran proporcionar.

En cuanto a tener miedo a los robots, una analogía en la que pienso es la potencia. El automóvil en su camino de entrada tiene una cierta cantidad de caballos de fuerza, que es el poder que puede crear un caballo. Sin embargo, el simple hecho de que tenga 200 caballos de fuerza no lo convierte en el carro de los dioses. Todavía es solo una máquina que se encuentra en su camino de entrada.

Entonces, si en el futuro, tienes una computadora o un robot que tiene 200 poderes cerebrales, creo que esa experiencia sería igualmente irrelevante. El poder del cálculo mental realizado por el cerebro humano no es mágico ni especial, solo una unidad como la fuerza humana, y excederlo no representa nada peligroso.

Solo una persona que sea lo suficientemente inteligente como para comprender cuán inteligente es puede crear algo que sea más inteligente que él. Obviamente, nunca querrás que alguien sea más inteligente que tú. Los avances pueden denominarse inteligencia, pero en realidad nunca se acercan. a ‘la’ inteligencia.

Sí, es muy posible.

El programa Deep Blue que venció al gran maestro Kasparov tenía consultores que eran grandes maestros, pero ninguno de ellos podía vencer a Kasparov por sí mismos. Sin embargo, el programa que ayudaron a diseñar fue capaz de derrotarlo. Entonces, el programa tenía mejores habilidades para esta tarea que los consultores que lo diseñaron.

Por supuesto que puedes con la advertencia … ¿más grande que ellos en qué? Podría escribir un programa muy simple para encontrar números primos, que esencialmente verificaría cualquier número n si es divisible por cualquier número menor que n. Obviamente, esta es una forma bastante tonta de buscar números primos (no tiene que verificar números mayores que la raíz cuadrada de n, o cualquier número no primo), pero ¿sabe qué? Usando ese algoritmo tonto, mi vieja computadora portátil me patearía el trasero. Claramente, mi computadora portátil ahora es un buscador de números primos mayor que yo.