¿Pueden los robots tener una inteligencia artificial tan poderosa que puedan apoderarse del mundo y evitar que la gente los destruya?

Lo que estás describiendo es básicamente la premisa de las historias de “Humanoides” de Jack Williamson, donde los robots controlan nuestras acciones hasta el punto de que nos impiden comer comida chatarra o participar en pasatiempos como el trabajo de la madera que podría ser peligroso. Esto vino a costa de minar la voluntad y la chispa creativa de la humanidad.

Las historias eran viejas cuando las leí e incluso eso han pasado muchos años. Si soy confuso en los detalles, siéntase libre de corregirme).

Dicho esto: muchas personas parecen tener un malentendido general de exactamente qué es la inteligencia artificial. La Inteligencia Artificial es una colección de sistemas con la capacidad de tomar decisiones. En realidad, ha existido en varias formas durante mucho tiempo.

En los últimos tiempos, las mejores computadoras que pueden hacer comparaciones y extrapolaciones rápidamente, combinadas con sensores sofisticados con habilidades que no se conocían hace solo unos años, han creado una explosión de capacidad en los sistemas de inteligencia artificial.

La publicidad que ve cuando navega por Internet se basa en lo que los sistemas de inteligencia artificial “saben” acerca de usted a partir de sus hábitos de navegación y compras en línea. Del mismo modo, la ortografía automática y la corrección más sombría incorporadas en los procesadores de texto y los sistemas de ingreso de texto, la traducción de idiomas, el reconocimiento facial, los automóviles autónomos, son todos ejemplos de tecnología de IA contemporánea.

El resultado final de lo que la IA puede hacer en última instancia viene a lo que está conectado. Si se trata de un tren de fuerza y ​​un sistema de dirección, obtienes un automóvil autónomo. Si es la capacidad de lanzar armas nucleares, obtienes Colossus o Skynet.

Cuando habla de una IA que “se apodera del mundo” para “protegerla”, está describiendo un sistema que puede examinar el estado del “mundo” y luego enviar agentes de algún tipo para hacer cumplir su voluntad.

Para llegar allí, tenemos que darle a la IA las herramientas con las que necesita para trabajar. Tendría que poder detectar todas las partes de los sistemas enormemente complejos que han evolucionado o se han creado de los que dependen los humanos. ¿Se puede crear una IA que pueda controlar el clima y las poblaciones de insectos, la química del suelo y todo lo demás que se dedica a la agricultura para alimentar a la población del mundo?

¿Cuándo comenzamos a dar a las máquinas armas y les permitimos decidir a quién apuntar y cuándo apretar el gatillo?

Por otra parte. . .

Hay muchas noticias sobre automóviles autónomos, robots de almacén y sistemas de control de inventario. Es solo cuestión de tiempo antes de que una compañía como Amazon cree un sistema que descargue los camiones sin conductor, almacene los estantes mientras actualiza el inventario actual, cargue cajas y recoge y clasifique los pedidos por destino para ser entregados, nuevamente por vehículos automáticos. ¿Cuánto trabajo manual es eliminado por ese proceso en nombre de la rentabilidad? ¿Cuándo comienza Watson de IBM a dejar sin trabajo a médicos y abogados?

Puede que eso no sea tan malo, pero resulta ser MI futuro cercano “pesadilla de IA”. En mi opinión, no es que debamos temer a un ejército de robots Terminator que destruyen sistemáticamente a la humanidad, como sucede cuando los robots reemplazan a los trabajadores en el nombre del capitalismo.

Solo si les damos ese poder. Probablemente no seremos lo suficientemente tontos como para hacerlo a propósito, pero existe una teoría de que podríamos desarrollar IA que evolucione y se vuelva independiente de nosotros. Eso es un largo camino en el futuro, pero si no queremos que suceda, ahora es el momento de crear sistemas culturales y legales para evitarlo.

Ahora mismo eso es para películas de ciencia ficción. Tenemos un largo camino por recorrer antes de que me preocupe.