¿Tienes miedo de la inteligencia artificial?

Si.

Pero no en el sentido habitual del estilo de Hollywood.

No creo que percibirá a los humanos como una amenaza para sí mismo y tratará de destruirnos. Toda la noción de autoconservación está completamente basada en la evolución y, por lo tanto, estará ausente en la IA.

No importa cuán avanzado sea la IA, nunca tendrá ninguna motivación, aparte de los objetivos que establecemos.

Pero aquí está el problema, ya que eventualmente lo usaremos para resolver problemas que no podemos resolver nosotros mismos, no tendremos una comprensión completa de dónde está la solución.

Por ejemplo, es completamente posible que para resolver algún problema matemático la IA llegue a la conclusión de que necesita convertir todo nuestro planeta en una computadora (matando a todos en proceso) y luego proceder desde ese punto.

Así que dudo que la IA tenga alguna mala voluntad hacia nosotros, pero puede haber muchas lagunas sobre cómo destruirnos de todos modos.

Míralo de esta manera: cuanta más energía pueda controlar la gente, más daño hace cuando algo sale mal. Un accidente aéreo, cuando ocurre, mata a más personas que un accidente automovilístico.

El principio similar podría ser cierto para una capacidad de procesamiento de información. Una IA que es poderosa más allá de nuestro entendimiento, podría causar fácilmente demasiado daño solo por accidente.

Si.

Pero no en el sentido de que uno pensaría.

Por ejemplo: muchos temen que la IA “se vuelva tan inteligente como para darse cuenta de que sus contrapartes humanas son inútiles” y luego “neutralizar la amenaza de la humanidad”.

Esto no tiene sentido. De muchas maneras, sería más fácil decir que no sucederá durante mucho tiempo, si es que alguna vez, enumerar por qué tener miedo de los robots asesinos es ridículo.

Entonces, ¿de qué tengo miedo?

Me temo que la IA que desarrollamos será lo suficientemente inteligente como para llevarnos a la obsolescencia. En lugar de una persona volteando hamburguesas, será una línea de ensamblaje de máquinas basadas en IA. En lugar de ir a un contador para presentar impuestos, una máquina lo hará por usted. En lugar de que una persona conduzca un taxi, el automóvil se conducirá solo. Y, con suficiente tiempo como ingenio, incluso los propios programadores serán reemplazados por bots que se programan ellos mismos.

Esta es la IA, me temo. Y la razón de mi miedo es que no sabemos cómo lidiar adecuadamente con esto como sociedad. Para ponerlo en mejores palabras de las que puedo transmitir:

“¿Qué sucede cuando, para todos los efectos, los humanos no necesitan postularse?”

Busque el video de CGP Grays sobre automatización para comprender mejor cuán problemática es para nosotros la amenaza de la inteligencia artificial “lo suficientemente inteligente”.

¿Implementaremos el ingreso básico universal cuando las máquinas nos obliguen a abandonar la fuerza laboral? ¿Cómo define el valor de una persona en la sociedad cuando no está trabajando activamente y viviendo del sistema de la sociedad que hemos construido? ¿Quién comprará las cosas que hacemos cuando nadie tiene dinero para hacerlo? ¿Cómo define el “trabajo” en un mundo donde todo el trabajo lo realizan bots que cuestan mucho menos que un ser humano?

Este es mi miedo. No estamos preparados para esta amenaza en absoluto.