¿Cuáles son las posibles preocupaciones éticas de una IA que cree que los investigadores no han logrado abordar?

Nos hará irrelevantes como especie. Un patrón común con la automatización es que lo “humano” se convierte en el eslabón débil. Un ejemplo clásico es un accidente aéreo debido a que el piloto leyó mal el censor. Esto sucede todo el tiempo.

¿Cómo nos sentiríamos si en el futuro AI escribiera artículos de noticias mejores (menos sesgados), escribiera software con menos errores, gobierna nuestras ciudades y naciones con menos corrupción?

¿Dónde estamos en la foto? Bueno, nosotros somos el producto. La publicidad está altamente automatizada hoy y trata nuestra atención como “tráfico”. Este es el futuro para todo lo producido. Pero no se detiene ahí. Eventualmente, esas corporaciones totalmente automatizadas comenzarán a comerciar con ellas mismas más que al servicio de los humanos, por lo tanto, nuestro impacto en la economía disminuirá rápidamente.

Tenga en cuenta que ni siquiera estamos hablando del nivel humano de inteligencia en estas IA. Todavía son IA altamente tontas y altamente especializadas.

El mayor problema con la IA no es que nos aniquile, sino que nos hará irrelevantes.