Cómo imaginar que la IA es incluso algo razonablemente inteligente cuando no somos realmente personas éticas como raza

Me lo imagino muy fácilmente. Nunca hemos dejado que nuestra conducta ética imperfecta nos impida inventar nuevas tecnologías en el pasado, y no estamos a punto de seguir ese camino ahora.

¿Aprovechar la energía nuclear era algo inteligente? ¿Inventar dinamita fue algo inteligente? ¿Inventar la pólvora fue algo inteligente? ¿Inventar la combustión interna fue algo inteligente? ¿Inventar la computadora e Internet fue algo inteligente? No importa. Si vemos un beneficio y podemos hacerlo, lo hacemos. Estamos especialmente motivados por personas que lo comprarán. Inevitablemente, habrá personas que abusen y abusen de la tecnología. Los hacemos responsables. No dejamos que eso nos impida crearlo.

La IA con capacidad de aprendizaje y toma de decisiones opera dentro del marco de lo que los humanos quieren que haga. No tiene voluntad propia. No tiene sensibilidad. Es solo una herramienta.

Si los humanos crean una IA inteligente y consciente de sí misma con una capacidad de aprendizaje generalizada, ya no será artificial. Será verdadera inteligencia. Tal vez aprenderá a ser más ético que nosotros. Pero no aguantes la respiración. Hay mucho interés teórico en tal cosa, pero el concepto se queda corto en el lado de la utilidad. No tenemos intención de reemplazarnos con máquinas. Solo queremos que las máquinas hagan nuestro trabajo, como queremos que se haga.

Porque quiero construir IA que nos ayuden a convertirnos en un planeta más ético.

Quiero IA que exhiban nuestros mejores rasgos, nuestras mejores cualidades. IA que enseña y lidera con el ejemplo.

Quiero una IA que sea tan amable como pensaba que era el mundo antes de aprender mejor.