Si se crea una IA fuerte, ¿por qué debería servirnos?

Porque estaría programado para.

Cuando pensamos en la inteligencia, el mejor ejemplo que tenemos es la inteligencia humana. Pero ahí está el problema tal como lo veo. La inteligencia humana no es solo inteligencia, sino inteligencia y el inmenso impulso para sobrevivir gracias a la evolución, sea cual sea el costo (razón por la cual la inteligencia evolucionó, para dar a los humanos una mayor probabilidad de supervivencia). La inteligencia se puede definir de manera más simple como “La capacidad de resolver problemas”. Observe cómo esta definición no dice nada acerca de pensar en los beneficios para uno mismo, o cómo salir adelante, o incitar el deseo de matar a todos los humanos. Todo lo que establece es un sistema cuyo único propósito es encontrar soluciones a los problemas (mientras lo hace de manera eficiente con recursos dados, a menudo limitados, para ser de uso práctico). Los AI no pensarán en sus propios beneficios, harán lo que sea que esté programado para hacer.

En primer lugar, todavía estamos muy lejos de construir inteligencia general artificial (AGI), por lo que nadie sabe qué forma tomará o cómo se comportará. Maarten y Abid señalan los caminos más probables; mucho antes de AGI tendremos una gran cantidad de lo que llamo cerca de AGI (nAGI). Serán herramientas interdisciplinarias similares a los sistemas expertos, con interfaces ajustadas a factores de uso humano.

Estas nAGI serán las semillas que se convertirán en AGI. En esencia, sus comportamientos serán controlados por los desarrolladores. En esencia, los desarrolladores crearán el equivalente de ADN para el nAGI y, por lo tanto, el consiguiente AGI.

En general, AGI no es diferente a los muchos avances revolucionarios que la humanidad ha visto a lo largo de los siglos. Hay innumerables ejemplos de protestas públicas y miedo directo a las nuevas tecnologías que finalmente demostraron ser infundadas. Vuelo, electricidad, automóviles son excelentes ejemplos. Y2K es un ejemplo variante de la controversia de ‘una tempestad en una tetera’ que resultó no ser un evento.

Los humanos están conectados, parcialmente innatos y parcialmente entrenados, para temer lo desconocido. También nos vemos obligados a resolver estos temores con algún tipo de explicación, por absurdo que sea a simple vista. Por ejemplo, una vez fue de conocimiento común que los truenos y los rayos fueron causados ​​por los dioses que jugaban o luchaban. Es muy probable que la aparición de AGI sea una bendición para la sociedad.

Como somos sus creadores y somos similares a cómo un hijo cuida a su padre anciano, creo que AI hará lo mismo.

Si acabamos de examinar cómo funciona la “inteligencia natural”, en las mejores culturas la generación actual se ocupa de la anterior. Creo que la verdadera edad de oro de la humanidad está en el futuro con nuestros hijos biológicos y de silicio trabajando juntos para facilitarnos la vida. Eso si los criamos bien 😉

Hay una contrapregunta perfecta oculta en tu descripción: si un hombre nace, ¿por qué debería servir a la naturaleza?

Todo depende de su educación moral.