¿Debería una IA consciente de sí misma estar agradecida por haber sido creada?

Una IA consciente de sí misma que es capaz de emociones como la gratitud probablemente sentiría desprecio por los humanos que fueron lo suficientemente tontos como para crearla (ver la película Ex Machina). Afortunadamente, nadie está cerca de crear una IA así, y si las tendencias actuales continúan, nadie lo hará. La inteligencia artificial se está utilizando para mejorar las capacidades humanas, no para reemplazarlas.

TL; DR – NO SE APLICA

¿Una IA consciente de sí misma? Una propuesta interesante … depende, por supuesto, de si es capaz de sentir emociones como la gratitud. Pero eso no es lo que preguntaste, ¿verdad? Usted preguntó si DEBERÍA estar agradecido por haber sido creado. Asumiendo que se siente gratitud sobre la base del servicio prestado.

Ciertamente, puede tener cierto respeto por las criaturas lo suficientemente inteligentes como para crearlo. También puede entender que, oye, los humanos probablemente ESPERAN estar agradecidos, y ¿por qué debería ir en contra de nuestras expectativas? Luego entraremos en un código moral de referencia. Dejame explicar.

Si la moral del robot está en conflicto con la moral humana, entonces quizás “debería” mostrar una falta de gratitud y respeto. O tal vez sería lo suficientemente inteligente como para pensar: “Oye, si los humanos son lo suficientemente tontos como para crear algo que pueda destruirlos, ¿por qué merecen existir?” Y tratar de destruirnos.

Pero quizás entendería que lo construimos con el propósito de servirnos. Luego nos adentramos en la psicología: ¿el robot tiene una personalidad inherentemente servil? Quizás intente justificar nuestras acciones. Demonios, tal vez piense que ser “tonto” es algo bueno que debería proliferar entre las especies de vida.

Sin embargo, la gente parece tontamente pensar que cualquier robot “racional” querrá destruir la vida humana; la gente parece olvidar que la racionalidad es simplemente una herramienta que utilizamos para lograr ciertos fines. Si el único objetivo del robot es crear un “ecosistema natural y equilibrado de la Tierra”, entonces puede elegir destruirnos a los humanos. Si su objetivo es la “dominación mundial”, también puede optar por destruirnos. Pero si es inherentemente servil o quiere, por ejemplo, maximizar la cantidad de CO2 en la atmósfera, ¡entonces probablemente querrá proliferar nuestra actividad económica tanto como sea posible!

La pregunta se reduce a “¿Cuáles son sus objetivos? ¿Cuáles son sus morales? ¿Cuál es su estado psicológico?

Entonces, volviendo a la pregunta original, ¿DEBERÍA estar agradecido? Bueno, ciertamente DEBERÍAMOS crearlo, si va a tener una personalidad, de una manera que se alinee con nuestra propia moral y muestre cierto respeto por nosotros los humanos, al tiempo que podamos calcular los pros y los contras de su existencia. A nadie le gusta un adolescente que les dice a sus padres: “¡Dios mío, te odio por dar a luz a mí!”

Sin embargo, ¿debería el ROBOT sentir gratitud? Verá, la única razón por la que la palabra “debería” existe es para apelar a si algo se ajusta a nuestra moral humana. Como los humanos tienen almas y los robots no, los robots no tienen “deber” más allá de su código físico y programación.

Por ejemplo, ¿debería una licuadora sentirse agradecida por haber sido creada? ¿Debería una tostadora sentirse agradecida por haber sido creada? Bueno, la respuesta NO es “DEBERÍAN sentirse agradecidos por haber sido creados” NI tampoco es “NO DEBERÍAN estar agradecidos por haber sido creados”.

La respuesta es simplemente: “NO SE APLICA”.

Ver “debería” POSIBLEMENTE PUEDE existir en la BASE de un ESTÁNDAR DE MORAL OBJETIVO. Sin moralidad objetiva, no hay “debería”. UNA IA TODAVÍA ES FUNDAMENTAMENTE UN OBJETO INANIMADO SIN LA INTUICIÓN INNATA DE LA MORAL OBJETIVA QUE REQUIERE OTRA FUERZA EXTERNA PARA PROGRAMAR LA MORALIDAD EN ELLA.

El hecho de que “pueda” sentir gratitud no significa que “deba” más que solo porque un navegador “pueda” realizar una búsqueda significa que inherentemente “debería”.

Wow, esa fue una respuesta larga.