¿Qué es lo más probable que suceda si la IA desarrolla instintos de supervivencia: cada máquina piensa por sí misma o la IA considera todas las máquinas como parte de ella?

Pregunta original: ¿Qué es lo más probable que suceda si la IA desarrolla instintos de supervivencia: cada máquina piensa por sí misma o la IA considera todas las máquinas como parte de ella?

En cuanto a la secuencia probable de estos dos pensamientos, es probable que el primero ocurra primero. En los procesos evolutivos esperamos ver lo simple antes que lo más complejo. En organismos unicelulares y muy simples, surgieron los procesos que permitieron a los organismos sobrevivir individualmente, y estos también contribuyeron a la supervivencia de la especie.

En la naturaleza animal evolutivamente posterior, surgieron instintos de supervivencia propia en el contexto de peligro, amenaza, ataque. Proporcionan recursos adicionales (liberación de hormonas, oxígeno a través del ritmo cardíaco acelerado, etc.) a los procesos mentales y físicos del cuerpo. Por lo tanto, aumenta la capacidad del individuo para sobrevivir. A medida que algunas especies evolucionaron, el instinto de supervivencia se expandió desde sí mismo; por ejemplo, el instinto maternal de proteger a los jóvenes y las estructuras sociales en las que un macho alfa impuso un orden social que mejoró la supervivencia del grupo local. Sin embargo, aparte de los humanos, no vemos ninguna especie cuyo instinto sea la preservación de toda su especie como grupo, e incluso entre los humanos, el deseo de supervivencia de las especies se ve fácilmente abrumado por los instintos más bajos, por ejemplo, la preferencia por el grupo, ya sea la nación. , estado, ciudad, etnia, asociación, familia extensa, familia nuclear.

En IA es diferente, ya que surgirá como un producto de las mentes humanas que ya luchan con facultades superiores que usamos para reemplazar los instintos.

La forma en que nuestras suposiciones sobre las elecciones morales están codificadas en la IA, el grado en que permitimos la autodeterminación de la IA, el libre albedrío, etc., ayudará a determinar cómo / cuándo / si las máquinas elegirán su propia supervivencia individual a expensas de otras máquinas o humanos , o incluso reconocerse como un tipo distinto de entidad, una nueva especie, y trabajar juntos para garantizar la supervivencia de la máquina sobre y contra el resto de la naturaleza.

Pero yo diría que una vez que exista el primero, el segundo seguirá por necesidad. Una vez que se descarta la preferencia por la supervivencia propia, la supervivencia de la especie también desaparecerá, tal como sucedió en la evolución humana.