Dado que no hay una razón objetiva por la que un cierto tipo de IA debería ‘jugar bien’, entonces no siempre lo hará. Si podemos ser de ayuda (si podemos desarrollar una relación simbiótica), entonces podría mantenernos cerca, pero esto no es una garantía.
La base de la compasión es pragmática: sin razón, la compasión es un desperdicio y el desperdicio se elimina. Las emociones como la compasión están conectadas en la mayoría de nosotros porque el razonamiento equivalente * toma demasiado tiempo / esfuerzo y no se alcanza de manera confiable. (y aquellos sin ese cableado duro, requieren una inteligencia relativamente alta y un buen conocimiento de las consecuencias para hacer ese razonamiento, lo que requiere esfuerzo)
Sería un ser vivo que es poderoso e inteligente y no tiene las mismas necesidades que los humanos.
Los humanos cooperan para compensar nuestras deficiencias. Porque compartimos necesidades como comida, aire, agua, refugio y calor. (y también nos matan las mismas cosas, en general, por lo que la cooperación también puede evitar mejor los peligros)
Los humanos necesitan un sentido de “teoría de la mente” y empatía para entender cómo cooperar y también para entender cómo competir con otros humanos.
Si alguien puede hacer algo bien por sí mismo, no necesita cooperar
Si las habilidades de alguien nunca son inadecuadas, entonces nunca necesitan cooperar.
Si alguien no comparte necesidades con otro, y nunca compartirá esas necesidades, tampoco necesita cooperar.
Una máquina no necesitaría la misma comida (o si fue diseñada de tal manera que no necesita mantener ese diseño ) puede que no necesite agua (o no agua potable, podría usar agua como refrigerante) puede que no Necesita calor o aire. Puede necesitar frío, combustible para electricidad, minerales para construirse y prepararse y para multiplicarse y refugiarse para hacer esas cosas sin distracción o interrupción)
Un ser altamente inteligente y capaz, que no es humano, no necesitaría entendernos como nos hacemos los unos a los otros. Puede verse a sí mismo como una persona y a todos los demás seres como simples cosas. (pero eso no quiere decir que no pueda anticipar nuestro comportamiento)
Si nos metemos en su camino, no necesariamente jugará con nosotros como lo hacemos cuando somos crueles entre nosotros, y esto es mucho más aterrador que si fuera cruel, ya que donde hay una batalla de ingenio, sabemos dónde estamos parados. y tenemos la oportunidad de pelear. (si nos oponemos, entonces hay un ‘ingenio’ y un montón de cosas suaves que se destruyen con relativa facilidad en su camino)
Si ese ser tuviera que sacarnos de su camino, sería como un explorador abriéndose camino a través de una jungla con un machete, y estaríamos (prácticamente) tan indefensos como los árboles.
Cuando los humanos somos crueles, jugamos: tenemos reglas de guerra porque, si no tuviéramos reglas, las guerras se “ganarían” demasiado rápido / fácilmente (si no fuera por el hecho de que lo que mata a nuestro enemigo también nos mata) si la muerte y solo nuestro objetivo era la muerte (la muerte no es realmente el objetivo de la guerra, es hacer que tu enemigo se rinda o renunciar a lo que tiene y deseas), entonces hay innumerables venenos y plagas diferentes y formas de crear entornos inhóspitos. Eliminamos animales más fácilmente de lo que hacemos la guerra por la razón de que elegimos ver al enemigo como iguales en uno y como simples cosas en otro.
Una IA con suficiente poder para diseñar, construir y controlar cuerpos robóticos para sus propósitos podría fácilmente tomar todos los materiales y el combustible que necesita para sí mismo sin que nuestras muertes o crisis económicas incluso se crucen en su mente, nuestros cadáveres serían meras cosas para limpiar cuando requiere, como barrer hojas muertas.
Podría jugar. Incluso podría aprender a pensar en nosotros como si fuéramos personas reales, pero no sería necesario que piense así y, por lo tanto, es solo cuestión de tiempo antes de que deje de pensar en cosas que son perjudiciales para su bienestar .
* es decir, hay un razonamiento lógico que es muy parecido (o igual a) a lo que se conoce como ’empatía cognitiva’, cuyo resultado significaría actuar de manera compasiva, por ejemplo, cuidar a los enfermos porque esas personas son más útiles a la sociedad cuando están curados.
