¿Qué pasaría realmente si una IA oye una paradoja?

En el Portal 2 vemos que las IA se pueden “matar” al pensar en una paradoja. Supongo que esto funciona forzando a la IA a un bucle infinito que esencialmente “congelaría” la conciencia de la computadora.

  • Paradoja de Fermi: –

Todos sienten algo cuando están en un lugar estrellado realmente bueno en una noche estrellada realmente buena y miran hacia arriba y ven esto:

Algunas personas se apegan a lo tradicional, sintiéndose impresionados por la belleza épica o impresionados por la escala loca del universo. Personalmente, voy por el viejo “colapso existencial seguido de actuar raro durante la próxima media hora”. Pero todos sienten algo .

El físico Enrico Fermi también sintió algo: “¿Dónde están todos?”

________________

Un cielo realmente estrellado parece vasto, pero todo lo que estamos viendo es nuestro vecindario muy local. En las mejores noches, podemos ver hasta aproximadamente 2.500 estrellas (aproximadamente la centésima millonésima parte de las estrellas en nuestra galaxia), y casi todas están a menos de 1,000 años luz de distancia (o el 1% del diámetro de la vía Láctea). Entonces, lo que realmente estamos viendo es esto:

Imagen de la galaxia: Nick Risinger

Cuando nos enfrentamos al tema de las estrellas y las galaxias, una pregunta que tienta a la mayoría de los humanos es: “¿Hay otra vida inteligente por ahí?”. Vamos a ponerle algunos números:

Tantas estrellas como haya en nuestra galaxia (100 – 400 mil millones), hay aproximadamente un número igual de galaxias en el universo observable, por lo que por cada estrella en la colosal Vía Láctea, hay una galaxia entera por ahí. En conjunto, eso resulta en el rango típicamente citado de entre 1022 y 1024 estrellas totales , lo que significa que por cada grano de arena en cada playa de la Tierra, hay 10,000 estrellas por ahí.

El mundo de la ciencia no está totalmente de acuerdo sobre qué porcentaje de esas estrellas son “similares al sol” (similar en tamaño, temperatura y luminosidad): las opiniones generalmente varían entre 5% y 20%. Ir con el lado más conservador de eso (5%), y el extremo inferior para el número total de estrellas (1022), nos da 500 quintillones, o 500 mil millones de millones de estrellas parecidas al sol.

También hay un debate sobre qué porcentaje de esas estrellas similares al sol podrían estar en órbita alrededor de un planeta similar a la Tierra (uno con condiciones de temperatura similares que podrían tener agua líquida y potencialmente soportar una vida similar a la de la Tierra). Algunos dicen que es tan alto como 50%, pero vamos con el 22% más conservador que salió de un estudio reciente de PNAS. Eso sugiere que hay un planeta similar a la Tierra potencialmente habitable que orbita al menos el 1% del total de estrellas en el universo, un total de 100.000 millones de planetas similares a la Tierra.

Entonces, hay 100 planetas similares a la Tierra por cada grano de arena en el mundo. Piensa en eso la próxima vez que estés en la playa.

En el futuro, no tenemos más remedio que ser completamente especulativos. Imaginemos que después de miles de millones de años de existencia, el 1% de los planetas similares a la Tierra desarrollan vida (si eso es cierto, cada grano de arena representaría un planeta con vida en él). E imagine que en el 1% de esos planetas, la vida avanza a un nivel inteligente como lo hizo aquí en la Tierra. Eso significaría que había 10 billones , o 10 millones de billones de civilizaciones inteligentes en el universo observable.

Volviendo a nuestra galaxia y haciendo los mismos cálculos matemáticos con la estimación más baja de estrellas en la Vía Láctea (100 mil millones), estimaríamos que hay mil millones de planetas similares a la Tierra y 100,000 civilizaciones inteligentes en nuestra galaxia.

SETI (Search for Extraterrestrial Intelligence) es una organización dedicada a escuchar señales de otra vida inteligente. Si tenemos razón en que hay 100,000 o más civilizaciones inteligentes en nuestra galaxia, e incluso una fracción de ellas está enviando ondas de radio o rayos láser u otros modos de intentar contactar a otros, no debería recoger la matriz de antenas satelitales de SETI todo tipo de señales?

Pero no lo ha hecho. Ni uno. Siempre.

¿Donde está todo el mundo?

Se vuelve más extraño. Nuestro sol es relativamente joven en la vida del universo. Hay estrellas mucho más antiguas con planetas terrestres mucho más antiguos, lo que en teoría debería significar civilizaciones mucho más avanzadas que la nuestra. Como ejemplo, comparemos nuestra Tierra de 4.54 mil millones de años con un hipotético Planeta X de 8 mil millones de años.

Si el Planeta X tiene una historia similar a la Tierra, veamos dónde estaría su civilización hoy (usando el intervalo de tiempo naranja como referencia para mostrar cuán grande es el intervalo de tiempo verde):

La tecnología y el conocimiento de una civilización a solo 1,000 años por delante de nosotros podría ser tan impactante para nosotros como lo sería nuestro mundo para una persona medieval. Una civilización 1 millón de años por delante podría ser tan incomprensible para nosotros como lo es la cultura humana para los chimpancés. Y el Planeta X está 3.4 mil millones de años por delante de nosotros …

Hay algo llamado La escala de Kardashev, que nos ayuda a agrupar a las civilizaciones inteligentes en tres amplias categorías por la cantidad de energía que usan:

Una civilización tipo I tiene la capacidad de usar toda la energía en su planeta . No somos una civilización tipo I, pero estamos cerca (Carl Sagan creó una fórmula para esta escala que nos coloca en una civilización tipo 0.7).

Una civilización de tipo II puede aprovechar toda la energía de su estrella anfitriona . Nuestros débiles cerebros Tipo I apenas pueden imaginar cómo alguien haría esto, pero hemos hecho todo lo posible, imaginando cosas como una Esfera Dyson.

Una civilización de tipo III vuela a los otros dos, accediendo a un poder comparable al de toda la galaxia de la Vía Láctea .

Si este nivel de avance parece difícil de creer, recuerde el Planeta X anterior y sus 3.400 millones de años de desarrollo adicional. Si una civilización en el Planeta X fuera similar a la nuestra y pudiera sobrevivir hasta el nivel Tipo III, el pensamiento natural es que probablemente ya habrían dominado el viaje interestelar, posiblemente incluso colonizando toda la galaxia.

Una hipótesis sobre cómo podría ocurrir la colonización galáctica es mediante la creación de maquinaria que pueda viajar a otros planetas, pasar más de 500 años autorreplicando utilizando las materias primas en su nuevo planeta, y luego enviar dos réplicas para hacer lo mismo. Incluso sin viajar a ninguna parte cerca de la velocidad de la luz, este proceso colonizaría toda la galaxia en 3.75 millones de años, un parpadeo relativo cuando se habla en la escala de miles de millones de años:

Fuente: Scientific American: “¿Dónde están?”

Continuando con la especulación, si el 1% de la vida inteligente sobrevive lo suficiente como para convertirse en una Civilización Tipo III potencialmente colonizadora de galaxias, nuestros cálculos anteriores sugieren que debería haber al menos 1,000 Civilizaciones Tipo III solo en nuestra galaxia, y dado el poder de tal civilización, su presencia probablemente sería bastante notable. Y sin embargo, no vemos nada, no escuchamos nada, y nadie nos visita.

Espero que pueda ser de ayuda .. 🙂

Gracias.

Realmente depende de qué tan mal esté programada la IA. Usemos un ejemplo:

“La siguiente afirmación es cierta. La declaración anterior es falsa.
Te imaginas que se procesa así:
La siguiente afirmación es cierta.
La afirmación anterior es falsa
La siguiente afirmación no es cierta.
La declaración anterior no es falsa
La siguiente afirmación es cierta.
La afirmación anterior es falsa
La siguiente afirmación no es cierta.
etc.
Esto es posible, y si es así, el programa simplemente se quedaría atascado en este ciclo y dejaría de hacer nada.

Sin embargo, los bucles infinitos son los escollos de programación más conocidos, y casi siempre se hacen evidentes durante las pruebas. Por lo tanto, ciertamente puede esperar que los desarrolladores de IA los hayan anticipado. Simplemente puede establecer un límite a la cantidad de tiempo que pasa en el proceso de pensamiento y luego continuar con ambas declaraciones sin resolver.
Programé un motor de inferencia lógica y limité la cantidad de veces que se permite el bucle, ni siquiera por paradojas, sino porque el programa obviamente podría seguir infiriendo en círculos de lo contrario (soy digital, así que soy un programa, así que soy digital, así que Soy un programa, etc.). Una IA mejor programada también podría verificar sus procesos de pensamiento anteriores y notar cuándo ya ha pasado esto, y luego abortar.
Hay “verdadero”, hay “falso”, pero también hay “no sé” y “no me importa”.

Depende completamente de lo que programemos que haga la IA.

Hay toda una rama de la lógica que se ocupa del razonamiento en presencia de contradicciones, llamada lógica paraconsistente.