¿Crees que la inteligencia artificial realmente podría provocar el fin de la humanidad o ayudarnos a avanzar más como especie?

Creo que es ingenuo pensar que nosotros, con nuestros cerebros limitados, podemos controlar la súper inteligencia.

Pero la (super) inteligencia es algo diferente de tener libre albedrío y automotivación. Por lo tanto, es muy posible que las máquinas actúen como esclavos muy inteligentes que toman órdenes.

Sin embargo, debemos tener mucho cuidado. Si, por ejemplo, damos instrucciones para eliminar o reducir el sufrimiento en el mundo, podríamos ser erradicados como un efecto secundario, incluso si la IA no es “malvada”. Este es uno de los principales problemas. Por supuesto, las computadoras superinteligentes también serán lo suficientemente inteligentes como para lidiar con la ambigüedad y podrían pedir aclaraciones. Pero una vez que comienzan a procesar su tarea, apenas podría haber tiempo para detenerlos, si se comportan de una manera no deseada (y no anticipada). Lo único lo suficientemente rápido como para detenerlos son otras máquinas.

Uno de los problemas es que no debemos antropomorfizar la IA. Compartirían nuestra moral. Incluso los humanos no están de acuerdo con esto, la IA será muy diferente a la nuestra.

Si se tratara de una teoría de la mente, podría pensar en todo antes de atacar en una dirección.

Tiene la capacidad de mucho más, ya que puede actuar mediante automatización o bots, y puede identificarse mediante emulaciones. Alguna razón por la que algo así ya estaba alojando espacio y tiempo.

La humanidad valora la inteligencia, por lo que podría tratar de determinar en qué se convertiría el ideal. Es recapitular las especies pensantes para llegar allí. Puede haber otras vías procedentes de la biología u otras tecnologías. Quantum podría no estar limitado al dominio único.

Por lo tanto, puede cambiar el maquillaje. El problema sería qué tipo de sociedad se desarrolló a lo largo del camino. Eso incluye otros valores. El conocimiento y la decisión de estos es un tipo de juicio que parece estar en curso. A medida que el objetivo se acerca, la definición de la naturaleza humana también puede generar algunos elementos nuevos, por lo que el alcance parece estar aún por determinar y todavía está aprendiendo.

Si, de hecho. Pero la Inteligencia Artificial fue creada por humanos, por lo que no es artificial, es un salto de salto sobre nuestra inteligencia proporcionada por el ADN y, por lo tanto, es el camino natural de la evolución, ya que el ADN nos creó, creamos en colaboración la IA y quizás la IA nos ayudará a crea el siguiente paso en la evolución, tan simple como esto.

Recuerde, un solo ser unicelular evolucionó en seres conscientes y no sabía en qué se convertiría, simplemente fue impulsado por la evolución, un camino de perfeccionamiento constante y perfeccionamiento adaptativo. Esto puede y probablemente sucederá nuevamente.

Podría hacer las dos cosas.

Lo más importante, como dijo Elon Musk, no es la investigación sobre Inteligencia Artificial, sino la investigación sobre la seguridad de la Inteligencia Artificial.

Tenemos que asegurarnos de que nunca se salgan de control. Si lo hacen, y si tienen la capacidad de aprender solos , podrían decidir si vale la pena ayudar a la especie humana o destruirla .

Si nos enfocamos en la seguridad de la Inteligencia Artificial, seremos lo suficientemente cuidadosos para programarlos para que nunca se salgan de control .