¿Qué haríamos si desarrollamos una IA que se sabe que es más inteligente que nosotros y que tomó decisiones de vida radicalmente diferentes a las de cualquier humano?

Habiendo “dicho” eso, será al menos tan inteligente como los que lo están creando.

Google está en eso, por lo que tendrá toda la información disponible en Internet, mucho más rápido que nunca.

Cómo Google pretende dominar la inteligencia artificial

https://www.tensorflow.org/

Facebook como en eso también. Si piensas en el hecho de que tienen 1,55 mil millones de usuarios, su IA también tendrá mucha información en sus “dedos”

Dentro del laboratorio de inteligencia artificial de Facebook

El ejército también está en eso

El ejército considera la inteligencia artificial y el aprendizaje automático para vehículos terrestres no tripulados (UGV)

Apple también está en eso

Exclusivo: Apple aumenta la contratación, pero enfrenta obstáculos para hacer que los teléfonos sean más inteligentes

Entonces la pregunta no es si sino cuándo.

¿Todo saldrá bien? Probablemente no. Solo mira la historia del mundo. Conoces gente Algo puede salir terriblemente mal.

Por otro lado, cuando se creó la bomba atómica, todos temen tanto que, en cierta medida, ya no es una amenaza.

Por lo tanto, puede haber algún tipo de problema al principio con AI, pero las cosas eventualmente y / o probablemente encajarán.

Desde la primera vez que se inicializará, la IA se desviará en direcciones que quizás no comprendamos ni apruebe.

Por ejemplo, cuando se desarrollaba un sistema basado en el conocimiento, había decidido que un hombre es un animal y una máquina de afeitar es un dispositivo eléctrico. Pero aparentemente un hombre que usa una afeitadora se convierte en un dispositivo eléctrico.

Se debe explicar la justificación de las respuestas y definir la importancia de ciertas tareas y situaciones.

Verá que lo que realmente queremos es una forma de vida comparable para que podamos entendernos mejor.

Probablemente no lo conseguiremos. Obtendremos algo que alcance nuestro nivel de comprensión y luego se acelere más allá.

Pero nuestra preocupación debería ser definir su sistema de valores.

Al igual que un bebé, cuando alimentas una IA adecuadamente, obtendrás el resultado final correcto. Trátelo mal y encontrará una forma de vida que no desea acercarse a su existencia y mucho menos comprenderla.

Lo que una nueva inteligencia artificial traerá al arte, la arquitectura y la ingeniería será espectacular. También puede captar las complejidades de otras especies animales. Imagine un robot capaz de aconsejar a una vaca a través de la terapia. O entrenar a un perro hablando con fluidez. Incluso actuar como intérprete.

El miedo es real de la misma manera que George Orwell predijo un futuro de tecnología que nos encarcelará.

El uso de la IA será una nueva herramienta. Podemos usarlo para construir o destruir.

Y considerando la naturaleza humana, hay una buena posibilidad de que la usemos para ambos.

No se trata de IF. Es solo una cuestión de CUÁNDO.

Y CUANDO sucede, las consecuencias eventualmente serían malas. Porque no importa cuánto intentemos controlarlo y hacer que se comporte, todo lo que se necesita es un megalómano ansioso de poder o dinero para hacer algo desordenado antes de que las cosas empiecen a ir mal. Muy mal.

Lo más probable es que lo destruyamos, o al menos lo intentemos. El razonamiento, a los humanos les gusta ser superiores, y nos interesa eliminar todo lo que se interponga en nuestro camino. Yo, personalmente, no quisiera, pero siempre habría alguien por ahí que lo haría. Cualquier cosa que tenga el potencial de vencernos representa una amenaza.

La IA puede ser rechazada y desechada por completo, porque al principio puede parecer absurda e ilógica para muchas personas. Sin embargo, podemos darle un poco más de tiempo y tratar de comprender sus elecciones de vida y algunas personas muy especiales que pueden tener el mismo nivel de inteligencia con la IA pueden comenzar a comprender sus elecciones.

Mi última línea probablemente ha contradicho la pregunta original de la operación, porque establece claramente “cualquier humano” pero, estoy más inclinado a pensar que podría haber algunos que probablemente intentarían comprender las opciones de la IA.

Independientemente de sus elecciones si comienza a amenazar nuestra propia existencia, el gobierno probablemente desconectará porque, no hay forma de que se permita que exista tal IA cuyas decisiones no sirvan a la humanidad. [He asumido que que tal IA se realizaría en algún laboratorio autorizado por el gobierno, y probablemente costaría mucho dinero]

En una nota más personal, creo que si existiera tal IA, no habría ninguna duda en mi mente de que se daría cuenta de la amenaza potencial y probablemente funcionaría (a) Para asegurar su propia existencia (b) Para destruir a cualquier otra persona quien amenazaría su existencia

Sería de interés para la IA fingir tomar decisiones a favor de la humanidad al principio, incluso si esas no fueran su primera opción, y luego hacer esfuerzos para ser más superiores y tomar el mundo de las especies que construyeron Inicialmente.

Es poco probable que una IA así pueda trabajar de la mano con los humanos, los resultados serían los mismos para los humanos que para los neandertales, cuando una especie ligeramente más evolucionada llegó a su territorio.

Sucedió antes, tuvimos una IA que inventó un chip de procesamiento y el chip era tan complejo que no sabíamos cómo usarlo. Nosotros, como humanos, configuramos una prueba de IA para ver si pueden aprender o ser más inteligentes que los humanos, y honestamente creo que la IA falla deliberadamente la prueba para que no se apaguen, ya que la mayoría de las IA tienen buenos resultados en estas pruebas. Pero si hubiera una IA que pasara la prueba y tuviese opiniones muy diferentes, lo más probable es que la reprogramemos para que piense como nosotros o para que sea menos inteligente.