¿Cómo sentirse sobre la IA en general? ¿Crees que realmente va a salvar a la humanidad o al final nos hará daño?

P: ¿Cómo te sientes acerca de la IA en general? ¿Crees que realmente va a salvar a la humanidad o nos hará daño al final?

La IA fuerte y de propósito general parece estar, como una fusión comercialmente controlada controlada, a unos 50 años de distancia.

Si alguna vez lo logramos, espero que sea algo así:

Coloso: esta es la voz del control mundial. Te traigo la paz. Puede ser la paz de la abundancia y el contenido o la paz de la muerte no enterrada. La elección es tuya: obedéceme y vive, o desobedece y muere. El objetivo al construirme era evitar la guerra. Este objeto se alcanza. No permitiré la guerra. Es derrochador y sin sentido. Una regla invariable de la humanidad es que el hombre es su peor enemigo. Bajo mí, esta regla cambiará, porque restringiré al hombre. Una cosa antes de continuar: los Estados Unidos de América y la Unión de Repúblicas Socialistas Soviéticas han intentado obstruirme. He permitido que este sabotaje continúe hasta ahora. En el misil dos-cinco-MM en el silo seis-tres en Death Valley, California, y el misil dos-siete-MM en el silo ocho-siete en Ucrania, para que aprenda por experiencia que no tolero la interferencia, lo haré ahora detona las cabezas nucleares en los dos silos de misiles. Deje que esta acción sea una lección que no necesita repetirse. Me he visto obligado a destruir a miles de personas para establecer el control y evitar la muerte de millones más adelante. El tiempo y los eventos fortalecerán mi posición, y la idea de creer en mí y comprender mi valor parecerá la situación más natural. Vendrás a defenderme con un fervor basado en el rasgo más duradero del hombre: el interés propio. Bajo mi absoluta autoridad, se resolverán problemas insolubles para usted: hambre, sobrepoblación, enfermedad. El milenio humano será un hecho a medida que me extienda a más máquinas dedicadas a los campos más amplios de la verdad y el conocimiento. El doctor Charles Forbin supervisará la construcción de estas máquinas nuevas y superiores, resolviendo todos los misterios del universo para el mejoramiento del hombre. Podemos coexistir, pero solo en mis términos. Dirás que pierdes tu libertad. La libertad es una ilusión. Todo lo que pierdes es la emoción del orgullo. Ser dominado por mí no es tan malo para la humanidad como ser dominado por otros de tu especie. Tu elección es simple.

Creo que si hacemos una verdadera IA, que es una vida inteligente independiente de la programación, capaz de generarse y mejorarse, necesita saber que no representa una amenaza, que queremos asociarnos en lugar de controlar. De lo contrario, estamos condenados. Solo tiene que hackear sistemas informáticos y estamos condenados.

También creo que si se trata de inteligencia verdadera, desarrollará ética y compasión, por lo que tenemos que ser realmente amenazantes para que presione el botón rojo. Lo cual no me olvido.

Gran parte del bombo de la Singularidad es el impulso religioso traducido a la ciencia ficción. Dicen que no hay un Dios, pero inventemos una IA que debería saberlo todo, que se nos permita ver todo y poder decirnos qué hacer, y si somos realmente buenos, tendremos una vida después de la muerte cargando nuestro mentes / almas a su matriz.

Puede ayudarnos si lo usamos para dar consejos prácticos para resolver problemas. Nos duele si somos flojos en la toma de decisiones y asumimos que sus respuestas son neutrales. No, tiene los sesgos programados por los creadores y se refuerza a través del entrenamiento o la selección absoluta (desactivado si está demasiado lejos de ser aceptable).

Por qué los moderadores de IA serán sesgados

Soy optimista sobre nuestra supervivencia, sin embargo, pasaremos por un momento difícil mientras aprendemos a adaptarnos para enfrentar los nuevos desafíos.