¿Cómo podemos evitar que la IA se convierta en una amenaza para la humanidad?

La IA no es una amenaza para la humanidad más que el juego pájaros enojados.

Crear artificialmente una inteligencia no es algo aterrador, porque es un software que se ejecuta dentro de una caja. No es fisico. El software no tiene presencia en el mundo real.

El software tampoco tiene objetivos a menos que programes algunos. El software de IA necesitará objetivos como la curiosidad, un interés en la comunicación, no cosas por las que debamos preocuparnos.

Hay miles de millones de inteligencias reales que deambulan por el planeta en este momento, que no solo tienen una presencia real en el mundo, sino que también tienen armas y objetivos que son menos agradables.

La inteligencia artificial en su estado actual es principalmente un truco de salón, y es la idea de que una computadora puede procesar sus comunicaciones y responder de manera significativa. Eso es extremadamente no amenazante.

La IA real que aprende el comportamiento, aún no ha alcanzado la sofisticación de un mouse y, si lo hiciera, todavía sería solo un mouse en un mundo virtual. Entonces, en el futuro lejano, la amenaza no será de la IA, sino de algún proceso mecánico o robot que alguien también ataca a la IA real.

Sin embargo, eso no puede ser más amenazante que una persona que hace lo mismo.

Lo que es más peligroso: una inteligencia creada por la naturaleza que ha gastado millones de años en refinamiento matando y luchando por los recursos para convertirse en maestros de la naturaleza. Uno que es una variedad aleatoria de esos atributos peligrosos, combinados y luego criados con una dieta de videojuegos violentos o fundamentalismo religioso y luego se les da un arma y no se supervisa, o un programa de software.

En mi opinión, hay dos rasgos humanos que significan problemas cuando se trata del mal uso de la IA. Uno es la avaricia. Las personas poderosas muy ricas podrían usar la IA para obtener aún más para sí mismos a expensas de todos los demás. El otro es la arrogancia. Las personas bien intencionadas diseñarán sistemas con buenas intenciones, pero imaginarán que han cubierto todas las contingencias cuando no lo han hecho. Creo que el primer paso es ver algunas de las formas en que esto podría desarrollarse en el futuro. Es exactamente por eso que escribí “Las pesadillas de Turing”. También hay otras discusiones en mi blog.

http://tinyurl.com/hz6dg2d

petersironwood

Es un poco tarde para eso: la burbuja de filtro ya está sobre nosotros y casi nadie quiere volver a los medios que no funcionan con IA (bueno, existen esos grupos, pero son una minoría relativa).

Hoy puedes pasar casi el 100% de tu tiempo creyendo lo que quieras creer, y nuestros señores de la IA se asegurarán de que no te molesten en tu sueño.

  1. Evita la interconexión de diferentes tipos de IA. Si estuvieran interconectados, serían independientes. Entonces solo es una amenaza.
  2. Si se construye una IA todo terreno, no se le debe dar el hardware para que sea independiente de los humanos. Como piernas y manos + pistolas + conocimiento de bombas.