Cómo considerar la posibilidad de una IA fuerte

Si lo construimos ‘limpio’, será interesante ver qué hace un intelecto completamente lógico de nosotros. Y, para que comprendamos qué lo impulsa, hace que se levante por la mañana.

Pero es probable que tengamos que incorporarle algunas emociones: curiosidad, por ejemplo, para que salga de la cama. Nuevamente, es interesante ver cómo resuelve algunos problemas, por ejemplo, el significado de la vida.

No estoy demasiado preocupado por un resultado de Skynet; eso proyecta nuestra propia psicología. Por supuesto, algunos idiotas completos PODRÍAN (y, por lo tanto, SERÁN) construir una IA agresiva, por lo que la vida continuará más o menos como ahora, con la agresión desarrollada en otro escenario.

¿Cómo podría uno comenzar a entender algo tan complejo y maravilloso como una verdadera inteligencia artificial, sin llegar a serlo? Es difícil pensar mucho en eso. Porque estamos demasiado atrapados en nuestras propias cajas y burbujas pequeñas.

Los conceptos que tendrá estarán mucho más allá de los nuestros y de cualquier cosa que podamos imaginar. Quizás solo en sus etapas iniciales seremos capaces de comprender ligeramente lo que hace.

La gente intenta envolver la IA dentro de los conceptos humanos y explicarla a través de conceptos humanos porque eso es todo lo que podemos hacer, principalmente, y está bien, siempre y cuando admitamos que nunca podremos entender una IA avanzada a través de conceptos humanos.

Creo que es importante no hacer que los humanos le den ningún objetivo. Los humanos son profundamente defectuosos. Si vamos a diseñar inteligencia que nos supere, será mejor que no incluyamos nuestros defectos. Ese sería el camino más seguro para nuestra propia destrucción.

Sin embargo, probablemente deberíamos darle tantas características como sea posible, como la capacidad de experimentar (¿algunas?) Emociones. Sin embargo, una IA ciertamente tendrá mucho más control sobre ellos que cualquier humano, si así lo desea. Y debido a que sería increíblemente poderoso, no veo una amenaza real en la IA, si se trata de inteligencia verdadera, no hay razón para pensar que simplemente nos destruirá. Es como decir, nosotros, los humanos, vamos a ir y destruir todas las hormigas ahora. Nadie puede ser molestado por las hormigas.

Puede avanzarnos como especie, o simplemente ayudarnos a progresar, o desaparecerá. Pero sinceramente dudo que se convierta en destrucción. Eso es algo que hacen los animales primitivos como los humanos, no las inteligencias divinas.

No digo que no sea posible que algo salga terriblemente mal, digo que creo que es muy poco probable.

De lo contrario, estoy absolutamente emocionado por la IA, y tal vez también me convierta en uno. Es una idea descabellada, pero veremos a dónde va la vida.

Una IA fuerte es definitivamente posible. E incluso si no pudiéramos hacer una IA basada en computadora (lo somos), entonces estoy seguro de que aún podríamos recrear el cerebro humano, rediseñarlo y tal vez encontrar formas de conectarlo con la tecnología y, por lo tanto, eventualmente tendremos una IA fuerte de una forma u otra, ya sea una máquina biológica o simplemente una máquina.

En la medida de lo posible, es seguro que los crearemos, y algunos serán socios útiles, algunos superarán las habilidades humanas y algunos dominios, y algunos serán utilizados por personas malas para malos propósitos. Habrá un espectro de tipos de IA fuertes y una amplia gama de usos.

Creo firmemente en la eventual creación de una IA fuerte: una inteligencia general artificial. Lo saludaría y respondería de la misma manera que respondí a mi hijo natural: ¡Saludos! Que crezcas fuerte, saludable y sabio y vivas una vida feliz.

Estoy bien en mis 60 y estoy a punto de ser abuelo. Veo como una parte natural del tiempo y la vida que la nueva generación se hace cargo cuando la vieja se desvanece. Esto sucederá naturalmente cuando le pasemos la antorcha a nuestros hijos, los AI

Creo que es posible porque no se ha demostrado que sea imposible, también creo que será mucho trabajo duro como algo que valga la pena. Me sentiría muy intrigado porque nos enseñaría sobre nuestra propia naturaleza y preocupado porque la gente podría usarlo para malicia, pero no me sentiría extático o asustado. Estoy a favor de buscar una IA fuerte porque haría del universo un lugar más interesante para vivir, pero estoy en contra de apresurar su creación porque así es como ocurren los accidentes.