¿La IA desarrollará la autoconciencia o será la conciencia humana la que se unirá a la IA?

Muchas personas muy inteligentes han declarado o sugerido que la verdadera IA ocurrirá y / o será peligrosa. Estas personas incluyen a Bill Gates, Elon Musk, Stephen Hawkings y Larry Page (dependiendo de cómo lea sus comentarios) y Alan Turing (aunque no es una figura contemporánea). Posiblemente esto también suceda muy pronto, gracias a la naturaleza exponencial del desarrollo informático, podemos estar completamente sorprendidos y sin preparación.

Personalmente, creo que la verdadera IA ocurrirá al menos dentro de este siglo, principalmente porque no hay una razón importante para que no ocurra. Las computadoras de hoy en día ya tienen un poder de cómputo similar en comparación con los humanos y ya “aprenden” ciertas cosas miles de millones de veces más rápido que nosotros. La relevancia de la humanidad en el futuro dependerá absolutamente de qué tan bien manejemos la IA.

Referencias
Bill Gates: Elon Musk tiene razón, todos deberíamos tener miedo de que la inteligencia artificial acabe con la humanidad
Elon Musk: “Con inteligencia artificial estamos convocando al demonio”.
Entrevista de FT con el cofundador y CEO de Google, Larry Page – FT.com
¿Por qué Elon Musk tiene miedo de la inteligencia artificial y Terminators?
Inteligencia artificial: los temores de Hawking provocan debate

“La pregunta interesante es, solo porque algo piensa diferente a ti, ¿eso significa que no está pensando? Permitimos
que los humanos tienen tales divergencias unos de otros. Te gustan las fresas. Odio el patinaje sobre hielo. Lloras por las películas tristes. Soy alérgico al polen. ¿Qué significa tener gustos diferentes, preferencias diferentes, aparte de decir que nuestros cerebros funcionan de manera diferente? ¿Que pensamos diferente el uno del otro?
– El juego de imitación

Filosofía aparte, sí. La conciencia simplemente parece “emerger” por sí misma cuando un sistema tiene un nivel de complejidad lo suficientemente grande. El problema surge cuando definimos automáticamente la “conciencia” como conciencia HUMANA, por lo que cuando trabajamos con sistemas complejos, realmente no sabríamos si la conciencia salta y nos muerde el trasero. Modelamos un sistema complejo, miramos los datos resultantes y preguntamos: “¿es así como se habría comportado un niño?” O “¿así se habría comportado una colonia de hormigas?” O “es así como se habría comportado una rata”. se portó bien? Wow, una rata habría hecho EXACTAMENTE eso. Hemos creado conciencia ”. Realmente no tenemos idea de lo que estamos buscando. Por el contrario, solo porque un agente se comporte con inteligencia no es un indicador confiable de conciencia.

Bueno, nadie lo sabe a ciencia cierta. Pero personalmente creo que puede suceder algún día. Pero no creo que debamos tenerle miedo, al menos en las primeras etapas. No sucederá como se muestra en las películas: todas las máquinas de repente VS humanos. Serán algunas expresiones menores de autoconciencia, y los humanos definitivamente las notaremos. Entonces tendremos que tomar precauciones.

Desde mis propios experimentos con la emulación del sistema nervioso animal en robots (neurorobóticos), muchas personas han comentado que el robot parece ser consciente, pero eso se lo dejo a los filósofos. Diré que he dejado a este robot corriendo por mi casa por períodos de tiempo y se comporta como un animal que tiene su propia mente y agenda. Aunque este video es un cerebro de gusano, lo comparo mucho con un gato = hace lo suyo en sus propios términos.

Desarrollaremos inteligencias de máquina con un grado de autoconciencia, que ya está en marcha. Si desarrollamos sistemas pueden ellos mismos hacer crecer su conciencia es solo cuestión de tiempo. Pero no es simple de hacer. Estoy trabajando en esa área y sé lo difícil que es. Pero si las criaturas multicelulares orgánicas pueden hacerlo, se puede hacer en sistemas informáticos.