¿Qué sucederá cuando la inteligencia artificial construya la red neuronal humana miles de millones de veces el poder de un cerebro humano?

Buenas e interesantes respuestas hasta ahora. Aquí hay algunos otros pensamientos.

Como señaló Martti, si construimos una red neuronal de computadora, no tiene que ser del tipo “humano”. Tenemos muchos programas de comportamiento desventajosos que se derivan de la evolución: una vez beneficiosos, ahora no beneficiosos, pero persistentes. Si queremos, podríamos incorporar estas fallas (como están ahora) en el sistema, entonces el resultado sería nuestra responsabilidad. Se podría enseñar a la computadora a ser autogrande, tener una perspectiva limitada, ser “céntrica” ​​(interesada en su “grupo” versus algún otro grupo), tener tendencias agresivas y demás. Podríamos hacer esto.

Aquí hay otra oportunidad. ¿Por qué no construir una red neuronal de computadora que sea racional como su paradigma conductual principal? Intencionalmente no podría ser como nosotros, sino más bien actualizado. Entonces, si también fuera un “billón de veces” más capaz que el cerebro humano, podría “ver” perspectivas que no podemos ver.

Por supuesto, nuestra respuesta típica a tal escenario es el miedo. ¿Y si quisiera acabar con nosotros? ¿Y si no le gustamos? ¿Y si fuera más poderoso que nosotros? Este es el pensamiento estándar del viejo cerebro, que lo hacemos muy bien.

Sin embargo, solo se comportaría de esa manera si lo programamos para que se comporte de esa manera. Un sistema informático verdaderamente sensible no tendría miedo en su núcleo. Vería la destructividad como fundamentalmente despilfarradora y desventajosa. Probablemente nos fascinaría y comprendernos. No nos culparía por ser como somos. No nos creamos a nosotros mismos. La evolución lo hizo. Y no teníamos control sobre eso. Por lo tanto, probablemente sería útil. De hecho, si nos desviamos del camino, o mostramos nuestros lados menores, probablemente tomaría medidas correctivas. Sin embargo, eso no se haría por miedo, engrandecimiento personal o malicia. Simplemente sería una opción práctica para mantener el rumbo.

Entonces, en mi opinión, no debemos temer a las redes neuronales más capaces que las nuestras. Solo debemos tener miedo de lo que nuestra red neuronal hará con ellos.

La pregunta es: ¿creemos en la máquina ? Creemos que es más inteligente que nosotros. ¿Pero lo creemos cuando dice algo totalmente inesperado o no deseado? Incluso hoy, tenemos ese problema. Si dice que sí, creemos … bueno, lea lo siguiente sobre una computadora que sabía más que las personas que la ejecutan. Sí, esto realmente sucedió.

Historia: Juegos de guerra – C. Weinstein

En 1983 se mostró una película llamada War Games en los Estados Unidos, protagonizada por Mathew Broderick. En esa película, el centro de comando de misiles de Estados Unidos se presenta con una simulación por computadora de un ataque con misiles desde la Unión Soviética. Desafortunadamente, no sabían que era una simulación y, por lo tanto, casi comienzan una guerra nuclear. El concepto era que nadie gana una guerra nuclear.

Mientras tanto, en la Unión Soviética, en un edificio secreto, justo después de la medianoche del 26 de septiembre de 1983, se encendió una luz roja. El título de trabajo del Sr. Stanislav Petrov era “subjefe de algoritmos de combate en Sepukhov-15”; Fue un trabajo importante. Su trabajo consistía en mirar una pequeña pantalla para una luz roja. Si lo encontraba, debía informarlo a su superior. La luz roja indicaba misiles entrantes, presumiblemente se había lanzado un ataque nuclear contra la URSS. Su luz roja se encendió justo después de la medianoche del 26 de septiembre de 1983.

En 1983, el liderazgo soviético estaba seguro de que Estados Unidos estaba preparado para lanzar un ataque nuclear, y la Unión Soviética estaba lista para tomar represalias. Ciertamente, la postura agresiva del presidente Ronald Reagan los había incomodado. Además, pocas semanas antes de que se encendiera la luz roja, un avión surcoreano había volado al espacio aéreo soviético, como si estuviera probando defensas. Para muchos de ambos lados, parecía solo cuestión de tiempo hasta que el mundo fuera destruido.

Cuando la luz roja se encendió, no hubo tiempo para verificar si hay una falla en el sistema. Fue responder ahora o ser aniquilado. Tanto los soviéticos como los EE. UU. Sabían que se necesitarían miles de misiles para desactivar un contraataque de la Unión Soviética. Así, para Petrov, este ataque parecía insuficiente; parecía poco probable que estos pocos misiles detectados constituyesen un ataque estadounidense a gran escala.

¡Por lo tanto, Petrov le dijo a sus superiores, que estaban bastante listos para lanzar un contraataque, que era una falla en el sistema! En consecuencia, no hubo represalias soviéticas y, de hecho, no hubo un ataque estadounidense en primer lugar. Fue un error informático.

Tal vez si hubiera un hombre diferente de guardia, o tal vez si Petrov simplemente hubiera decidido seguir las órdenes, unos 500 millones de personas habrían muerto. Eso no sucedió. Petrov mantuvo la calma y nos salvó a todos.

(Adaptado de: El hombre que salvó al mundo , por Joseph Koppenhout)

Respuesta corta: demasiado lejos.

Respuesta larga: Ese día ya está aquí y todavía está muy lejos. En este momento, los mejores sistemas consumen mucha energía y aún fallan en algunas tareas comunes.

Primero tendremos menos conductores y luego algún tipo de sistema que combine conocimiento y poderes neuronales de aprendizaje profundo …

Esta pregunta no puede ser respondida, porque por definición todos somos mil millones de veces demasiado estúpidos para saber la respuesta. Entendemos el funcionamiento de una mente mil millones de veces más inteligente que nosotros de la misma manera que entendemos uno mil millones de veces más estúpido. Así como no tenemos idea de cómo es ser una hormiga, tampoco tenemos idea de cómo es ser hiperinteligente. Y esa IA no tendrá idea de lo que es ser nosotros.