¿Cómo se sienten los investigadores y practicantes de Inteligencia Artificial y Aprendizaje Automático sobre los comentarios recientes de Stuart Russell sobre los peligros de la IA que parecen respaldar comentarios similares hechos por Elon Musk y Stephen Hawking?

El optimismo todavía no es un contrabando 🙂 🙂 Es el opio que todos deberíamos saborear. Entonces, tengo una teoría. Mira, los humanos han evolucionado hasta ahora sin interrupción, en parte porque siempre nos hemos enfrentado con especies con inteligencia inferior, y en parte debido a nuestro atributo de odiar la inercia, llámalo curiosidad. Ahora piense cómo esta segunda parte hace que la evolución humana sea más esférica, completa, prestándonos qué máquinas tendrán que romper mucho sudor / grasa para arrebatarnos: ¡ventaja psicológica!

Con esta desventaja psicológica imposible de romper, las máquinas solo pueden continuar aumentando sus capacidades lógicas de ‘pensamiento’, pero realmente no ‘evolucionarán’ en el verdadero sentido. Y dado que las máquinas piensan y aprenden a pensar SOLO a través de las matemáticas y los algoritmos, sufren una desventaja estructural: la impotencia en aspectos que nunca se pueden codificar en las matemáticas.

Esa es la razón por la que siento que la situación que tenemos es que no es ni aterradora ni chiflada. Doom de todos modos es una profecía favorita de los científicos con un alto EQ 🙂 :). Lo que trae esperanza es que la tecnología en sí misma es una campana contra la tecnología. Se escuchan silbidos por todo lo que sale mal. Y con la alta tecnología que se vende en las aceras, la espada también obtiene una segunda ventaja. Los puntos discutibles son ambos, la viabilidad de que la IA realmente se vuelva tan súper y el desarrollo de los dientes del diablo, y la viabilidad de permitir que las máquinas se vuelvan tan súper tan destructivas.

Pasemos a otro ángulo. La toma de decisiones humanas puede ser casi imposible de emular para las máquinas, ya que el cerebro derecho casi siempre tiene un papel que desempeñar, en todas las etapas del proceso de toma de decisiones. El EQ a menudo conduce a los humanos hacia la generación de elecciones que pueden llamarse a la vez impulsivas, valientes, de cero posibilidades o creativas. Y EQ también hace que los humanos elijan entre opciones con los mismos impulsos o emociones salvajes.

Asi que; cuando una máquina decide en un escenario estocástico, es racional, y puede ser increíblemente eficiente en ello. Pero entonces, todas las otras máquinas rivales también están en el juego. Cuando la zona de guerra presenta batallas de ingenio, la irracionalidad humana brota la solución lateral ‘creativa’, rompiendo el desorden. La factibilidad de que las máquinas puedan jugar completamente la toma de decisiones humanas es muy escasa.

Si bien las máquinas de IA pueden ‘pensar’, pueden ‘pensar’ mejor y más rápido que los humanos, ¡seguirán siendo inferiores hasta que puedan aprender a ’emocionarse’ como los humanos!

¿No quieres agradecer a la naturaleza por hacernos emocionales e irracionales y todo lo que odiamos de nosotros? 🙂 🙂

Las películas Matrix y Transcendence nos golpean a menudo cuando pensamos en el futuro de la humanidad. Incluso mientras conversamos, vivimos en un mundo “imperfecto”, donde las imperfecciones son el resultado de una entropía. Las cosas son más lentas de lo que deberían; hecho menos pulido de lo que debería ser; Se cometen errores en las guerras debido a la corrupción, los prejuicios y otras fragilidades humanas.

AI y Super AI prometen eliminar estos ‘bichos’ humanos psicógenos e irritantes, allanando el camino para tener lo que puede parecer un planeta sacado de una película de Star Wars, pero solo en sus máquinas y dispositivos.

Las preguntas son DOS: una, ¿este mundo hará que los humanos lo sean menos (humanos), sin prejuicios y emociones y el celo de ir mejor todo el tiempo? Si es así, entonces, parece que nos dirigimos hacia una subyugación de IA. Pero si seguimos tan desordenados como estamos, la IA tendrá mucho trabajo por hacer para colonizar a los humanos.

La segunda pregunta es igualmente interesante: si hay un nexo entre la inteligencia y la conciencia, y tal vez pueda intentar burdamente probar la hipótesis, entonces, Super AI eventualmente también estaría dotada de súper conciencia, llevándonos a todos a una convivencia más pacífica y feliz – Un mundo más trascendental, donde los humanos, sometidos a las máquinas de forma consumada, ¡seguirán siendo libres!

¡La súper IA, si supera la singularidad, tal vez generará una nueva era fantástica, en la que las Máquinas serán indomables, completas, los reyes filósofos más perfectos!

Hablando por algunos investigadores, diría que probablemente no se sientan asustados en absoluto. Si surge una verdadera IA (y no un jugador de ajedrez inteligente basado en reglas o un competidor de Jeopardy, y especialmente una red neuronal profunda y aburrida), DEFINITIVAMENTE no vendrá de una computadora basada en silicio con una arquitectura vainilla von Neumann.

Tal vez deberías hablar con algunos investigadores de computación cuántica. O algunas personas que trabajan en informática distribuida de vanguardia.

(En cuanto a la IA débil, estoy personalmente entusiasmado con las arquitecturas neuromórficas y la investigación con memristores. ¡Ingeniería eléctrica + neurociencia FTW!)