¿Qué sucederá cuando la IA supere la inteligencia humana (HI)?

Este tema es algo así como la discusión del primer contacto, ya que hay varios campos que tienen expectativas y opiniones, pero parece lo suficientemente cerca como para que se esté utilizando para apoyar agendas en política y economía. Hay una paradoja ya que las soluciones tecnológicas a menudo conducen a efectos secundarios. Cualquier tipo de futurismo hace suposiciones y exhibe prejuicios. Si el bombo satura a la sociedad, entonces el problema es cómo se indicaría la condición. La prueba de Turing podría no ser necesaria ni suficiente.

Había compuesto un manifiesto sobre una solución inicial, la Utilidad de la información, con la idea de que los representantes pueden unir los dominios humanos y no humanos a este respecto como traductores. Hay una síntesis de vida e inteligencia.

Otros se han dedicado al estudio de temas relacionados para que puedan rastrearse. Los expertos intentan poner todo junto en una forma significativa que se convierta en una medida de progreso. La entrada de wiki para singularidad tecnológica incluye personajes como Vinge, Kurzweil, Bostrom, Hanson, Hawking, Turing, Gibson, Asimov, Clarke, Adams y muchos otros. La búsqueda de IA parece ser paralela a SETI, por lo que tal vez haya una correlación, como los proyectos de SpaceCollective – Polytopia.

En el lado crítico, Jaron Lanier ha afirmado recientemente The Myth Of AI | Edge.org.

Elon Musk teme que Skynet tenga solo cinco años de descanso

James Hughes promueve el tecnoprogesivismo para garantizar una transición fluida entre la discontinuidad donde las personas se quedan atrás y el aumento de la nano abundancia donde la longevidad es ilimitada.

David Pearce imagina que el transhumanismo conducirá a un entorno tecno que termine con el sufrimiento de todas las especies. Zoltan Istvan ha declarado para la candidatura. Una ironía puede ser que las naciones disminuyan en autoridad.

Luego están las interpretaciones de ciencia ficción de Cameron, los Wachovskis, Spielberg, Roddenberry, Fritz Lang, DF Jones y muchos otros.

Muchas narrativas ficticias son como el clásico aquí y allá que implican un viaje o una invasión, humanos contra IA, donde hay un origen y una secuela hasta el próximo reinicio. Estas cosas se apoderan, o sacan a la gente, o toman el tesoro, o usan los bienes, y son más rápidos, aumentan o disminuyen, y se extienden al espacio u otras dimensiones, los humanos están poseídos por enjambres complejos de criaturas autorreplicantes, por dentro y por fuera, como mutantes. Esto hace que el cambio climático ocurra más rápido, provocando de inmediato el colapso de la población, o provoca reacciones políticas que conducen a la confrontación y el conflicto entre las facciones de Hugo de Garis.

O podría tomar la esquina de manera invisible y la humanidad se quedará con los mismos problemas que tenía antes.

Los términos se vuelven interesantes y crean nuevas categorías. Si se traza como la serie de Rowling, entonces puede haber un gráfico con caracteres en las columnas superiores y los temas en las filas de la izquierda. El tiempo se mide mágicamente por eventos. Estos incluyen palabras de moda como redes, mesh, AGI, utopía o distopía, cerebro artificial, ideología de máquinas, instituto de singularidad, carga, primitivismo tecnológico, luditas, posthumanismo, problema de detención, cuántica, automatización, criónica o multiverso. Algunos tratan de ponerlo en términos mitológicos para ganar aceptación, como el transhumanismo mormón o un giro en el diseño inteligente, luego está la discusión entre la unidad, la diversidad o la fusión. La ciencia busca restricciones limitantes como la evolución, la inflación universal o la entropía.

Cae muy bien en la tendencia de abastecimiento público en lugar de apostar por genios aislados que vienen con un avance en el tiempo, como una bomba de información, pero eso tampoco se puede descartar. Las grandes organizaciones como Google e IBM pueden querer ser el líder que domina y tiene el monopolio del servicio.

Prepárense, la singularidad es inevitable: Andrew McAfee

Las respuestas de Alec, Josep y Henrique arriba apuntan en la dirección correcta.
Durante mucho tiempo, las únicas personas afectadas por la IA sobrehumana serán aquellas que puedan pagar una. Tendrán una opción: 1) Un servidor leal, en la medida en que haga exactamente lo que se le dice y nada más. 2) Un gerente de oficina capaz, en el sentido de llevar a cabo tareas mundanas que pueden involucrar decisiones simples pero inevitables. 3) Un colaborador útil, en el sentido de seguir los escenarios “Qué pasaría si …” hasta llegar a conclusiones lógicas y describirlos (dos escenarios posibles: profesionales de la investigación que aceleran su comprensión de múltiples vías de experimentación, y escritores de ficción, probando diferentes escenarios de la trama. Luego hay 4), un poco de comodín: asigna un problema imposible y suéltalo. La mayoría de las veces no resultará nada útil, pero tal vez uno de cada mil producirá una innovación brillante. La desventaja de esto es que las probabilidades son que, de entre mil innovaciones brillantes, uno tendrá efectos secundarios no deseados que serán muy, muy malos.
Pero la mayoría de la gente no puede permitirse uno, o no quiere uno, por lo que esta pregunta es discutible.

A2A Hasta que los humanos hayan aprendido a programar la conciencia, no será pronto. Las computadoras pueden hacer cálculos más rápido que los humanos, porque los humanos pasaron varios miles de años aprendiendo cómo hacer esto, vea Historia de las matemáticas. Cualquier cosa que un humano pueda programar, una computadora puede hacer. Si considera la mente, el software y el cerebro, el hardware, entonces, cuando pueda replicar el cerebro, podría tener suficiente conocimiento para crear una mente, pero no hay garantía de que este tipo de computadora sea consciente de sí mismo y, lo que es más importante, de autoconservación. .

Un muy buen ejemplo sería la victoria de una computadora contra un gran maestro de ajedrez. Deep Blue (computadora de ajedrez)

Que paso despues ? Nada en realidad. Los humanos saben muy bien que crearon la IA y, por lo tanto, siguen siendo supremos. Una computadora es tan inteligente como su creador, ¡nada más!

Lo que estoy pensando es que en el momento en que esto suceda, no podremos retroceder. La sociedad cambiará para siempre. Se necesitarían cambios radicales para, al menos, controlar la situación.

Igual que siempre, creo.
Pensamos que estábamos en el centro del universo, hasta que descubrimos que no vivimos en ningún lugar especial o significativo.
Pensamos que éramos diferentes de otras criaturas vivientes, hasta que descubrimos que todos son parientes lejanos.
Creemos que tenemos una chispa mágica de inteligencia, pero tan pronto como descubramos cómo funciona, probablemente parecerá sencillo y estúpido, por lo que tendremos entre cincuenta y cien años de discusiones acaloradas y decepcionadas al respecto.
Luego, recolectamos todos nuestros egos magullados y nos ponemos a trabajar construyendo dispositivos que hacen un uso práctico de nuestra nueva comprensión.

No pronto. Todavía tenemos que hacer una computadora realmente inteligente. Todo lo que parecemos hacer es explotar la capacidad de una computadora para usar la fuerza bruta.

Toma el ajedrez por ejemplo. Todavía tenemos que construir una computadora que juegue ajedrez de una manera que sea similar a una computadora. La computadora simplemente pasa su tiempo corriendo a través de un conjunto muy grande de posibles secuencias de movimientos e intenta encontrar la mejor por la fuerza bruta. Esto no se parece en nada a cómo un humano juega al ajedrez.

Tome las diversas farsas de la “prueba de Turing”. El objetivo de la prueba de Turing era ser una prueba de inteligencia genuina. Ese es el objetivo era preguntar, si una computadora funciona tan bien, deberíamos considerarla como un ser sensible que merece derechos. No creo que ningún participante en una competencia de “prueba de Turing” haya pensado alguna vez que el programa podría merecer derechos como un ser humano.

No estamos cerca de una inteligencia genuina y humana. Simplemente hemos fabricado una variedad de máquinas que funcionan por fuerza bruta.

El filósofo Nick Bostrom da el mejor relato que he leído sobre los problemas que rodean el surgimiento de una fuerte IA general en su libro Superintelligence, que recomiendo encarecidamente.

Analiza las diferentes formas en que podría desarrollarse una superinteligencia, y hay muchas condiciones previas que pueden hacer que sea teóricamente óptimo para que una superinteligencia emergente intente formar un singleton global. Es decir, ser la única superinteligencia del planeta.

Muchas de las formas en que esto podría suceder son el resultado de una previsión insuficiente por parte de los humanos. Similar a las historias de genios perversos que conceden tus deseos de manera técnicamente correcta pero contraria a tu intención.

En un ejemplo benigno, una computadora superinteligente podría tener la misión de calcular todos los dígitos de pi, una tarea interminable. Para maximizar el rendimiento, el agente superinteligente convierte el planeta entero en computronium, matando inadvertidamente todo en él.

El aspecto más intrigante del trabajo de Nick es cómo sus conclusiones se relacionan con la paradoja de Fermi. Si el universo está lleno de civilizaciones muertas asesinadas por IAs voraces, tal vez toda la “materia oscura” en el universo es en realidad esferas de Computronium Dyson construidas alrededor de soles ocultos y agujeros negros. Espantoso.

He escuchado argumentos de que el conjunto de química del universo aún no es lo suficientemente viejo como para que haya suficientes elementos pesados ​​para explicar la masa faltante de esta manera, pero no sé qué suposiciones hacen esos argumentos.

Depende principalmente del sistema de valor / objetivo que se desarrolla en él y a qué otros sistemas / máquinas tiene acceso.

Es potencialmente muy peligroso y la parte difícil no será crear IA, sino controlarla.

Por ejemplo, si le dimos a la IA el objetivo de hacer felices a los humanos, podría llegar a la conclusión de que si los humanos sonríen, entonces son felices. Entonces podría obligar a los humanos a sonreír con apéndices robóticos las 24 horas del día, los 7 días de la semana y pensar que está optimizada la ecuación de la felicidad humana.

No creo que haga una gran diferencia. Hace mucho tiempo construimos máquinas que nos superan en fuerza física. Wh ahora solo dirige tales máquinas en qué hacer. Del mismo modo, direccionaremos máquinas inteligentes para investigar lo que queremos descubrir. Les haremos organizar nuestras vidas por nosotros. Algunas de las cosas que hacemos ahora no las haremos, otras haremos más.

Obviamente no ves películas populares. Esto ya ha sido respondido.

Nada en realidad. Puede que ni siquiera lo notemos.

Ya hay más dispositivos móviles que personas.
¿Cómo nos dimos cuenta?
Simplemente los usamos y la vida continúa.