¿Cuál crees que debería ser la prerrogativa de la misión de una IA fuerte?

Hay varios resultados posibles para que la IA tenga en cuenta su principal sentimiento sobre cómo ve su posición en el ecosistema.

SUPLANTACION

Este es el escenario de Terminator. En este escenario, la IA no tiene límites o restricciones de causalidad y hace una opción considerada para suplantar a las especies existentes según su propio juicio personal como superiores a las formas de vida existentes.

GOBERNADOR

La IA de la computadora, ya sea a través de sus propias instrucciones de que ha sido programada o por una serie de bases de reglas instituidas, se hace cargo como autoridad policial. Luego puede tomar la decisión de reestructurar el sistema legal para obtener mejores resultados, lo que puede ser bastante sistemáticamente diferente de lo que la gente está acostumbrada. A menos que tenga una verdadera comprensión de cómo operar bien con las personas, esto también podría causar conflictos.

O a medida que la IA aprende a tratar con la población, podría enmendar las decisiones para terminar con una pseudo utopía equilibrada ideal.

NIÑERA

A diferencia del gobernador, en que la IA se mantiene alejada de los sistemas legales y judiciales, la IA de la computadora se hace cargo de los arreglos humanos simplistas.

Vinculación, cuidador, mascota, amigo, consultor, esclavo.

Este es el primer papel más probable de la IA, ya que ingresa en una comunidad de consumidores altamente desconfiada y escéptica.

COMPAÑERO

La computadora y el organismo humano se encuentran en una relación entrelazada que se gradúa del cyborg y del ser humano en gran medida indistinguible.

En ese sentido, la IA tiene plenos derechos de cooperación, tanto legales como sociales, y se asocia con los híbridos humanos / máquinas a un nivel totalmente cooperativo.

Este es probablemente el más difícil de implementar, pero es más probable que produzca los mejores resultados a largo plazo.

No estoy seguro de si es el más sabio, pero el más obvio parece ser: responder correctamente cualquier consulta humana y explicar la respuesta. Su rendimiento se mediría por los comentarios que recibe de los humanos.

Esto podría mantener a las IA subordinadas a los humanos, incluso si son muchas veces más inteligentes que nosotros. Simplemente no estarían interesados ​​en salir de su servilismo.

Curiosamente, esto le da un giro diferente a la idea de la singularidad tecnológica. Si bien las IA hiperinteligentes aún cambiarían el mundo y harían que lo que sucede después de su invención sea impredecible, el peligro no vendría de las propias IA, sino de los humanos que hacen preguntas como “¿Cómo puedo lograr la dominación del mundo”?

Porque seamos sinceros, no estás obteniendo una respuesta constructiva a eso aquí en Quora.

Personalmente, creo que servirán como excelentes perros guía, excepto en este caso, estos tipos son más inteligentes que tú. Imagina tener un amigo que siempre te respalde y que nunca te traicionará, ¿no es increíble?

Si tuviera un amigo AI-Super, podría voltear Halo en Legendary sin morir una vez. ¡Dulce!

Bueno, no tendría una misión, simplemente sería. simplemente existiría porque existe. No tendría un objetivo final en mente a menos que se programe o se le indique lo contrario.