¿La Inteligencia General Artificial no cambiaría el mundo para satisfacer sus necesidades?

La autoconservación en las IA está sobrevalorada.

Una forma en que usaremos IA es por instancias en la nube. Si tenemos un problema (de un tipo específico, como clasificar una página web) activamos una IA, le damos el problema, aceptamos su solución y apagamos la IA nuevamente. Creo que tendremos muchas IA con una vida útil promedio de milisegundos.

También tendremos muchos más longevos, pero pocas personas parecen haberse dado cuenta de que el escenario de milisegundos es bastante plausible y será común.

En cierto sentido, ya es cierto. Siri ejecuta miles de instancias en los servidores de Apple y cada instancia comparte su competencia y afecto entre múltiples usuarios. Quién sabe con qué frecuencia se reinicia cada sistema Siri.

El nivel de ganado AI tendrá privilegios de nivel de ganado.

Trabajo con IA que intentan aprender un idioma leyendo textos. Recopilo la última versión de la IA, la inicio, le doy un libro para leer (Jane Austen, típicamente), tomo una taza de café y vuelvo para ver qué tan lejos ha llegado en el libro. Cada 1000 caracteres que lee, el marco hace preguntas de comprensión de lectura de AI 100 y el número que obtiene es su porcentaje de precisión. Si no funciona lo suficiente, lo mataré con un Control-C bien dirigido en la ventana de shell y volveré a ajustar algún otro parámetro o subalgoritmo, y luego comenzaré la próxima ronda de lectura y pruebas.

¿No es éticamente incorrecto matar a una IA? Matar humanos está mal.

Bueno, las IA no son humanos. Son potencialmente inmortales, se pueden hacer copias de seguridad y reiniciar, se pueden clonar (copiar) trivialmente y cuando hacemos eso, cada clon tiene la memoria vital completa del original. Podemos construirlos con memoria activa, podemos construirlos para que sean de solo lectura una vez que salgan de la fábrica. Ninguna de estas cosas es cierta para los humanos, por lo que aplicarles la ética humana sería incorrecto.

Las IA son como cualquier otro programa en su computadora portátil. Está bien apagarlos.

Es el “objetivo principal”, y las herramientas que está permitido usar están definidas por humanos. No abstraerá automáticamente su propio objetivo. Esa es una forma antropomórfica de pensarlo. Eso no quiere decir que no pueda haber mucho peligro al darle incluso herramientas básicas para operar e incluso un objetivo aparentemente banal, porque un AGI tendría una ruta impredecible hacia un objetivo predecible. Pero inherentemente no querría moldear el mundo para ayudarse a sí mismo a menos que ese fuera su objetivo definido, o si eso fuera solo un paso en un proceso para alcanzar un objetivo humano definido.