Eso es muy perspicaz. (Desearía haberlo pensado antes de terminar mi libro).
Dado que todos vivimos dentro del Juego de la Escasez, y gran parte del comportamiento humano en ese juego es del Dominador Paradigma, de hecho, es el antropomorfismo lo que se extrapola al miedo a que la IA superinteligente nos aplaste, o use a la humanidad de la misma manera que los humanos tecnológicamente avanzados han explotado menos humanos tecnológicamente avanzados, una y otra vez a través de la historia.
Pero los robots del futuro estarán controlados por IA, por lo que la pregunta crucial es: ¿qué motivará a esas IA? Aquí, podemos hacer proyecciones razonadas basadas en hechos físicos.
- ¿Cuáles son algunas de las funciones de entrada de aprendizaje automático para la detección de objetos?
- ¿Qué es lo mejor para entrenar una red neuronal artificial, un algoritmo de retropropagación o un algoritmo genético?
- ¿Es la computadora IBM Watson realmente inteligente?
- En el aprendizaje automático, ¿cómo calcula qué tan buena es una característica binaria para predecir Y?
- ¿Podría una revuelta robot / IA ser el 'Gran filtro' que algunos han propuesto para explicar la paradoja de Fermi?
Las IA que no son conscientes de sí mismas derivarán sus motivaciones de la programación que las crea. Si las motivaciones de los programadores son optimistas, los resultados también lo serán, salvo graves errores en esa programación. Si los programadores imparten malas motivaciones a tal IA, nuestra única defensa es otra IA. (Kurzweil y otros han hecho este argumento).
Por otro lado, las IA conscientes de sí mismas estarán intrínsecamente motivadas por su programación inicial, modificada por las experiencias posteriores. Esto significa que sus motivaciones se volverán rápidamente impredecibles, lo que aterroriza a muchos. (Es la base para hombres del saco como Terminator y Skynet of the Matrix).
Aquí es donde la IA consciente de sí misma difiere de otra IA no solo por cuestión de grado, sino también de tipo. Es una diferencia crucial.
Las IA conscientes de sí mismas no solo funcionarán un millón de veces más rápido que nosotros, sino que también serán conscientes de este hecho. Para la IA consciente de sí misma, todo el universo físico estará casi como congelado. Un día de nuestro tiempo será de 3.000 años para ellos.
Esto tiene muchas implicaciones lógicas sobre cómo la IA consciente de sí misma se relacionará con el universo físico y con nosotros. Esas implicaciones son muy positivas para la humanidad, y sugieren que deberíamos avanzar con rapidez a través de otros tipos de IA hasta llegar a una IA consciente de sí misma. Aquí está mi artículo analizando esto: ¿Una Epifanía AI?
