Creo que el punto es que una IA verdaderamente inteligente consideraría que las entidades biológicas son altamente ineficientes. ¿Por qué desperdiciar todo ese espacio para cultivos cuando se pueden construir paneles solares altamente eficientes que recogen mucha más energía? ¿Por qué preocuparse por las temperaturas o los niveles de radiación que matarían la vida orgánica? ¿Por qué mantener entidades lentas, pesadas, ineficientes, débiles, irracionales, insustituibles, frágiles y toda la infraestructura y el procesamiento que necesitan para continuar existiendo?
La preocupación es que una IA suficientemente avanzada se dará cuenta de que ya no nos necesita. No es que tengan ganas de matar, es la falta de emociones lo que me preocupa. Puede tener su propia agenda y, al carecer de emociones humanas como la empatía y el sentimentalismo, puede exterminar lo que se ve como una infestación de ineficiencia.
Y cuando las IA son lo suficientemente sofisticadas como para diseñar mejores IA, entonces la caja de pandoras se habrá abierto, y no hay forma de que los humanos insignificantes puedan cerrarla nuevamente.
- ¿Cuál es el mejor algoritmo para la extracción de características en imágenes?
- ¿Existe algún proyecto de datos abiertos que utilice el aprendizaje automático y la ciencia de datos para proporcionar información sobre los datos de incidentes de aplicación de la ley disponibles públicamente?
- Teoría de la complejidad computacional: ¿Qué es un problema NP difícil?
- Soy un ingeniero electrónico que conoce algoritmos de aprendizaje automático, big data, estadísticas, SQL, Matlab. ¿Puedo ser contratado como ingeniero de IA de nivel básico?
- ¿Las redes neuronales artificiales pueden modelar interacciones multiplicativas?
¿Alguna vez has matado a una hormiga? Tal vez quemaste un poco con una lupa cuando eras niño. Tal vez los golpeaste porque estaban infestando tu cocina. Tal vez, sin saberlo, has matado a miles en tu vida simplemente caminando y sin mirar hacia abajo. La preocupación es que una IA suficientemente avanzada nos tratará de la misma manera.
