A2A, generalmente no creo que los robots puedan convertirse en nuestros enemigos, pero es obvio que más tarde o más temprano los robots tendrán una mente más inteligente que podría ser más inteligente que los humanos, especialmente si logramos desarrollar súper agentes con conciencia.
El problema aparecerá cuando los agentes súper inteligentes descubran que son más inteligentes y tienen una mejor visión, comenzarán a no obedecer las órdenes de los humanos, luego decidirán tomar el control y guiarse.
Al principio lo harán sin ningún mal pensamiento contra nosotros, pero también los humanos se negarán a dejar estas tecnologías y máquinas fuera de control.
- ¿Alguien puede compartir su experiencia con la técnica de aprendizaje semi supervisada de Label Propagation? ¿Cómo funciona ese método en la naturaleza?
- ¿Qué es la optimización de enjambre de partículas?
- ¿Cómo debo aprender Python para el aprendizaje automático y la inteligencia artificial?
- ¿Cuál es la diferencia entre estadísticos bayesianos y frecuentistas?
- ¿Cuánto costaría implementar UBI en los Estados Unidos?
Sin embargo, los humanos comenzarán a cerrar estos súper agentes, por lo que este momento será el punto de entrada para una guerra entre la humanidad y las máquinas.
Esto parece una locura, como todas las películas de ficción científica, pero al menos es mejor tener en cuenta los peores casos y comenzar ahora, tan pronto como sea posible, a construir de manera segura un agente súper inteligente controlado, en lugar de esperar el momento en que podamos No controlar nada.
Si ha seguido las noticias de 2 meses, Elon Musk ha hablado de algunos temores sobre la inteligencia artificial y cómo controlarla, dijo que tenemos que comenzar a establecer reglas definidas para controlarlos.
Pero pocos días después, Mark Zuckerberg ha menospreciado los temores de Elons.
Ahora, Elon ha descartado la comprensión de Mark de la amenaza que representa la inteligencia artificial como “limitada”.
Estoy con los pensamientos de Elon y tengo mucho miedo de eso también.
He escrito un blog sobre estos hilos 6 meses antes, puedes encontrar más ilustraciones sobre las tecnologías de IA y algunos de estos temores.
https: //machineintelligent.quora…