Creo que es ingenuo pensar que nosotros, con nuestros cerebros limitados, podemos controlar la súper inteligencia.
Pero la (super) inteligencia es algo diferente de tener libre albedrío y automotivación. Por lo tanto, es muy posible que las máquinas actúen como esclavos muy inteligentes que toman órdenes.
Sin embargo, debemos tener mucho cuidado. Si, por ejemplo, damos instrucciones para eliminar o reducir el sufrimiento en el mundo, podríamos ser erradicados como un efecto secundario, incluso si la IA no es “malvada”. Este es uno de los principales problemas. Por supuesto, las computadoras superinteligentes también serán lo suficientemente inteligentes como para lidiar con la ambigüedad y podrían pedir aclaraciones. Pero una vez que comienzan a procesar su tarea, apenas podría haber tiempo para detenerlos, si se comportan de una manera no deseada (y no anticipada). Lo único lo suficientemente rápido como para detenerlos son otras máquinas.
- ¿Se utiliza la piratería en inteligencia artificial?
- ¿Qué limitaciones deben superar los métodos actuales de IA para resolver problemas completos de IA?
- Si la conciencia no puede explicarse mediante algoritmos, entonces, por defecto, ¿tendrías que confiar en una explicación sobrenatural?
- ¿Ha habido alguna vez un intento exitoso de enseñarle a una IA el concepto de números y matemáticas?
- ¿Surgirá el próximo líder político al hablar en contra de la inteligencia artificial? El contexto es que Trump surgió hablando en contra de la inmigración.
Uno de los problemas es que no debemos antropomorfizar la IA. Compartirían nuestra moral. Incluso los humanos no están de acuerdo con esto, la IA será muy diferente a la nuestra.