Cuando Elon dice que el riesgo de que ‘ocurra algo gravemente peligroso’ como resultado de máquinas con inteligencia artificial, no se refiere a la sensibilidad. Se está refiriendo a las IA tontas que no funcionan según lo previsto. Tal vez un auto con piloto automático que atropella a un bebé o un programa de comercio de IA que accidentalmente estrelló el mercado … Uno de los cuales ya sucedió.
E incluso con respecto a la singularidad o lo que sea, sabemos que la cosa va a ser tonta primero. Todos fuimos tontos. Los niños son crueles e irracionales y les encanta jugar. Los monos arrojan heces. Si la IA fuera como nosotros, será infantil y primitiva antes de que supere a sus padres, y eso sería si se pareciera a nosotros.
Pero la verdadera amenaza es que deseamos demonios, no por accidente, sino a propósito. La carta abierta advierte que “nuestros sistemas de IA deben hacer lo que queremos que hagan”. Mientras haya intereses militares, la IA se convertirá en armas primero. Los mayordomos robóticos iluminados no nos van a matar. Los soldados robóticos lo harán mejor, y lo harán primero, y obedecerán las órdenes.
- ¿Cuál es un marco de tiempo realista para cuando el "Prime Air" de Amazon estará disponible públicamente?
- ¿Es necesaria la decisión de Trump de actualizar los servicios tecnológicos del gobierno?
- ¿Cuál es la pila tecnológica de Apple.com?
- ¿Qué software puedo usar para simular luces de escenario?
- ¿Qué tecnología se necesitaría para sobrevivir en la superficie de Júpiter?
