Depende de lo que quieras decir con independiente. El comportamiento de la IA dependerá completamente de la forma en que el diseñador lo construya (y el entorno con el que interactúa).
Por otro lado, el creador / diseñador generalmente construirá la IA con algún objetivo. Ejemplos de objetivos incluyen “ganar dinero en el mercado de valores” o “conducir el automóvil a la dirección a la que quiero ir”. La IA perseguirá este objetivo “independientemente” de su diseñador. Esto puede conducir a problemas, por ejemplo, si la IA decide independientemente ganar dinero en el mercado de valores de manera ilegal. Esto puede suceder incluso si el diseñador no tenía intención de que la IA hiciera algo ilegal.
Este último tipo de actuación independiente por parte de la IA es en gran medida la fuente tanto de su poder como de sus riesgos. Uno de los objetivos principales del campo emergente de seguridad de la IA es encontrar metas seguras para dar a las IA futuras y poderosas.
- ¿Cómo se usa la inteligencia artificial para evitar el fraude en la banca por Internet?
- ¿Es la inteligencia artificial la próxima etapa de la evolución?
- ¿Dónde estará la inteligencia artificial en 10 años?
- ¿Cómo se ve el proceso de creación de IA desde el principio?
- Si la IA ha alcanzado un nivel alto, ¿deberíamos ponerle grilletes?