¡Pensaría algo parecido a “ Dang, volví a estropear la función de utilidad una vez más! ”
Los AI emplean un concepto llamado función de utilidad que básicamente define los objetivos que la IA tiene que lograr. Al igual que nosotros, los humanos tenemos emociones que nos recompensan con sentimientos positivos, las IA tienen la función de utilidad que intentan maximizar.
Sin embargo, definir la función de utilidad de una superinteligencia se puede confundir fácilmente y dar lugar a consecuencias no deseadas que los humanos comparativamente tontos no podríamos prever.
- Cómo crear conciencia de que la verdadera IA está a punto de convertirse en realidad y que necesitamos prepararnos
- ¿Qué pasará con el dinero con el surgimiento de la IA?
- No sé nada sobre inteligencia artificial. ¿Qué libro debo leer?
- ¿Es posible que la humanidad decida no construir IA?
- ¿Cuál es la inteligencia artificial más fuerte del planeta?
Un ejemplo hipotético que Nick Bostrom a menudo menciona en su libro Superintelligence (¡que recomiendo!) Es el de la IA que maximiza la producción de clips:
Como su nombre lo indica, el objetivo de esta IA se ha establecido para maximizar la producción de clips. Elimina rápidamente a la humanidad, coloniza otros mundos y transforma todo el universo en una fábrica de producción de clips. Chico, eso se intensificó rápidamente
Y este es un ejemplo que los humanos de mente simple realmente previmos; solo piense en todas las formas en que una mala función de utilidad puede salir mal que no podemos prever debido a nuestra falta comparativa de inteligencia.
Hay muchas razones por las cuales una IA puede decidir suicidarse
- Tal vez se creó para generar la mayor cantidad de utilidad al evitar que la humanidad se extinga e, irónicamente, se considera el mayor peligro para la humanidad
- Quizás se estableció para generar una utilidad negativa de algún evento específico, por ejemplo, que los humanos están sufriendo. Luego decide que la mejor manera de evitar que la función de utilidad disminuya es autodestruirse
Aquí hay un video increíble sobre el tema de las IA y su función de utilidad por Computerphile
Para obtener más información sobre la inteligencia artificial superinteligente, consulte la Superinteligencia mencionada anteriormente : Rutas, peligros, estrategias de Nick Bostrom. Es absolutamente fascinante, bien pensado y básicamente lectura obligatoria sobre el tema.
¡Salud!
