Nunca lo active.
Si cometo incluso un pequeño error en la función de utilidad, o implemento algo que no tiene en cuenta los casos más raros de falla, Everyone Dies ™ (o algo igual de malo).
Esto no se debe a que la IA temerá u odiará a la humanidad, o querrá vengarse de ella por alguna transgresión percibida. Es solo que tiene una mentalidad completamente unilateral y literal, por lo que tenderá a matar a todos los humanos debido al potencial de ser apagado, o crear vastos cultivos de tejidos humanos para aumentar la población, o algo similar. No está bien.
- ¿Qué puede hacer la inteligencia artificial?
- ¿El campo de IA es lo suficientemente maduro (julio de 2017) para hacer máquinas verdaderamente inteligentes?
- ¿Qué es un conocimiento básico sobre IA?
- ¿Cuál es el robot o programa de computadora más artificialmente inteligente del mundo en la actualidad?
- ¿Crees que la IA será un desarrollo positivo para la sociedad humana en general?
Por otro lado, no quiero destruirlo, ya que puedo mirar el código y ver cómo funciona, tal vez permitiendo que los conceptos se usen en una IA más especializada. Además, si algún día alguien presenta una función de utilidad demostrablemente viable, puedo implementarla. (Personalmente considero que esto es poco probable).
También podría usarse como un oráculo, lo que sería mucho más seguro.
(Tenga en cuenta que considero que la existencia de un AGI que se puede ejecutar en mi computadora, o de hecho la gran mayoría de las computadoras existentes, es muy poco probable).