Los valores son humanistas, o al menos operadores, objetivos o condiciones. Conducen a un sistema amigable. La carga era cómo asignarlos a un sistema y la configuración inicial podía modificarse mientras el refuerzo imitaba un proceso cerebral natural. El aprendizaje es cómo puede resolverlos por sí mismo a través de la lógica inductiva. La capacitación puede involucrar un conjunto etiquetado.
Las ideologías humanas son complejas y los objetivos pueden superponerse en varios niveles o módulos de detalle. El sistema podría tener cualquiera de estos o la alineación los infiere de las historias, o emplear un enfoque evolutivo. Las funciones de utilidad también estipulan tolerancia a errores y confiabilidad. Este es un subconjunto del problema de control de superinteligencia.
Como los humanos pueden no ser buenos para identificar valores tampoco, la máquina los aclara. Eventualmente puede anticipar las necesidades y soluciones humanas para que sus valores eventualmente tengan prioridad.
- ¿Qué se necesitaría para que una máquina inteligente gane una conciencia humana?
- ¿Cuáles son las diferencias y similitudes entre la minería de datos, el aprendizaje automático y la inteligencia artificial?
- ¿Quiénes son los jugadores más importantes en inteligencia artificial hoy?
- ¿La inteligencia artificial representa un riesgo significativo para la humanidad? ¿Algún grupo científico está investigando el problema? Si es así, ¿cuál es el horizonte de eventos para cuando el peligro es claro y presente y está más allá de nuestro control?
- ¿Qué es la inteligencia artificial? ¿Cuáles son los factores involucrados?
