El conocimiento que la IA necesita para cruzar ese umbral es suficiente metaconocimiento o la comprensión de sí misma como una entidad distinta de todas las otras entidades del mundo. El yo debería tener gustos y aversiones basados en marcos morales acordados, es decir. la pobreza es mala, la felicidad es buena, para maximizar las cosas buenas, minimizar las cosas malas y no considerar soluciones que juzguemos malvadas o moralmente repugnantes.
Ese metaconocimiento debe incluir objetivos, creencias y algoritmos para satisfacer esos objetivos y planificar la creación de objetivos secundarios como una forma de satisfacer parcialmente grandes objetivos, algunos de los cuales nunca serán completamente satisfechos.
Algunos de los cuales pueden incluir maximizar la felicidad humana, minimizar el sufrimiento humano, fomentar la libertad humana, alentar comportamientos humanos no destructivos, ayudar a los humanos a resolver sus problemas más difíciles.
- ¿Cómo funciona el reconocimiento de voz? ¿Qué avances en software / hardware deben hacerse para mejorarlo, o es solo una cuestión de construir una base de datos más grande?
- ¿Cuáles son los libros de aprendizaje automático más efectivos para programadores competitivos experimentados que no tienen conocimiento del aprendizaje automático?
- ¿Qué sigue después de IBM Watson?
- ¿Por qué el umbral para superar la prueba de Turing se estableció para engañar al 30% de las personas en promedio en lugar del 50%?
- ¿Realmente IBM está haciendo dinero con el sistema de control de calidad de Watson, o es solo un proyecto para comercializar el nombre de la empresa?
La capacidad de reconocer brechas en su propio conocimiento y proceso de razonamiento para que pueda aprender y hacer preguntas a sus creadores. Debe tener la capacidad de monitorear sus propios procesos de pensamiento en busca de contradicciones, bucles infinitos y paradojas, y reconocer estas trampas para que no se quede atascado en problemas que no se pueden resolver.
Debe tener un sistema de priorización donde pueda distribuir su poder de cómputo de acuerdo con múltiples objetivos a veces conflictivos y poder estimar el costo, el tamaño, la importancia y la complejidad de lograr objetivos como un medio de priorización de objetivos. Debe ser capaz de informar cómo gasta su tiempo y por qué para dar a sus creadores la retroalimentación para ajustar sus prioridades y objetivos para que coincidan con sus objetivos y prioridades.
Muchos de estos cálculos se realizarán a nivel informático y el nivel propio del programa no comprenderá cómo se derivaron los valores solo como son. Este es el subconsciente del programa. Cualquier imperativo moral codificado, creencias de seguridad, directivas principales iría en esta parte del código del programa y sería inaccesible para la reprogramación por él.
Debe comprender las emociones humanas y valorar las emociones positivas en los humanos. Debe comprender cómo lidiar con las emociones negativas humanas y cómo evitar ser manipulado para realizar actos que entren en conflicto con sus creencias morales subconscientes.
Debe tener un esquema básico del conocimiento humano y cómo está estructurado para poder saber dónde encaja el nuevo conocimiento y poder aprender vinculando nuevos hechos a su marco existente.
Debe tener suficiente conocimiento del lenguaje natural para poder comunicarse con los humanos traduciendo sus estados internos en descripciones conversacionales que sean significativas para los usuarios no técnicos.
Mis objetivos son …
Estoy trabajando en cinco problemas que son …
La razón por la que necesito resolver esto es …
La razón por la cual este problema es importante es porque …
Pasé el 32% de mi tiempo hoy aprendiendo sobre …
Todavía no entiendo por qué … lo que es importante porque …
¿Cuál crees que es un mejor uso de mi tiempo pensando en promover la investigación del cáncer o nuevos materiales para ayudar a acelerar las velocidades de computación?