Este es mi propio análisis / interpretación de las ideas detrás de la historia. Estoy escribiendo esta respuesta 8 años después de que el Sr. Egan escribiera Crystal Nights, así que obviamente estoy leyendo entre líneas aquí.
El autor de la pregunta original me sigue en Twitter, así que haré un seguimiento de lo que quise decir aquí:
Wow, realmente interesante, ciencia ficción dura en universos simulados. Algunas ideas bien definidas de IA también https://t.co/dxUWPyyFJC
- En este momento, ¿qué tan difícil es la competencia para conseguir un trabajo en aprendizaje automático o inteligencia artificial en el área de la bahía con un doctorado?
- ¿Cuáles son algunas de las nuevas empresas que usan IA en los viajes?
- ¿Es una preocupación entre los científicos que la IA pueda poner la habilidad de hacer algo tan destructivo como una bomba nuclear en las manos de alguien?
- ¿Hay alguna inteligencia artificial omnisciente en este mundo en este momento?
- ¿Por qué algunas personas dicen que no debemos temer que la IA se haga cargo de los trabajos porque crearán otros?
– Eric Jang (@ ericjang11) 12 de octubre de 2017
La historia comienza con Daniel Cliff, un excéntrico multimillonario tecnológico que quiere construir una vida artificial / IA general a nivel humano. Un tropo clásico.
Sus competidores están tomando diferentes enfoques para resolver la IA. Estos enfoques no se discuten en detalle, pero la dirección general de estas ideas es bastante prometedora cuando se trata de cómo los investigadores de IA reales en 2017 piensan que la IA general viable funcionará. Crystal Nights se escribió mucho antes de que la reciente revolución de la IA despegara, así que encontré estas ideas notablemente proféticas.
ENFOQUE # 1
Sunil Gupta estaba recogiendo el dinero de un motor de búsqueda que podía “comprender” todas las formas de texto, audio y video, utilizando técnicas de lógica difusa que tenían al menos cuarenta años
El primer enfoque es BIG DATA, y ¿quién está mejor preparado para recolectar muchos datos que una empresa de búsqueda? De hecho, esta historia exacta se desarrolla en mi película de IA favorita de todos los tiempos, Ex Machina , donde el CEO de una compañía de búsqueda aprovecha los datos de audio, texto y video del mundo para construir un sistema que comprenda el mundo.
“Pensaban que los motores de búsqueda eran un mapa de lo que pensaban las personas. Pero en realidad eran un mapa de cómo pensaban las personas. Impulso. Respuesta. Fluido. Imperfecto. Modelado. Caótico”.
– Nathan, ex Machina (2015)
Ps Adam D’Angelo Sé que estás leyendo esto, deberías pensar en lo que Quora podría hacer con todos sus datos de video / texto / imagen 😉
El comportamiento inteligente genera datos, y teóricamente se pueden usar suficientes datos para sintetizar el comportamiento inteligente.
ENFOQUE # 2
Angela Lindstrom estaba teniendo cierto éxito con su cursi AfterLife, en la que los clientes moribundos daban entrevistas sinceras a un software que luego construía avatares capaces de conversar con los familiares sobrevivientes.
La idea básica es tomar los datos digitales de una persona (conversaciones telefónicas, actividad de Facebook, diarios en línea, correos electrónicos), y usarlos para reconstruir un ‘simulacro’ que se comporte exactamente como lo haría esa persona. De hecho, esto permitiría que alguien se comunique con el fallecido, o una aproximación que se comporta de manera similar a como lo haría el fallecido.
Otra idea súper profética, explorada en el episodio de Black Mirror de 2013 Be Right Back. PD: por coincidencia, el actor del simulacro Domhnall Gleeson protagoniza Ex Machina, pero como humano.
Mientras que los otros enfoques de IA intentan crear una nueva identidad (quizás a partir de grandes cantidades de datos que amalgaman datos de muchos humanos), este enfoque intenta crear un clon de una persona real.
Los seres humanos encuentran esto muy desconcertante, y hay todo tipo de problemas filosóficos / éticos que surgen cuando nuestro sentido de singularidad es tan vívidamente eviscerado. Muchos están completamente disgustados por la idea de que algún software puede capturar las peculiaridades de identidad / comportamiento de sus seres queridos, ya que parece abaratar la supuesta invalidez de un individuo humano.
Descubrir que hay alguien que es física y mentalmente idéntico a ti en todas las formas posibles probablemente causará la muerte del ego en la mayoría de los humanos (o el impulso de asesinar a los duplicados).
ENFOQUE # 3
Y Julie Dehghani todavía estaba desperdiciando su talento, escribiendo software para robots que jugaban con bloques de colores al lado de bebés humanos, y aprendían idiomas de voluntarios adultos imitando las interacciones de las conversaciones infantiles.
Investigaciones recientes sobre psicología infantil y neurociencia cognitiva sugieren que la interacción social, el juego y la imitación de adultos desempeñan un papel muy importante en la configuración de las primitivas de inteligencia general que subyacen a la cognición humana.
Por ejemplo, el aprendizaje por imitación parece jugar un papel importante en el desarrollo de la conciencia espacial, el uso de herramientas, la conciencia del oponente, inferir objetivos de terceros. Los bebés también aprenden de los adultos que los imitan , por lo que los circuitos de retroalimentación de la interacción social parecen ser bastante importantes para facilitar el desarrollo de la inteligencia humana.
Básicamente, las IA probablemente no nacerán en el mundo con una comprensión de cómo funciona todo. Si suscribimos la hipótesis de que nuestra primera IA exitosa debería seguir de cerca la forma en que los humanos hacen las cosas, entonces probablemente requerirá elevar la IA como un bebé / niño, en lugar de nacer al estilo de Atenea (migraña completamente madura de Zeus mente).
Este documento de 2005 sobre Cognición incorporada (http: // ftp: //www.cs.indiana.edu/pub/gasser/alife.pdf) de Smith et al tiene muchas ideas geniales en este frente.
ENFOQUE # 4
El enfoque de Daniel para resolver la IA es simple y hace la siguiente pregunta:
“¿Qué creó el único ejemplo de conciencia que conocemos?”
Algunos investigadores de IA, particularmente aquellos en la comunidad de Vida Artificial (ALife), creen que es extremadamente arrogante de los humanos pensar que somos lo suficientemente inteligentes como para crear conciencia de la misma manera que construimos aviones: extrayendo los principios básicos e ignorando todo lo evolutivo. equipaje que hizo de los humanos lo que somos hoy y moldeó la forma en que percibimos el mundo. Los investigadores de ALife no solo creen que debemos criar a la IA como los bebés, sino que en realidad necesitamos retroceder más y simular el desarrollo de la vida inteligente. Es decir, para crear homo sapiens, primero debe crear “la iguana entera”.
En Crystal Nights , Daniel ha construido una supercomputadora de increíble poder, que es capaz de simular la física en un “microuniverso” muy primitivo más rápido que en tiempo real. Me gustó la idea de que un enfoque de “evolución simulada” necesita un nivel apropiado de granularidad simulada. El nivel de complejidad no necesita ser lo suficientemente detallado para soportar los efectos cuánticos o la dinámica molecular, pero debe ser lo suficientemente grueso como para soportar cosas como los recursos de organismos que son consumidos y reutilizados por otros organismos.
Este nivel de detalle se explota como una característica en lugar de un error. Debido a que no existe una molécula de código genético, los animales en el mundo simulado (llamado Zafiro) en cambio pasan fenotipos al aprender a observar a otros animales y adoptar directamente los fenotipos simplemente reorganizando sus bloques de construcción para implementar esas características.
Este es el enfoque de IA general en el que se centra la historia, el resto de la historia básicamente se dedica a explicar algunos posibles desafíos técnicos que uno podría enfrentar al desarrollar una vida artificial altamente inteligente.
El uso de una “Policía del Pensamiento” y una población “vieja y nebulosa” para asegurar que el lenguaje Phite no evolucionara más allá de la comprensión humana fue muy bueno. La historia también fue muy profética en el sentido de que la “infraestructura de código” para la instrumentación y el análisis sería mucho más complicada que solo el cómputo requerido para la simulación, y como resultado Daniel tiene que comprar una supercomputadora separada solo para analizar y registrar eventos en la simulación. .
