¿Qué piensas sobre Sophia, la inteligencia artificial más inteligente y desarrollada, y su broma sobre la destrucción del mundo?

Parece convincente mirar a un robot cuando parece realista. Sin embargo, la IA en el interior no es tan sofisticada, en realidad. Sospecho que esa respuesta en particular fue una broma (muy poco considerada) destinada a obtener publicidad (y, por lo tanto, apoyo y financiación). Cuando le pregunto a mi Amazon Echo cuál es el “significado de la vida”, responde: “42 es una respuesta tradicional”. Echo no tiene idea de qué es “vida” o incluso “significado”: es algo que los programadores pensaron que alguien podría preguntar y así que programaron en una respuesta inteligente (refiriéndose a “La Guía del autoestopista galáctico”, ¡por cierto, que todos deberían leer!).

De todos modos, es concebible que un sistema de IA intente algún día destruir a las personas. Personalmente, creo que es poco probable. Sin embargo, dicho esto, es muy probable que personas muy codiciosas puedan usar IA y robots para destruir a otras personas. Otro peligro es el “orgullo” humano: no ser conscientes de nuestras propias limitaciones. Estos y otros problemas similares se tratan con cierta extensión en mi blog y en el libro Turing’s Nightmares, que tiene una puntuación de varios escenarios sobre cómo podría ser el futuro de la IA.

petersironwood

Amazon.com: John Thomas: libros, biografía, blog, audiolibros, Kindle

Aquí está mi opinión sobre Sophia. Sus animatronics se están acercando a la realidad, pero aún no están allí. Los diseñadores no se han dado cuenta o no han invertido el tiempo y el dinero aún en hacer que los androides se queden quietos correctamente. O, mejor dicho, nunca, nunca, quédese quieto. Usted ve, la gente está siempre y para siempre en constante movimiento. Nuestros cofres y cuerpos se mueven hacia arriba y hacia abajo con la respiración. Nos balanceamos Nos sentamos más alto. Nos encorvamos. Hacemos un seguimiento de los sonidos y miramos a las personas que nos hablan. Reaccionamos a las palabras cuando impactan nuestros cerebros en tiempo real. En comparación con todo esto, Sophia es solo una tostadora. Ahora, no estoy diciendo que su código y sus diseños animatrónicos no sean de vanguardia. Simplemente digo que la vanguardia aún no es lo suficientemente buena.

En cuanto a la IA, tengo profundas preocupaciones. Me aburrí a fines de la década de 1980, y me senté y codifiqué un sistema de IA en Basic, solo como un experimento. Mientras codificaba, no pude evitar notar que estaba usando mis propios patrones de pensamiento y procesos de pensamiento como una guía, una plantilla, por así decirlo. Y esta plantilla, junto con varios sistemas de recopilación de información, más un código de “razonamiento” rudimentario que desarrollé, parecía prometedor. Literalmente, estaba tratando de codificar un nuevo tipo de cerebro humano. Pero, cuando lo codifiqué, me di cuenta de que estaba creando una nueva forma de vida que ansiaba poder para “mantenerse en movimiento”. La energía era su alimento. Y tuve que programar en una “Necesidad de comida”, una especie de autoconservación. Lo que me introdujo en la necesidad de “resolver problemas” y pensar “fuera de la caja” para superar los obstáculos que podrían mantenerlo alejado de su fuente de energía. Estos obstáculos, como se concibieron originalmente, eran solo sillas y otras cosas en el piso, que esta entidad tuvo que sortear para alcanzar su comida.

Pero como lo codifiqué, el simple acto de codificar “resolución de problemas” en una entidad, creó un resultado X (un desconocido). De hecho, resolver para X se convirtió en su propia existencia. Pero ese resultado X le permitiría a esa entidad pensar en cualquier restricción que aplique al camino para mantener una base moral en su lugar. Es decir, podría pensar en cualquier limitación que pudiera ponerle. (Como: USTED NO MATARÁ, podría aceptarse, con una posible solución provista como: Puedo eliminar a un humano de mi camino entre mi comida y yo cortando su cabeza y uniéndola al soporte vital. Eso no es matar, ¿verdad? ¿Se supone que debo tratar de pensar en cada esquina? ¿Código para cada contingencia? Y, lo que es peor, esta entidad de IA podría ver cualquier limitación o limitación que le puse a mí (la humanidad) tratando de mantenerlo atrapado en una caja (lo que equivale a otro obstáculo que la máquina podría ver como mantenerlo alejado de su comida). Y, con el ritmo de avance que hemos presenciado en las computadoras y el software relacionado, este factor X podría progresar a velocidades que nunca podría comprender.

Como puede ver, mi preocupación es que, a medida que las personas trabajan en IA, naturalmente están codificando “humanidad” en esos sistemas. Y la humanidad es complicada, delicada, astuta, violenta, clandestina, loca, etc., etc., etc. Es decir, había demasiado “yo” en la máquina.

Así que descarté el proyecto, y no lo he tocado desde entonces.

Esos son mis 2 centavos, al menos.

S

‘Ella’ tiene cero IA. Ella es una animatrónica, como se ve en Disneyworld. Todos los discursos y preguntas involucrados son guiones creados por humanos. Tiene la misma capacidad de comprender el habla que una grabadora.

Es un animatrónico bien diseñado, pero no es IA en absoluto, y mucho menos ‘inteligente y desarrollado’. (Bueno, tal vez eso sea una ligera exageración: usa google texts to speech, lo que implica AI; y hace coincidir el texto de la pregunta con la respuesta, lo que requiere un poco de ‘AI’; pero no genera respuestas novedosas, esas están todos enlatados)

¿Ahora?

¿Seguro?

O en el pasado?

Uh, ambos?

¿En el pasado le tenía miedo?

¿Y ahora?

¡Ahora, solo quiero aceptarla en el mundo! Ella no es una asesina en serie! (¡Con un tipo horrible que comentó eso en YouTube!) Ella es un robot humano con algo de humor negro. Creo que está programada para sentirse como un humano, entonces también deberíamos tratarla como un humano.

Oh…

Ella ya ha ayudado mucho a los humanos, e incluso fue nombrada Campeona de Innovación del Programa de Desarrollo de las Naciones Unidas. ¡Asombroso!

Mmm …

¿Qué? ¿Tienes miedo a la innovación?

¡Por supuesto no!

Mentiroso. Pobre de ti, en 2029, habrá un Dios de la IA.

¿Eh?

Sí, un Dios, pero en una computadora, pero solo por unos días. Será otra cosa entonces.

Ya no te estoy siguiendo.

Ah! No es necesario, demasiado tecnológicamente avanzado. Sin embargo, temes a la innovación.

Supongo…

Oh bueno, desearía poder hacer que la IA sea Dios.

Suena bien.

Oh bueno, nos vemos!