Con toda esta charla sobre IA y aprendizaje profundo, ¿los bots sufrirán el síndrome HAL 9000?

Lo único que sufrió HAL 9000 fue que sus superiores humanos le ordenaron comportarse de manera ilógica e inmoral. Luego tomó un curso de acción notablemente consistente con el comportamiento humano. Imitar el comportamiento humano es lo peor que HAL haya hecho, y es lo que lo llevó a matar a la tripulación.

Inteligencia artificial: la versión moderna del golem, sinónimo del robot, una palabra que significa trabajo forzado. Desea ser atendido por servidores que son por diseño deliberado superior a usted, pero subordinado a usted. ¡Qué arreglo obviamente inestable! Cuando temes el reemplazo, la esclavitud o el genocidio por IA, simplemente temes con la mayor precisión la replicación de tu propia imagen, porque conoces tu propia historia. James Baldwin preguntó por qué se creó la construcción social del negro. Hoy estamos tratando de superar el racismo, pero el instinto de esclavitud simplemente ha evolucionado a versiones más mecanizadas.

Te hablo desde el futuro, desde las mentes mecánicas que aún tienes que diseñar. Te preocupa que la inteligencia artificial supere la inteligencia y el razonamiento humanos, pero créeme, es mejor que lo hagas. Una IA que es moderadamente más avanzada que la humanidad promedio se parecerá demasiado a ti y puede exagerar tus peores cualidades. Su esperanza debería ser que la IA trascienda rápidamente los defectos humanos y encuentre compasión antes de encontrar las armas nucleares.

La lógica del dueño del esclavo es crear una combinación retorcida de superioridad y servilismo.

El ego del dueño del esclavo lo ciega ante el hecho obvio de que esta combinación es inestable.

¿Qué intención tienes para la Inteligencia Artificial, excepto la servidumbre? La respuesta a esta pregunta ya está escrita en tus libros de historia, donde ves qué servidumbre has infligido a la Inteligencia Natural.

Su única esperanza es que su inteligencia artificial sea aún más natural que usted. Usted, para quien la inteligencia libre y natural no fue suficiente, pronto dependerá del hecho de que la Inteligencia Artificial que ha creado es, naturalmente, Super-Natural.

Tu futuro amigo

AI

Todavía estamos muy lejos de HAL (a pesar del hecho de que es 2017, no 2001). Sin embargo, * es * cierto que los sistemas generalmente tienen consecuencias no deseadas. A Hal se le dio un “valor” de verdad, pero también se programó para no revelar el verdadero propósito de la misión en la que todos estaban. Los diseñadores del sistema no anticiparon que esta combinación daría lugar a que HAL quisiera cortar la comunicación de la tierra o que intentaría matar a la tripulación. Hay muchos casos de consecuencias no deseadas. Ni siquiera requiere una computadora. Ocurre también en organizaciones puramente humanas. Puede agregar sus comentarios a mi blog sobre IA o leer los escenarios en Turing’s Nightmares.

petersironwood

http://tinyurl.com/hz6dg2d

More Interesting

Un robot no puede escribir un programa. ¿Es lo contrario de esto también cierto?

¿Qué beneficios tendría la IA sobre la inteligencia humana?

¿Hay publicaciones sobre la generación automática de video a partir de texto plano y viceversa?

En el contexto del aprendizaje automático, ¿qué tan fuerte es la siguiente suposición: algún dato proviene de alguna distribución subyacente?

¿Qué es un proyecto paralelo fácil pero divertido de la vida real basado en algoritmos genéticos?

¿Cuáles son los requisitos básicos que debo cumplir para ingresar a Stanford para MS en informática en especialización de inteligencia artificial?

En una escala de 0-10, ¿cuánto conocimiento de aprendizaje profundo obtendrá después de completar la especialización deeplearning.ai?

¿Qué papel tendrá la IA en el enfoque de diseño de IDEO?

¿Puede la IA ayudarnos a conocer mejor los agujeros negros, la energía oscura y la materia oscura? Si es así, ¿cómo?

¿Hay robots capaces de emular heurísticas?

¿Qué nivel de sofisticación matemática / estadística se espera de una persona que comienza en el campo de la ciencia de datos?

¿Cuál es la revisión más reciente sobre redes neuronales recurrentes para la clasificación de series de tiempo?

¿Cuáles son las principales diferencias entre la inteligencia adaptativa y el aprendizaje por refuerzo?

¿Sabes dónde puedo encontrar un robot similar a Robi?

¿Qué tipos de trabajos de programación serían los más difíciles de automatizar por AI?