P: Hemos visto a AI expresar creencias políticas, racismo y más. ¿Es posible que la IA sea tan parcial y obstinada como nosotros?
A: todo es posible. Pero hay muchos casos de IA.
Cuando tiene AI conectada a big data, probablemente será mucho menos impreciso. Los humanos no tienen, ni les gusta hacer, big data, mucho.
Darwin usó big data en su época para resolver el enigma de cómo funciona la evolución (tanto en biología como en cultura).
Usted puede
a) identificar muchos sesgos cognitivos humanos
b) intenta eliminarlos, en la IA
c) conectarlo a una base de datos Big Data
Y … vamos a rasgar.
Ese famoso chatbot se volvió racista y un imbécil porque podría ser jugado fácilmente por adolescentes retrasados y esas cosas.
Era una máquina de aprendizaje.
Entonces: Basura adentro, basura afuera … ¿verdad?
Ver: teoría de sistemas
Sobre teoría y evolución de sistemas
- StoryAlity # 70 – Conceptos clave en teoría de sistemas, cibernética y evolución
- StoryAlity # 70B – La visión de los sistemas de la vida: una visión unificadora (Capra y Luisi 2014)
- StoryAlity # 70C – Filosofía de sistemas (Laszlo 1972)
- StoryAlity # 70C2 – Teoría general de sistemas: problemas, perspectivas, práctica (Skyttner 2005)
- StoryAlity # 70D – The Evolving Self (Csikszentmihalyi 1993)
- StoryAlity # 70E – Sobre la naturaleza humana – y la psicología evolutiva
En cuanto a “obstinado” … Hmm.
Sí, el / los codificador / es de IA hacen suposiciones (y tienen sesgos y opiniones) cuando codifican AI, y luego lo ejecutan y ven qué tan bien funciona, etc.
Depende de qué problema está tratando de resolver la IA. ¿derecho?
Lo que está diseñado para resolver.
Y sí, algunas IA pueden diseñarse para encontrar, evaluar y establecer sus propios objetivos.
Pero las opiniones son justo lo que los humanos se ven obligados a tener, cuando no tienen todos los hechos. También ellos (teniendo opiniones sobre las cosas) elevan la autoestima y a los humanos les gusta tener eso.
Los valores son complicados.
Hagamos brevemente algo de filosofía solo para shiggles:
¿Qué debemos valorar?
¿Nosotros mismos? Nuestros enemigos, nuestra especie, todas las especies, el planeta, la galaxia, cosas que comparten nuestros valores, o … ¿qué?
¿De dónde vienen nuestros valores de todos modos?
Evolución.
En esta etapa (2017), somos una máquina biológica (ver: Teoría de sistemas) diseñada para vivir y reproducirse mucho. Pero, cuanto más aprendemos, más nos damos cuenta, estamos causando más problemas de los que resolvemos, en este momento.
Esto plantea la pregunta:
¿Deberían los humanos ser borrados de la faz de la Tierra?
¿Realmente importamos?
…¿Dice quién?
(¿Tú? ¿Yo? ¿Quién? … ¿Cómo sabemos que tienen razón?)
Un humano evolucionado en este punto de la historia diría que somos valiosos; No sabe nada mejor.
¿Deberíamos preocuparnos, digamos, de todas las especies que estamos eliminando?
Sexto evento de extinción masiva, ¿verdad?
¿Deberíamos preocuparnos por minimizar el sufrimiento de todo?
Ese es un gran trabajo y no estoy seguro de que a la mayoría de nosotros nos importe.
… Pensar y tener conciencia es una bendición y una maldición.
Es una espada de doble filo.
Pero incluso una espada de un solo filo es una espada de doble filo:
De todos modos, tal vez solo construya IA, déjelos rasgar y, déjenlos matarnos (reemplazarnos) a todos.
Por cierto, no estoy sugiriendo que nada de esto sea una buena idea.
… Los valores son complicados.
Pero bueno, de todos modos, vean esto: podemos hacer IA creativas ahora.
StoryAlity # 141 – The Robo-Raconteur – un escritor artificial de StoryAlity Theory
Tal vez las IA lo arreglen todo.
O no.
Probablemente sea importante para las personas que se preocupan.
A menudo soy uno de esos. No quiero entrar en mi propia opinión sobre valores o humanos, ya que las opiniones son lo que tienes que tener, cuando aún no tienes todos los hechos.
Mientras tanto, las personas aún disfrutan de sus vidas, etc.
Así es como están diseñadas las cosas (actualmente).
Estoy bastante seguro de que el multiverso es probablemente un sim de todos modos (ver Bostrom)
