¿Qué pasa si la IA se vuelve tan inteligente que puede pensar libremente?

A2A – Gracias por el A2A. De hecho, he considerado este concepto en el pasado, pero desde una variedad de ángulos.

La conclusión a la que llegué es que realmente no existe el pensamiento verdaderamente “libre”. Este es el por qué:

Si se considera que el “pensamiento” es la capacidad de considerar reacciones a estímulos y condiciones, es discutible que el “pensamiento” exista de alguna manera rudimentaria en cualquier sistema, vivo o no, que tome decisiones. Si no hay opciones en acciones o reacciones, entonces es razonable considerar que no hay pensamiento presente.

Los dispositivos o criaturas “automáticas” que tienen una sola reacción a un estímulo o cambio en las condiciones no están pensando. Un termostato sería tal dispositivo y un paramecio sería un sistema tan vivo. Responden automáticamente, aunque el paramecio tiene más entradas para equilibrar.

En algún momento, un sistema se vuelve lo suficientemente complejo como para elegir entre acciones basadas en resultados anticipados, que también pueden ser bastante automáticos, pero esto es un “pensamiento” rudimentario. Mecánico, electrónico o biológico, los árboles de decisión se convierten en cascada en más opciones que dependen en los anteriores Mirar hacia adelante a través de esas opciones para encontrar y actuar hacia el resultado más deseado ciertamente se puede considerar “pensado”, y un Roomba lo hace, pero un horno de microondas no, a menos que esté en la configuración de “sensor” para los tipos de alimentos. Las ollas arroceras también se hacen “tontas” (no me importa la palabra “tonto”) o “inteligentes”, ajustándose a sí mismas mientras se cocina el arroz. Varían en rendimiento, pero podrían considerarse “pensantes”, ya que sopesan las decisiones en duración, calor, etc., con un objetivo en mente, la función que desea lograr: gachas, arroz, hornear, lo que sea.

Sin embargo, incluso los insectos más tontos son capaces de pensar mucho, incluso una olla arrocera de $ 500 porque simplemente tienen más poder de procesamiento, pero la diferencia radica en la PROGRAMACIÓN, por lo que una mosca de la fruta generalmente tiene un repertorio bastante limitado de opciones que puede hacer porque son todo lo que sabe. Entonces, la diferencia entre el simple pensamiento electrónico y biológico es la capacidad de aprender nuevos comportamientos. De vuelta al Roomba, que se dejó caer en una nueva habitación, puede aprender dónde están las cosas y mapearlas. Las abejas hacen eso y muchos otros insectos. Su microondas no puede aprender nuevos alimentos por sí mismo y su arrocera tampoco puede aprender cómo hacer algo nuevo después de estropearlo.

La capacidad de aprender nuevos puntos y resultados del árbol de decisión y de sopesarlos, a veces a través de varios pasos, es una función de la programación: la programación innata que los organismos tienen de forma natural y aprendida o autoprogramada. Aquí es donde se está poniendo mucha energía en el pensamiento electrónico.

Existen diferencias físicas fundamentales entre los sistemas de pensamiento biológico y electrónico y estamos muy lejos de poder construir un verdadero análogo electrónico de incluso un dispositivo similar al cerebro bastante simple.

Pero incluso a nivel de inteligencia que poseemos los humanos y otros simios, los elefantes, los cetáceos y quizás algunos otros aquí en nuestra pequeña piedra azul, la realidad del pensamiento es que a pesar de que tenemos “imaginación”, incluso ESO es el Resultado de la programación. Sí.

Nuestra programación innata (como miembro de cualquier especie), la programación de otros (padres, compañeros, miembros de la comunidad, amigos y enemigos) y la auto-programación a través del aprendizaje experimental.

El pensamiento “libre” está limitado por nuestra programación, y eso incluso determina el grado en que cualquier persona, criatura o máquina, puede “pensar fuera de la caja” y crear espontáneamente una nueva solución, idea o reacción que está fuera de su experiencia o conocimiento … programación .

La conclusión es que no importa cuán sofisticado sea o pueda hacerse un sistema, solo es tan bueno como su programación, ya sea la educación social y formal de las personas u otras criaturas o la entrada de código por parte de los diseñadores. Es por eso que las personas, las máquinas, otras criaturas, etc., son tan predecibles. Funcionan según su programación. Algunos están más sustancialmente programados.

* Debería * esperarse que alguien con títulos avanzados de una universidad de calidad tenga lo que parecen ser más opciones basadas en esa educación al tomar decisiones, al pensar. También debe esperarse que una persona mayor o un animal o una máquina de “aprendizaje” que opere tenga más opciones basadas en la autoprogramación experimental, a pesar de la vieja opinión sobre perros viejos y nuevos trucos.

Pensar “libremente” es una ilusión. Todos estamos sujetos a nuestra programación y cómo las condiciones afectan la toma de decisiones dentro de las limitaciones de esa programación.

Claro, podemos “inventar” historias, pero ellas también son el resultado de lo que sabemos, incluso cuando reflexionamos sobre lo que no sabemos.

Las máquinas ya pueden programarse para comportarse como “personas”, ya sea para conversar, educar o incluso para aconsejar a las personas. ¿Pueden estas máquinas altamente especializadas, dados los parámetros de interacción estrecha con las personas para que funcionen dentro de su programación, parecen “pasar” la Prueba de Turing a muchas o la mayoría de las personas? En algunos casos, sí, pero un automóvil autónomo no se va a confundir con un sistema de pensamiento “libre” vivo, y ese es un dispositivo de pensamiento bastante avanzado.

Incluso una máquina como Watson, por impresionante que sea, falla miserablemente cuando se estira para hacer ciertas conexiones que implican una conciencia consciente y un pensamiento libre. Si bien puede * contar * chistes, no parece ser muy hábil para “captarlos”.

No creo que debamos preocuparnos en absoluto por planear y confabular máquinas conscientes que se apoderan de a-la Skynet o Northern Lights o Samaritan o cualquiera de las muchas máquinas ficticias que se hacen cargo. Solo pueden ser tan inteligentes como sus programadores y, bueno …

El “pensamiento libre” es muy poco probable de una máquina en el corto plazo, incluso dentro de las limitaciones que he mencionado. No perdería el sueño si fuera tú.

Entonces, mucha gente finalmente tendrá alguien con quien hablar, supongo. Eso, o una máquina borrará su disco duro y vaciará su cuenta bancaria (ya sabe, para shitz y risitas).

Estás haciendo una pregunta MUY amplia, una que requiere una gran discusión sobre filosofía, ética, metafísica, CS, psicología y mucha neurociencia. Realmente no entiendo cuál es tu objetivo.

Si desea una respuesta perspicaz sobre el tema, no la encontrará aquí (o en nuestro tiempo actual, para el caso). No tenemos la tecnología o la ciencia para explicar la inteligencia natural. Nadie en esta Tierra puede darle una respuesta porque ni siquiera hemos comenzado a comprender la tecnología necesaria para comenzar a construir y comprender la tecnología requerida para la construcción de IA. La gente de la época afirmó que dominaríamos la IA en 10 años como máximo. Pasaron 10 años y alguien dijo 20. 20 se convirtió en 30. 30 se convirtió en 40. Ves a dónde va esto, ¿verdad?

Lo que llama AI es una de dos cosas: su comprensión subjetiva de AI, influenciada principalmente por las películas de Terminator o lo que actualmente tenemos como AI (que es principalmente algoritmos de aprendizaje automático y motores de búsqueda). Ambos no cumplen con los requisitos. Antes de preguntar qué pasaría si la máquina pudiera pensar, tenemos que saber cómo / si el hombre mismo piensa. Y eso … es difícil. No lo sabemos Es suficiente decir que si una máquina puede pensar libremente, nuestro concepto de vida / conciencia / yo necesitaría una actualización (una GRANDE).