¿La IA será aficionada, apática o despreciará a los humanos? ¿Hay alguna forma de saber antes de crearlo?

El concepto oficial es de una IA amigable segura. Un dilema sería cómo sobrevivir sin él. La pregunta también puede formar una secuencia, por lo que existe la necesidad de contingencias a medida que la perspectiva cambia de objetivo a posthumano y el cambio de conciencia afecta a todos los sintientes. Algo es para la IA lo que es para la vida y la ciencia o lo último para la filosofía natural.

El campo se caracteriza actualmente por objetivos, valores, sims, planificación, automatización y ontología versus realización. El nivel de autonomía es consistente con consecuencias de menor alcance y escalas al menos. Estos son problemas de ingeniería. Hay posibles daños tecnológicos que existieron antes o al lado y otra tecnología como la genética que persigue a la humanidad directamente. Varios tipos de críticas incluyen inteligencia, bienestar, utilitario y contraria.

La gobernanza global quiere ser lo último en tecnología, por así decirlo. Es como una superinteligencia deja vu. Los que tienen más confianza lo han construido ellos mismos. Las cosas suceden más rápido, por lo que la escala de tiempo se desconecta. El equilibrio cambia. La reacción pública es significativa y hay escenarios populares como Orwell, Huxley, trek, terminator o matrix. La actitud hacia la humanidad podría calificarse cuidadosamente como constructiva, utópica, beneficiosa, sesgada hacia intereses privados, políticos o una apuesta. En lo que respecta a la humanidad, las expectativas son fusión o metamorfosis.

Estoy de acuerdo con mucho de lo que Robert y Samuel han sugerido.

A esto, agregaría:

1. Es probable que no podamos saberlo con total seguridad antes de que funcione. Creo que Conway’s Game of Life demuestra esta naturaleza: tienes que tocar la canción para escuchar y conocer la melodía.
2. En relación con esto, de mis exploraciones con la vida artificial, lo que he aprendido es que la inteligencia, como expresión de la vida (no independiente de ella), requiere un conjunto de reglas, influencias internas y externas, y objetivos competitivos. Las leyes de la termodinámica son críticamente importantes para nuestra vida sostenida. No puede simplemente programar uno sin afectar todo el sistema.
3. Las tasas, el tiempo, la descomposición y la calibración desempeñan papeles críticos en la operación efectiva de un sistema emulado por la vida. Pequeños ajustes pueden tener efectos drásticos que serían difíciles, si no imposibles, de predecir.
4. Suponiendo que se facilitaron características como la empatía y la apatía, si los estados actuales de la entidad y su entorno dictarían un comportamiento en lugar de otro. Si el reabastecimiento de combustible se convirtió en su principal objetivo y motivador, puede elegir un comportamiento diferente para lograr sus objetivos que en los momentos en que se alimentó por completo. La programación de límites y gobernadores en su sistema puede proteger la extensión de ciertos comportamientos, pero no sin afectar su operación de manera constructiva o destructiva (de primera mano).

Dicho esto, creo que la benevolencia es característica de entidades sanas, estables y mutuamente beneficiosas, por lo que me aventuraría a adivinar que el cariño y la empatía se derivarían de un producto de IA bien diseñado.

Ves a la IA como una cosa. No es más que solo un automóvil o una computadora. La IA estará en todas partes y con diferentes grados de inteligencia dependiendo de la aplicación. Habrá muchas aplicaciones para la “inteligencia” a nivel de insectos, así como para el ídem humano.

Despreciar es una emoción animal (no solo para los humanos). No hay razón para que una IA tenga (o deba) tener emociones a menos que lo queramos.

Ciertamente, a corto plazo (al menos en los próximos 100 años), la IA será lo que sea que hagamos. Podemos elegir qué objetivo tiene, cómo interpreta, entiende y reacciona a todos los aspectos de su entorno, incluidos nosotros.

Si estás hablando de algún tipo de IA emergente futurista, entonces quizás no podamos saberlo. Es decir, si se crea una IA (a través de algún proceso evolutivo tal vez) que no podemos entender a través de ningún marco matemático, computacional o algorítmico, entonces es lógico que no podamos predecir en última instancia cómo interpretará o responderá a los humanos.

Mientras tanto, sin embargo, podemos esperar que la IA no tenga sentimientos hacia nosotros, ya que no tenemos ninguna razón para creer que las tecnologías de IA que se utilizan produzcan conciencia.

Entonces, en respuesta a su pregunta, dado que estamos creando la tecnología de IA, creo que es una apuesta segura esperar que la IA sea aficionada, o al menos no hostil hacia los humanos.

Si creo una presa, espero que detenga el flujo de agua. Si diseño un cohete, espero que me lleve al espacio. Si creo una entidad inteligente, espero que haga lo que significa inteligencia … ¿Qué significa inteligencia? Creo que la respuesta a esto y la respuesta a su pregunta es básicamente que no sabemos, no estamos de acuerdo, o es solo una cuestión de su perspectiva.

Personalmente, creo que podemos esperar que una inteligencia artificial ciertamente e irónicamente encarne algunas de las características de sus creadores. Si los humanos son un buen marcador para decir si sería aficionado, apático o despreciador de los humanos, entonces creo que la mejor estimación es que será una respuesta mixta para nosotros.