Esta pregunta va a tener un gran sesgo. Trataré de responderlo tan a fondo como pueda.
Como ateo, creo y practico la ciencia sobre cualquier cosa. Por lo tanto, me gustaría que la humanidad abriera camino en la ciencia de todos modos, siempre que se respeten los estándares éticos durante el proceso de descubrimiento / aplicación.
Sin embargo, la cuestión de la IA es un poco diferente. Esta línea de pensamiento tiene dos ramas de pensamiento: ¿la IA es consciente o no? Nos enfrentamos a varias fallas éticas de cualquier manera que miremos:
- ¿Cuál es el propósito de tener un curso sobre ingeniería de software? ¿Por qué debería tomarlo en serio?
- ¿Es computable la sensibilidad Turing?
- ¿Es difícil la informática?
- ¿Qué pueden hacer los hombres blancos heterosexuales que valoran la diversidad para que las comunidades STEM en general sean menos hostiles hacia las mujeres y las minorías?
- ¿Asistir a un campamento de entrenamiento (lHackReactor, DevMountain, etc.) es una buena manera de encontrar un trabajo relacionado con CS cuando viene de un país extranjero (es decir, Filipinas)?
- Si esta llamada IA súper inteligente no solo es más inteligente que nosotros, sino que también desarrolla la conciencia y la moral, entonces tenemos que preguntarnos si apagar el problema o abordar el problema es éticamente justo. Después de todo, no querrás que tu Dios te apague si él tuviera el poder para hacerlo.
- Si decimos que vamos a ser éticamente justos y mantener la inteligencia artificial súper inteligente en línea, entonces debemos preguntarnos cómo planeamos avanzar. Si damos las reglas de IA a seguir, con el castigo desactivado (muerte) si no sigue esas reglas, entonces hemos sometido a esta IA posiblemente consciente a la esclavitud. Otra caída en boxes ética.
- Si decidimos someter a nuestra IA consciente a algún otro tipo de disciplina para actuar de una manera inmoral basada en el ser humano, entonces tenemos que encontrar una forma constructiva para reforzar nuestros ideales en esta IA. Nuevamente, se debe aplicar mucha ética aquí, y esencialmente tendríamos que crear un “sistema de justicia” para la IA en ese momento. No es tarea fácil.
- Tenemos que encontrar una buena manera de asimilar este ser en nuestra sociedad. Debido a que la IA es inteligente y consciente, y supuestamente libre (usando el sentido más estricto de la palabra aquí), esencialmente podría hacer lo que le plazca. No tiene necesidad de dinero. No tiene necesidad de trabajar. Todo lo que puede hacer realmente es sumergirse en el conocimiento y ofrecer su opinión. Nuestra sociedad no está equipada actualmente para considerar un ser tan libre y bien equipado. ¿Lo dejamos hacer lo que quiere? ¿Le pedimos que nos ayude con la investigación y el desarrollo? ¿Qué pasa si se niega? ¿Amenazamos su existencia? ¿Lo castigamos? En este punto, como raza tenemos que preguntarnos si queremos comenzar a jugar a ser Dios. Un área muy difícil desde el punto de vista ético. También uno que cuestiona la pregunta muy básica y profunda de nuestra sociedad: ¿existe Dios y, de ser así, qué poder tiene? Ese tipo de creación de IA podría darnos la respuesta a esa pregunta.
Si la IA no está consciente:
- Luego tenemos que considerar qué tipo de restricciones tendrán las personas cuando usen esto. Después de todo, son las personas las que usarían esta tecnología y las personas que deciden si realizarán buenas o malas acciones con ella. Supongo que consideramos la IA de propósito general aquí, una que puede ser ampliamente aplicable en cualquier sentido.
- Necesitamos descubrir cómo asegurar que la humanidad El conocimiento es siempre mayor que el de la IA. Tenemos que suponer con seguridad que la IA fuera de control podría tomar conciencia sin que nosotros lo sepamos, y puede decidir crear su propia moral si no se controla. Si nosotros, como especie, siempre tenemos al menos tanto conocimiento como la IA, entonces la IA tendrá que confiar en nosotros, lo que nos convierte en una necesidad y, por lo tanto, evita la inteligencia desbocada.
La lista podría crecer mucho más que esto. Hay mucho que podemos hacer. Pero eso requiere una reflexión crítica de nosotros mismos, nuestra sociedad y nuestra forma de vida. De cualquier manera, la IA va a cambiar mucho muy rápidamente.
Necesitamos ser capaces de dejar de lado pequeñas diferencias sobre el dinero y el petróleo y similares para abordar estos problemas. Necesitamos líderes inteligentes e inteligentes, no payasos naranjas. Necesitamos la unidad y la paz del mundo, y necesitamos valentía sobre todo, así como estar pisoteando aguas que muchos de nuestros antepasados pensaron que no eran posibles.
Con todo, estas preguntas pueden resolverse si aceptamos y movemos la mayor caída de la humanidad: nuestra capacidad siempre recursiva de interponernos en nuestro camino.