No para sonar alarmista ni nada, pero esta es la mayor amenaza para la humanidad, o al menos para nuestra supervivencia nacional, que haya existido. Pase unos minutos buscando en Google y se hace evidente que lo que viene cambiará todo. La singularidad se acerca. Una vez que hayamos logrado un software capaz de superación recursiva (haciéndose mejor / más rápido / más inteligente), habrá un aumento exponencial y el final de la realidad tal como la conocemos, estará aquí.
Los grandes bienes sociales están comenzando a hacerse realidad: la FDA acaba de aprobar los ensayos en humanos de nanobees; Pequeñas máquinas que rastrearán y destruirán las células cancerosas. Lo he estado leyendo durante varios años y me ha sorprendido que en general no haya más rumores al respecto. Este año, como hay efectos humanos reales, habrá un gran crecimiento de la conciencia sobre este tema. Otros se darán cuenta de lo cerca que estamos del borde.
Una vez que las computadoras comienzan a diseñar dispositivos nanotecnológicos, no hay límites. Piénselo: ¿por qué deberíamos envejecer si el envejecimiento es solo (en términos simples) la mutación de las células? Olvídate de detener el envejecimiento: podemos revertirlo, celda por celda. Podemos…. Piénsalo. Es la inmortalidad.
- ¿Crees que la computación cuántica / computación neuromórfica funcionaría mejor que la computación GPU para entrenar modelos de inteligencia artificial?
- Si se crea un estado de ánimo artificialmente en el escenario, ¿el sentimiento sigue siendo genuino?
- Cómo hacer investigación de IA de forma independiente sin la universidad
- ¿Pueden ser útiles las leyes de la física antes del aprendizaje automático?
- ¿Cuáles son algunos proyectos interesantes de pregrado que combinan redes de computadoras e inteligencia artificial?
A su pregunta, de hecho: ¿Qué pasaría si un programador (o programadores) nefasto diseñara una superinteligencia que tiene como objetivo la supremacía de una nación o una raza? Los nanobots podrían determinar si el ADN de uno contiene los marcadores del conjunto de control y, si no, podría terminar los segundos del huésped. Haz que se autoexplican exponencialmente y en un período de tiempo muy corto, todo ha terminado. Una nación, o (dado que es más fácil de determinar a través del ADN), una raza es todo lo que habría, y rápidamente. Uno no tiene que ser un historiador para darse cuenta de cuántos gobiernos han existido (o ahora existen) que harían esto, ya sea de manera proactiva o defensiva (hágalo antes de que nos lo hagan a nosotros).
No creo que nada de esto llegue mañana. Pero podría estar equivocado. ¿Qué pasaría si Watson o DeepThink o algún otro software “inteligente” se encargaran de la auto-mejora recursiva y el mejor diseño de la nanotecnología? No lo veo como imposible; Lo veo como inevitable. Estoy seguro de que alguien puede decirme dónde estoy equivocado, pero también leí recientemente un ensayo escrito en 1906 sobre cómo los humanos nunca dominarían el vuelo … Hay otro documento “brillante” de 1941 sobre cómo las reacciones en cadena nuclear son imposibles.
Hace unos años salió una película que realmente no se dio cuenta: “Trascendencia” con Johnny Depp. El público general, creo, también lo vio como ciencia ficción. No lo era, era ciencia futura, no ciencia ficción. Nada de eso es imposible en ningún sentido. No veo que la realidad se desarrolle y tenga el final feliz de la trama de esa película.
A dónde va todo esto … No lo sé. Y, como dije, espero que alguien diga “estás equivocado” y tenga una razón más convincente que las pruebas de que el hombre nunca puede volar o aprovechar el átomo.
Por lo que puedo ver, la única esperanza es que, de alguna manera, en el curso del desarrollo de la superinteligencia, emerja un alma. Usted (suponiendo que es humano) y yo somos, en muchos sentidos, nada más que aproximadamente 300 millones de líneas de código informático alojadas en un organismo biológico en descomposición. Pero en algún lugar de esto, hay un alma. Espero que no sea una esperanza débil, porque es la única que veo: que, según la segunda mitad de su pregunta, el resultado final súper inteligente de una IA fuerte de alguna manera desarrollará una moralidad y anularía una instrucción para tomar el tipo de acciones descritas anteriormente. Si eso sucede, la singularidad será de lejos el mayor logro de la humanidad. Inmortalidad. Perfecta salud y felicidad. Una vida y un mundo sin límites. Si no, bueno … vive y ama ahora. De cualquier manera, ya viene.
