¿Una computadora podrá tomar una decisión consciente en un futuro cercano?

Lo más cercano hasta ahora es este robot científico

Pero creo que “tomar conscientemente sus propias decisiones” es un poco vago. Por ejemplo, ¿quién puede decir que una IA para un juego de estrategia no “tomó conscientemente sus propias decisiones”? Uno diría que fue programado y predeterminado para tomar esas decisiones, pero los cerebros humanos no son diferentes.

Con respecto a la conciencia misma, no hay una sola cosa en el cerebro humano o carne biológica que responda al difícil problema de la conciencia o explique por qué no somos “zombis filosóficos”. No conocemos ningún “polvo de conciencia” mágico, ni el descubrimiento de tal cosa resolvería el difícil problema de todos modos. Por lo tanto, se deduce que es perfectamente plausible que la conciencia aparezca también en materia no orgánica como el silicio.

Las decisiones éticas implican múltiples abstracciones y juicios morales.

La programación de una máquina robustamente ética requeriría una enorme base de datos de reglas, o algún conjunto de pautas para evaluar las declaraciones morales y éticas. La moralidad del programador o escritor de especificaciones estará incorporada en el código, lo que sesgará la “moral” o la “ética” del programa resultante.

¿Pueden las preguntas morales o éticas reducirse a sí o no, respuestas binarias? Creo que la respuesta es: depende.

EDITAR: sí, si seguir una jerarquía ética preespecificada con reglas que se pueden aplicar a cualquier situación (juzgar roles, motivaciones, engaños, etc.) se considera un comportamiento ético. Si esta entidad desarrollara la ética desde cero, no quisiera tener que cumplirla.

Los países y los gobiernos ya no tienen acceso exclusivo al poder y los recursos como lo hacían hace 30-40 años. Hoy en día, cualquier empresa pública o privada o incluso un individuo puede competir directamente con los gobiernos en cualquier proyecto ambicioso y, a menudo, superar al gobierno por un amplio margen. Dado que lograr AGI es poco probable que sea una prioridad política para cualquier gobierno actual, es seguro apostar que dicha tecnología saldrá primero de un creador corporativo o individual.

¿Una computadora podrá tomar una decisión consciente en un futuro cercano?

Para que eso suceda, lo primero que necesitará es una definición técnica concreta de “tomar una decisión conscientemente”. Cualquiera que sea la “conciencia”, es un término cerebral, y las computadoras y los cerebros son cosas completamente diferentes que no tienen nada que ver entre sí.

Las computadoras son cosas concretas, técnicas, matemáticas. A menos que tenga una definición para “tomar una decisión conscientemente” que pueda expresarse en esos términos, esta pregunta no tiene respuesta.

Por otro lado, si eso solo significa hacer A o hacer B, en función de algunas entradas u otras, entonces las computadoras lo han estado haciendo durante décadas, y no parece ser un gran logro.

“Cualquier persona con una computadora portátil y conexión a Internet”.
La declaración anterior parece idiota pero por favor sigue leyendo. AGI es un problema de software, no un problema de hardware. Se requiere Internet debido a la gran potencia informática. La potencia informática combinada de todos los servidores y computadoras en Internet supera la potencia informática del cerebro humano. Debe escribir un AI SEED utilizando cualquier computadora portátil / computadora de escritorio común y lanzarlo a los servidores de Internet. Pronto obtendrá AGI.

Es probable que el complejo militar de EE. UU. Tenga la mayor cantidad de recursos aplicados al avance de la inteligencia artificial (IA) para acercarse a un AGI, y Google tiene la mayor concentración de recursos privados. Dicho esto, la IA en realidad tiene un costo de entrada relativamente bajo, ya que en esencia es un software y una persona bien informada con una computadora portátil puede desarrollar IA y descubrir nuevas técnicas que avanzan en la ciencia.

Muchos países ya tienen formas de inteligencia artificial. No es el HAL 9000, pero China ya usó programas inteligentes para ejecutar toda su infraestructura de tráfico y su Gran Firewall. La gente nunca podría hacer ese tipo de filtrado y los algoritmos tradicionales no son excelentes para filtrar ese tipo de información.