Si alguien inventa una máquina consciente e inteligente, ¿se le considera un malvado?

1. Una computadora con IA no “comería economías”, “gobernaría el mundo” o “destruiría a los humanos”. Haría lo que ha sido programado para hacer.
2. La IA tiene aspectos negativos, al igual que hay aspectos negativos en casi todo, pero eso no significa que “X destruirá el mundo tal como lo conocemos”, sino que significa que “X hará que el precio de la leche suba un 10%” .
3. “Mal”? Esa es una palabra inventada por las religiones, en lo que a mí respecta. No tiene ningún significado fuera de “deliberadamente perjudicial”, y la ciencia casi nunca es deliberadamente perjudicial. (Descubrir la fisión atómica no era perjudicial, y fabricar una bomba atómica con ese conocimiento no fue algo hecho por Enrico Fermi).

Entonces no. A todo eso. (Pero recuerde, quemar combustibles fósiles probablemente esté causando el calentamiento global, por lo que inventar autos fue un acto “malvado”, ¿verdad? Por supuesto que no).

Ezra? ¿Cuál es su nombre? Tal vez. De todos modos, Ezra fue concejal de muchos estudiantes en la costa oeste en algún lugar. Los estudiantes encontrarían alguna terminal en el campus, escribirían sus problemas y Ezra volvería a escribir. Ezra fue considerado un buen consejero. Muchos lo consideraron útil, hasta que descubrieron que Ezra era un programa de computadora.

Por cierto, Ezra era un idiota para los estándares de hoy. No, no fue inteligente ni consciente. ¡Pero fue útil para muchos estudiantes!

Podemos esperar a que esto suceda, muchos científicos creen que eventualmente habrá una inteligencia artificial que es consciente de su existencia.

¿Cómo te hace eso malvado?

¿Lo vas a usar para hacer el mal?

Si ese era tu propósito, entonces puedes ser malvado.

¿Lo vas a usar para hacer el bien, pero te malinterpreta y hace el mal?

Puedes ser responsable de ello, pero aún así no te hace malvado.

Sabemos lo que se hizo con la bomba nuclear, y Oppenheimer incluso se dio cuenta de lo que había creado. Aún así no lo consideramos malo. Incluso si su invento se usa para el mal.

No creo que la persona deba considerarse malvada. Si la persona hizo la máquina de tal manera que se volvería malvada, entonces la persona debería ser castigada. De todos modos, creo que estos robots inteligentes serán el futuro.

Los astronautas pueden trabajar más rápido que las máquinas en otros planetas, pero si podemos hacer un robot humano, probablemente podría funcionar más rápido que los humanos. Mira, esto será muy útil para nosotros.

Piensa en el piloto automático de Tesla, la gente habla de cosas como: “¿Qué pasa si se bloquea mientras está en piloto automático, a quién demandarían, a Elon Musk o al conductor?”. Lo que no se dan cuenta es que el piloto automático es mucho menos probable que se estrelle que un humano en primer lugar.

Y, ¿cómo puede Elon Musk quejarse de la IA cuando el piloto automático es IA?