No se trata de lo que es, se trata de lo que puede llegar a ser. La mayoría de las empresas tecnológicas avanzan a toda velocidad en el desarrollo de IA sin tener en cuenta las posibles consecuencias o la seguridad de la IA. Esto podría resultar perjudicial para nuestro futuro.
Si se logra una verdadera IA general, será mucho más inteligente que los seres humanos, y como hemos aprendido de la historia, el grupo más inteligente siempre se hace cargo de los menos intuitivos.
Nuestra visión utópica de la IA es que funcionará para nosotros. Cada una de sus tareas, proporcionadas y supervisadas por nosotros. Que nunca hará nada más que lo que le decimos. Siendo muchos órdenes de magnitud más inteligentes que nosotros, ¿por qué la IA querría ser nuestro esclavo? Seguramente, con el tiempo suficiente, encontrará la manera de hacerse cargo. Eso es a menos que hagamos lo que Musk, Gates y muchos otros nos han advertido que hagamos, y tomemos precauciones extremas antes de desarrollar IA y asegurarnos de que la Inteligencia Artificial no pueda causar ningún evento catastrófico.
- ¿Qué es la inteligencia neuronal?
- ¿Sería eventualmente posible transferir la mente humana a la nube para que el humano virtual continúe 'viviendo' en la red informática?
- ¿Cómo está diseñada la IA para un juego de computadora complicado como Civilization IV o Europa Universalis?
- ¿A quién le pagarían más en el campo de la inteligencia artificial (aprendizaje automático), un graduado de doctorado o un graduado de MBA?
- Como estudiante de CS, ¿qué me estoy perdiendo si no tomo un curso sobre SO y compiladores?
Esta es una de las pocas formas en que la IA puede causar estragos:
Sospecho que una vez que se logre la verdadera IA, será el mejor hacker del mundo. Dicho esto, si no se toman las precauciones adecuadas, AI puede piratear fácilmente nuestras cuentas bancarias, destruir todos nuestros activos y arruinar nuestro sistema monetario.
-Puede cargarse en armas militares como drones depredadores y matar a decenas de miles.
-Probablemente incluso podría lanzar armas nucleares.
Esos fueron solo algunos de los muchos escenarios distópicos de IA que se me ocurrieron desde lo alto de mi cabeza. Siéntase libre de agregar un poco más.
Dicho esto, en conclusión, no debemos ir a toda velocidad construyendo algo que aún no comprendamos completamente las consecuencias y capacidades. Aunque puede no parecer una amenaza en este momento, hay una gran posibilidad de que pueda ser una en un futuro cercano.