Realmente no. Si creas una súper inteligencia que es literalmente “adicta” a los humanos pero que, por lo demás, era amoral, tendría un conjunto de incentivos bastante retorcido. Específicamente, tendría un incentivo para controlar y criar humanos para saciar su adicción y no en beneficio de dichos humanos. Si bien esto podría evitar la extinción, podría conducir fácilmente a una existencia extremadamente distópica para la humanidad (que podría ser peor que la extinción)
Una mejor idea sería construir una IA que sea ética en lugar de amoral. Tal IA podría en teoría ser mucho más rigurosa y consistentemente ética que cualquier ser humano, ya que no habría evolucionado para priorizar la supervivencia sobre la ética. Como tal, ayudaría a la humanidad no con el fin de cumplir con algún tipo de restricción arbitraria que se podría jugar o eludir, sino porque realmente deseaba ayudar a la humanidad no como un medio sino como un fin.
- ¿Por qué una IA crearía otra IA?
- ¿Qué es la inteligencia artificial / ML?
- ¿Qué hará que Andrew Ng empiece a preocuparse por la amenaza existencial de AGI?
- ¿Pueden la robótica y la IA realmente despegar sin una IA inteligente general completa?
- ¿Cómo podría uno usar la IA para dominar el mundo?
