Hay un par de versiones diferentes en las que AI se hace cargo que se relacionan con este problema:
- Una IA que creamos para algún propósito propio se vuelve consciente de sí misma, decide que no quiere seguir nuestros comandos y luego derroca a la humanidad. (Requiere inteligencia extremadamente avanzada para emerger)
- Una IA que creamos para un propósito específico (por ejemplo, hacer todo lo posible para crear la mayor cantidad posible de clips) se enfoca tanto en ese objetivo que inadvertidamente destruye a la humanidad tratando de convertir todo en clips. (esencialmente un horrible error de software que no podemos detener)
- Los humanos crean IA para fines militares / terroristas / relacionados con la guerra. Estas IA están programadas con habilidades destructivas y posiblemente con sistemas de armas. Estas IA terminan matando gente por su cuenta, ya sea dentro del deseo original de sus programadores o expandiendo su alcance más allá del deseo original de sus creadores. (Básicamente, ya existen / están en desarrollo por varios países)
Personalmente, tengo más miedo de la tercera, ya que los humanos ya han demostrado la capacidad de crear tecnología destructiva en masa y matarnos por nuestra cuenta sin la necesidad de una IA emergente.
Entonces, ¿es posible programar robots para no derrocar a la humanidad? Probablemente, pero es más complejo que eso con los robots que aprenden. El mayor peligro es que parte de la humanidad programará robots para derrocar a otra parte de la humanidad.
- ¿Cuáles son algunos defectos con las ideas en este artículo?
- Supongamos que un atributo es un número flotante, si divido este número flotante en: mantisa, base y exponente. ¿Afectará mi clasificación en K-Means?
- ¿Cómo se les ocurre a las personas una topología apropiada para las redes neuronales (recurrentes)? Me gustaría conocer las diversas heurísticas que usan los investigadores, y tal vez algunos comentarios sobre qué tan bien funcionan y cuándo podrían fallar.
- ¿Continuarán los humanos desarrollando IA a pesar de los temores de Elon Musk porque hay dinero que ganar?
- ¿Cómo se puede estimar la percepción de profundidad con visión monocular?
