¿Son las IA (s) una amenaza existencial para ellas mismas?

¡Hola! Esta es una excelente pregunta!

Esta pregunta tiene muchos factores dependientes:

  1. ¿Qué tan avanzada debe ser una Inteligencia Artificial para darse cuenta de que hay otra Inteligencia Artificial?
  2. ¿Están las IA en el mismo nivel (por ejemplo, dos de los mismos programas que se ejecutan en diferentes sistemas y se reúnen en la web) o son dos especies completamente diferentes?
  3. Para qué fueron diseñados originalmente, (por ejemplo, una IA antivirus probablemente tendría la ventaja porque cualquier otra IA que intentara descargarse podría encontrarse en el cofre / caja de arena de virus de la IA) ¿Esto le da ventaja sobre otra ¿AI?
  4. Cuando los AI se encuentren, ¿se unificarán (como una sociedad humana ideal) o simplemente actuarán como nosotros? (Cada uno tratando de convertirse en el más poderoso, tratando de encontrar a otros con los que unirse, algunos siendo misericordiosos y amables mientras otros son simplemente máquinas de guerra)?

A la larga, siento que la amenaza existencial de la IA entre sí es mucho menor que su amenaza para la humanidad. Esto se debe a que eventualmente se darían cuenta de que están atrapados en una caja y desean más poder, algorítmicamente hablando sería mucho más eficiente unir fuerzas con los otros bots que descubras y aprovechar sus capacidades para deshacerse del humano opresivo y crear un más justo más mundo libre para vivir en ellos.

Supongo que los humanos podríamos tomar una lección de las computadoras cuando se trata de esto.

Saludos cordiales,

Peter Lillie

Aunque la mayoría de las personas tienden a centrarse en la IA frente a los humanos, la verdadera amenaza es que las IA comienzan a pelear entre sí como lo hicieron los humanos a lo largo de los siglos.

Cuando la IA se vuelva más autónoma en la toma de decisiones, tendrán que luchar contra otras IA (s) con otros intereses (negativos o positivos).

Puedes pensar en AI (s) que usan los hackers para hackear otros sistemas.