¿Cómo podemos evitar el secuestro de IA de alto nivel por parte de delincuentes? ¿Cómo podrían usarlo contra el mundo?

Incluso ahora, sin ninguna IA de nivel alto / medio / bajo / ultra bajo a la vista, la guerra cibernética es algo real. Los gobiernos tienen todo tipo de software que está diseñado para secuestrar el control de redes eléctricas, plantas de energía, penetrar en varios sistemas de seguridad y, en general, comprometer cada computadora que puedan alcanzar.

Imagine a un súper villano usando ese software (¡que en realidad existe!) Ahora mismo para interrumpir los sistemas de seguridad en su planta de energía nuclear más cercana.

Hay algunas razones por las que no sucede algo así:

  1. Las personas que están a cargo de ese software son competentes y vigilantes.
  2. Las personas que quieren dañar el mundo generalmente no saben leer ni escribir y no pueden usar el código incluso si alguien lo publica en GitHub
  3. Las personas que son capaces de hacer eso llevan una vida satisfactoria e interesante con muchas cosas más productivas que hacer.
  4. Esto generalmente es algo difícil de lograr

Si bien los primeros tres son obvios, el cuarto es el más fuerte. Causar estragos a gran escala utilizando herramientas sofisticadas es difícil. Requiere mucha capacitación y, a menudo, un equipo de personas muy educadas.

Para enviar una bomba de bricolaje solo necesita una UnaBomber, e incluso eso es una exageración. Para lanzar una ojiva nuclear necesitas … un poco más.