Si OpenAI crea inteligencia general artificial, ¿cómo tratamos con las personas que lo usan maliciosamente?

Supongo que será una buena respuesta / mala noticia.

La buena noticia es que para utilizar el software real que sería lo suficientemente avanzado como para llamarlo “AI” (sin embargo, no se parecerá en nada a la ciencia ficción), se necesitaría:

  1. Alta capacidad técnica para implementar la cosa en el mundo real, porque todavía son buenos viejos y ceros.
  2. Amplios recursos computacionales para mantenerlo en funcionamiento, aquí estamos hablando de su propia escala de centro de datos.
  3. Un acceso a enormes cantidades de datos.

En otras palabras, por la cantidad de conocimiento, inteligencia bruta, riqueza y otros recursos, este es nuestro autor:

Y aunque, de hecho, tenemos un análogo vivo de Tony Stark, no veo ningún Lex Luthors por ahí.

La mala noticia es que si alguien realmente hace eso, esa será una entidad a nivel gubernamental en un acto de guerra cibernética, y cualquier ciudadano quedará loco más allá de la imaginación si está en un extremo receptor.

A pesar de que…

Esta probabilidad de este escenario exacto a gran escala es tan asombrosamente pequeña que es hora de preguntarle a Alon Amit o Alan Bustany cómo podemos calcular los números de esta magnitud que se desvanece.

Gracias por A2A.

Si OpenAI crea inteligencia general artificial, ¿cómo tratamos con las personas que lo usan maliciosamente?

Del mismo modo, tratamos con personas que usaban nueva tecnología en el pasado: aprendemos lo que la tecnología puede hacer y adaptamos nuestro comportamiento para evitar ser heridos.

Tenga en cuenta que lo más probable es que no sea una sola persona la que tenga acceso a la tecnología, eso solo sucede en los cómics. Normalmente, la ciencia progresa más o menos al mismo ritmo en todo el mundo, lo que significa que cuando un científico logra desarrollar la primera IA, muchos otros equipos están muy cerca.

Entonces, una vez que la IA está disponible de manera general, las ventajas que trae se han ido. Puedes usar tu IA para romper mi cuenta bancaria y yo usaré mi IA para hacerla más segura. Los luchadores utilizarán IA para evitar la detección, mientras que las baterías de defensa utilizarán IA para detectar los luchadores mejorados.

El equilibrio de poder en todo el mundo puede cambiar, pero eventualmente las cosas se asentarán en un nuevo equilibrio que incluye la nueva tecnología.

La declaración de Elon Musk fue que todos deberían tener acceso a AGI para poder contrarrestar a las personas maliciosas. Parece razonable.