Tengo que comenzar diciendo que no soy un investigador de IA. Soy un desarrollador de software que está extremadamente interesado en la IA y, como tal, he leído varios libros sobre el tema, incluido el que usted pregunta, así como “Superinteligencia” de Nick Bostrom (que, por cierto, es muy respetado trabajo creo que incluso Robert Stone estaría de acuerdo) y algunos otros. Y aunque estoy de acuerdo con el Sr. Stone, quien también comentó aquí, creo que su revisión es un poco innecesaria, especialmente teniendo en cuenta el hecho de que muchos otros grandes investigadores y científicos han salido con palabras de precaución o moderación sobre este tema.
Parece que hay 2 campamentos muy diferentes en esto. El primer campamento son investigadores de IA que dicen que estamos a años, al menos de décadas, de algo parecido a la verdadera IA, y todas las personas que están preocupadas son solo un montón de Chicken Littles que son víctimas de la exageración. Dicen que no hay posibilidad de que suceda pronto, y que no hay nada de qué preocuparse. El segundo campo son científicos, investigadores (algunos de los cuales también son investigadores de IA) y otros pensadores líderes (Stephen Hawking, Bill Gates, Elon Musk) que nos advierten que realmente no sabemos qué tan rápido puede suceder, y que Necesito pensar en los motivos de preocupación ahora porque una vez que SUCEDE, lo que casi todos están de acuerdo en que eventualmente sucederá, será demasiado tarde para volver a entrar y programar algunas “morales” o “pautas de comportamiento” o lo que sea. Este campamento dice que podríamos estar mucho más cerca de lo que pensamos, y tiendo a estar de acuerdo con ellos.
La cuestión es que, en este momento, hoy, la Marina de los EE. UU. Ha desarrollado una embarcación autónoma “enjambre” que puede interceptar y detener a un barco enemigo, completamente libre de interacción o instrucción humana. Todos vimos lo que Watson hizo en Jeopardy, e incluso hay complejas rutinas de inteligencia artificial que se ejecutan en la bolsa de valores, han existido por un tiempo. Entonces ya está aquí. Ahora, ¿ya es inteligencia artificial superinteligente? No lo es. Pero, ¿se está volviendo cada vez más omnipresente cada día, y las empresas de todo el mundo están invirtiendo toneladas de tiempo, dinero y talento en investigarlo y desarrollarlo? Sí lo son. ¿Y la raza humana alguna vez ha creado otra inteligencia antes, de modo que sepamos qué tipo de línea de tiempo podemos esperar, o qué tan rápido o lento podría desarrollarse? No, no tenemos.
- ¿Podría un sistema ASI cumplir penas de prisión?
- Brevemente, ¿en qué proyecto de IA estás trabajando ahora?
- Total War (serie de juegos): ¿Cuáles son los mayores defectos en la IA de Total War?
- ¿Hay una lógica detrás de cómo se creó el juego 2048? Si es así, ¿qué es?
- ¿Cómo se hace el software para controlar grandes máquinas y robots? Cual es el proceso
Personalmente, creo que algunos de los investigadores de IA que se oponen con vehemencia a la idea de que esto es algo de lo que realmente debemos preocuparnos, o de que no sucederá durante muchos, muchos años, o bien tienen algún tipo de personal intereses o tal vez no están “al tanto” con algunos de los laboratorios más avanzados que están haciendo investigaciones de vanguardia. Porque, para ser sincero, creo que estamos mucho más cerca de lo que a cualquiera de ellos le gustaría que creyéramos. Y creo que el hecho de que es un territorio tan desconocido abre mucho espacio para pensar y preocuparse por lo que podría suceder.
La cosa es que todavía no entendemos completamente la conciencia a partir de hoy, ahora mismo. Nadie puede decir si es o no una propiedad emergente de una estructura neural suficientemente compleja o algo más. Entonces, a menos que estos científicos incondicionales a quienes les gusta aferrarse tan fuertemente al materialismo quieran entretener el pensamiento de que hay algo “más” en la vida que los átomos, lo cual dudo mucho que hagan, entonces tienen que admitir que existe la posibilidad de que si Si se construye una red neuronal suficientemente compleja que emula la mente humana, existe la posibilidad de que emerja algún tipo de conciencia. Y ESO, eso es algo que creo que merece al menos un poco de aprensión, al igual que algunas de las otras grandes mentes que mencioné anteriormente. Tengo este dicho, y me ha servido bien en la vida: creo que funciona muy bien aquí: más vale prevenir que curar.
