No recuerdo nada sobre máquinas que se apoderen del mundo en obras de Asimov, pero he leído menos del 100% de ellas. Y nunca leí a Harari. Pero no creo en que las computadoras se apoderen del mundo (en el corto plazo). 🙂
Creo que el escenario más plausible fue representado en la serie de televisión Persona de interés. Lo que una IA maliciosa podría controlar (o influir) ahora son los mercados financieros electrónicos (mercados de valores, etc.). De esta manera, la IA ciertamente podría influir en la vida de millones de personas, pero no tanto controlar directamente nada. En la serie, AI estaba “chantajeando” a políticos que amenazaban con romperlos si se negaban a seguir las órdenes. Pero la IA necesitaba a algunas personas para llevar a cabo negociaciones reales. Por otro lado, podría “chantajear” por correo electrónico …
De todos modos, en la práctica eso es casi imposible. Un problema es que la IA debería ser súper inteligente para eso. La IA actual parece estar a 5 décadas de eso. En la práctica, es posible que nunca tengamos un sistema AGI único capaz de razonar a escala mundial y tener el objetivo de influir en la economía mundial.
- ¿Qué libro es el mejor para aumentar el conocimiento sobre inteligencia artificial y robótica?
- ¿Qué hacen los algoritmos de regresión simbólica y cómo se usan en la práctica?
- ¿Puede la inteligencia artificial reemplazar a los actores de voz?
- ¿Cuál es la diferencia entre un sistema basado en el conocimiento y un sistema experto?
- Cómo explicar los peligros de la inteligencia artificial a mis amigos no técnicos
Otro problema es que es muy probable que los mercados financieros sean imposibles de predecir y manipular. Los escritores tienden a pensar que la inteligencia artificial “lo suficientemente inteligente” será capaz de predecir cualquier cosa. Pero si algo se demuestra matemáticamente que es aleatorio o “caótico” (que es prácticamente aleatorio en cierto sentido, es impredecible de todos modos), entonces ningún algoritmo lo predecirá. No conozco ese análisis matemático de los mercados financieros, pero no me sorprendería.
De una forma u otra, el problema con el control del mundo está en los “actuadores”: ¿qué mecanismos reales para cambiar la realidad que tiene la IA? Actualmente prácticamente ninguno.
Incluso la idea de robots militares a-la Terminator para gobernar el mundo es actualmente completamente inadmisible. Todos los robots actuales son mucho más frágiles que los humanos. ¿Recuerdas en Terminator que el cyborg sobrevivió a la quema después de la explosión de gasolina? ¡Intenta eso con tu cuaderno! 😀
Incluso las “máquinas de guerra” más tradicionales que podemos automatizar, como los tanques y los helicópteros, no son invencibles. Los destruyen misiles y cosas así. Entonces, incluso si la IA controla vehículos militares, su ejército aún puede ser destruido por ejércitos comunes.
Entonces, en la práctica, no tenemos ningún sistema de IA que tenga al menos potencial para razonamiento de propósito general a escala mundial e incluso si lo tuviéramos, no tendría mecanismos para imponer su voluntad en nuestro mundo material.
