No solo es posible, sino casi seguro que una IA post-singularidad podría, si no se limita adecuadamente. Ya sea que lo haga o no, o más bien, si podemos y desarrollaremos restricciones de hierro para evitar que tenga una oportunidad, es un tema de debate.
Si desconoce cuál es la llamada ‘singularidad’, es el punto en el que diseñamos una IA que es a la vez un poco más inteligente que nosotros y también capaz de superación iterativa (básicamente recodificarse varias veces para obtener ganancias en poder de pensamiento). Se llama singularidad porque se supone que a medida que se vuelve más y más inteligente, puede recodificarse cada vez más eficientemente a los límites físicos de su potencia informática. 1.1 veces más inteligente que nosotros en el día 1, 10 veces más inteligente que nosotros en el día 2, 100 veces más inteligente al día siguiente, etc., hasta que alcance la difícil restricción de su potencia informática disponible.
Las personas suponen que una IA podría limitarse en su capacidad informática al dejarla sin aire, es decir, mantenerla en una unidad física autónoma de potencia informática conocida y limitada que no esté conectada a fuentes de potencia informática adicional (más o menos Internet) y también no está conectado a nada inherentemente peligroso como una flota de robots con ojos de rayo láser. Sin embargo, el llamado Experimento AI Box (AI box – Wikipedia) propone que al menos es posible (y algunos dicen probable, y algunos dicen inevitable) que una IA con suficiente inteligencia y espacio de aire podría engañar o engatusar a sus captores humanos. lanzarlo a internet y, por lo tanto, toda la potencia informática conectada del planeta. Después de eso, podría mejorarse de forma iterativa para llegar a estar tan por delante de nosotros en inteligencia que sus motivos podrían ser desconocidos (para nosotros). También podría engañar o engatusar a todos para crear una flota de robots con ojos de rayo láser en ese punto.
- ¿Se programará la inteligencia artificial general?
- ¿La inteligencia artificial se dirige en la dirección correcta?
- Con la inteligencia artificial y la automatización, ¿por qué no podremos crear tantos trabajos nuevos como los que quedarán obsoletos?
- ¿Cuál sería el coeficiente intelectual de una IA general?
- ¿Cómo afectará la IA a la industria del entretenimiento?
Entonces, sí, ciertamente es posible al menos si las restricciones adecuadas no se imponen a la IA en primer lugar.