La primera respuesta anon es realmente bastante aguda, y algo que no había considerado. Cuidemos esa posibilidad implementando algunas leyes que el sistema de IA (llamémoslo Hal) se ve obligado a obedecer. Esta es una ligera variación de las tres leyes de robótica de Asimov:
1. Hal no puede dañar a su propietario o, por inacción, permitir que su propietario sufra daños.
2. Hal debe obedecer a su dueño y a nadie más, a menos que esto entre en conflicto con la primera ley.
3. Hal debe proteger su propia existencia a menos que esto entre en conflicto con la primera o segunda ley.
Los pequeños cambios en las leyes de Asimov son necesarios ya que tomar el control del mundo probablemente implicará romper algunos huevos. Entonces, si usted es la única persona en el mundo con un sistema completamente inteligente a su disposición, ¿qué ventajas le brinda esto como individuo? A menos que tenga miles de millones en fondos, no puede construir un ejército de robots, y si obtuviera los fondos, serían los financiadores los que se apoderarían del mundo, no usted, en cuyo punto probablemente tratarían de deshacerse de usted y nosotros están de vuelta en la primera respuesta. La única forma en que podría pensar en usar a Hal independientemente sería instruirlo para que aprenda todo lo que pueda sobre los virus informáticos y luego lanzarse al éter como un megavirus con un plan. El primer plan que se me ocurrió fue ordenarle que infectara todos los sistemas semiautónomos del planeta y luego me contactara. Alguien realmente hizo algo así en una de las instalaciones nucleares de Irán (pero aún no se ha presentado). Hal perseguiría todo, desde computadoras industriales, redes telefónicas, ISP, sistemas de vuelo de aeronaves, sistemas de navegación naval, controladores de tanques, redes de semáforos, cualquier cosa en la que pudiera meterse discretamente y simplemente pasar el rato esperando órdenes. Sin embargo, el problema con este plan de “fuerza bruta” es que el siguiente paso casi inevitablemente se convertiría en una gran guerra apocalíptica que destruiría innumerables vidas y la mitad del planeta y te dejaría el gobernante odiado de un desastre caótico y carbonizado. Un plan mucho mejor sería decirle a Hal que invada silenciosamente todos los sistemas utilizados por los bancos centrales del mundo. Desde esta posición, tú y Hal podrían sacar cada hilo de importancia, y nadie sabría quién eres.
- Cuando la Inteligencia Artificial alcanza la capacidad para hacerlo, ¿debería permitirse enseñar a los niños humanos?
- ¿Cuál es la diferencia más esencial entre humanos y máquinas? ¿Dónde trazamos la línea entre humanos y máquinas? ¿Qué habilidades necesita una máquina para ser considerada tan inteligente como un ser humano?
- ¿Cómo se puede relacionar la mente bicameral con la inteligencia artificial?
- Cómo comenzar a aprender inteligencia artificial y construir una aplicación de inteligencia artificial real usando Python o Java
- ¿Cuál es el mercado para Virtual GF o aplicaciones similares?
