¿Pueden las máquinas realmente hacerse cargo de todas las tareas humanas?

Respuesta corta:
No.

Respuesta un poco más larga:
No, ejercer el poder es una tarea que los humanos que tienen poder no dejarán de lado.

Respuesta mucho más larga:
Es una mierda ser un humano que no ejerce poder.

A riesgo de sonar como un fugitivo de Rapture …
Los humanos verdaderamente libres ejercen el poder de elección. Los esclavos obedecen.
Los que tienen el poder lo reconocen. No se convertirán voluntariamente en esclavos (fuera de un conjunto limitado de circunstancias, posiblemente involucrando un traje de gimp …). Eso es lo que quieren que hagan los demás.

Si una IA está haciendo tus elecciones por ti, estás reducido a solo obedecer.
El peligro radica en cuán rápido y seductoramente cómodo puede llegar a ser esto.
Por ejemplo: la IA que conduce su GPS decide una ruta para llegar a donde quiere ir. No es necesariamente la mejor ruta y puede estar impulsada por información desactualizada o un acuerdo de patrocinio para conducir el tráfico más allá de cierta cartelera, pero la sigue porque generalmente es lo suficientemente buena y funcionó la última vez. Ya no decides cómo llegar a dónde vas. Simplemente obedece y espera lo mejor porque es más fácil.

Sé de personas que no pueden hacer el viaje entre el hogar y el trabajo todos los días sin que su GPS les diga cuándo girar.
Personalmente, me gusta leer un mapa primero, así que tengo una visión general razonable del área circundante y uso el GPS como asesor. Esto me ayuda a adaptarme a las condiciones cambiantes.

Por otra parte, tiendo a ser un poco sensible a los juegos de poder y soy un PITA para los compañeros de trabajo que quieren fingir que mi rol está subordinado al de ellos.

Ahora, ¿podrías votar esta respuesta y dejar un comentario …
MWAHAHAHAHAHA

Todavía no tenemos máquinas con ese tipo de capacidad, pero nos estamos moviendo constantemente en esa dirección.

Joseph Weizenbaum, uno de los padres de la inteligencia artificial moderna, argumentó que la IA no debe usarse para reemplazar a las personas en puestos que requieren respeto y cuidado, como un juez o un profesional médico, sobre la base de que dicha colocación representa una amenaza para la dignidad humana.

Pero ese miedo se vuelve un poco redundante si, en el desarrollo de la IA, nuestra creación adquiere una dimensión emocional. Si eso ocurre, tendremos la obligación moral de asignar derechos (como el derecho a la libertad de pensamiento y expresión, vida y libertad, etc.). Y en ese punto, AGI se convierte en una especie y decide qué tareas realiza.

Es fácil señalar la programación y decir que simplemente no construiríamos para eso, pero en realidad lo haríamos. Es una dimensión útil en algunos de los roles que ya asignamos a la IA (como el servicio al cliente de respuesta de voz interactiva). Y no sabemos a qué nivel de complejidad pueden surgir espontáneamente las semillas de una vida interior emocional.

Mientras construyamos máquinas que solo imiten la inteligencia de manera proscrita (tecnología actual), habrá límites para las tareas que les asignamos. Pero si avanzamos hacia AGI, ese es un camino hacia la inteligencia sobrehumana , momento en el cual todas las apuestas están canceladas.

Quizás eventualmente, pero ciertamente no durante nuestras vidas. Aquí hay algunas proyecciones para el futuro más inmediato:

Los humanos no necesitan aplicar