Todas las preguntas interesantes! Puede que le guste “Turing’s Nightmares”, que presenta una serie de escenarios diferentes sobre cómo podría desarrollarse esto en el futuro.
Múltiples escenarios de la singularidad: Dr. John Charles Thomas Ph.D .: 9781523711772: Amazon.com: Libros
Tendría que preguntarme si la tecnología es la “única” forma de avanzar. Hay varios otros caminos. 1. Las personas pueden inventar nuevos regímenes de drogas, ejercicio, capacitación y educación que podrían mejorar enormemente la inteligencia, la memoria, la empatía, etc. de las personas. No está claro si estos cuentan como “tecnología”; algunos podrían ser libros infantiles muy inteligentes o enseñarles a meditar. 2. Las personas pueden inventar técnicas mucho mejores para trabajar * juntos * de manera efectiva. Hay una serie de problemas conocidos con los grupos cara a cara que los hacen mucho menos efectivos de lo que podrían ser. Podríamos mejorar la eficiencia de la inteligencia humana * colectiva * incluso si los humanos individuales no se vuelven mucho más inteligentes. 3. La ciencia biológica podría encontrar formas de continuar haciendo crecer el cerebro y el cráneo de las personas a un tamaño mayor, lo que aumentaría la inteligencia.
Personalmente, creo que es importante distinguir entre * herramientas * o * medios * y * fines *. Creo que los seres humanos, la vida humana y la experiencia humana no son solo “herramientas” de productividad, sino que son fines en sí mismos. En * algunos * casos, puede tener sentido reemplazar la actividad humana con la de los robots, pero no en todos los casos solo porque el robot puede ser más “productivo” o “más rápido”. Me gusta jugar al tenis. Si inventamos un robot que puede servir la pelota a 250 mph y correr alrededor de la cancha y golpear cada tiro para un ganador, es genial, pero no me va a impedir disfrutar del tenis solo porque hay alguna máquina que puede hacer es mejor. Lo mismo para escribir poesía o hacer música. A la mayoría de nosotros todavía nos gusta ver a Usain Bolt correr por el campo a pesar de que su velocidad es mucho más lenta que un satélite o una estación espacial girando alrededor de la tierra.
Como se puede ver en Turing’s Nightmares, creo que es concebible que sin querer nos estemos reemplazando. Creo que un escenario de “pesadilla” mucho, mucho más probable, implica la amplificación de la codicia humana y la arrogancia a través de la IA. También es mucho más fácil para las personas ser poco éticas cuando están más alejadas de la situación. Por ejemplo, es mucho más fácil programar un sistema de IA que luego haga algo poco ético que hacer que el programador haga lo mismo poco ético cara a cara con la persona que está siendo engañada. Sería genial captar tus pensamientos comentando en mi blog sobre IA también.
petersironwood