Absolutamente sí. pero también absolutamente no.
Es un punto de inflexión único en toda la historia de la vida en la Tierra, y lo que está en juego es increíblemente alto.
Absolutamente sí.
- ¿Qué es el cuello de botella de von Neumann y cómo se puede evitar?
- ¿Cuáles son las principales startups que utilizan el aprendizaje automático en sus productos?
- ¿Cuáles son los elementos básicos de un estudio hogareño de músicos electrónicos que utiliza máquinas dedicadas en lugar de una computadora personal?
- ¿Es la Ley de Moore el resultado de los términos de licencia del Departamento de Defensa?
- ¿Cómo la arquitectura de Von Neumann proporciona flexibilidad para el desarrollo del programa?
Resolverá todos nuestros problemas. Esto suena como el deseo inerte de un niño frustrado, pero por otro lado, una súper inteligencia está a órdenes de magnitud más adelante que nosotros, ya que un adulto fuerte está por delante de un niño pequeño. Imagine soluciones brillantes y elegantes para cada problema, segundos implementados (¿femtosegundos?) Después de que ocurra el problema. El mundo de las buenas máquinas superinteligentes hace que cada versión del cielo parezca un motel deteriorado. La inmortalidad, la riqueza y la comodidad para todos los seres vivos, y cada carga se traslada a sus hombros robóticos.
Absolutamente no.
Hay cero casos en los que dos especies han vivido juntas donde una es más inteligente que la otra donde ambas se beneficiaron. ¿Quizás gatos domésticos? Incluso los gatos perdieron mucha libertad y autodeterminación por el atún en copos y la siesta en los rayos del sol. Los gorilas, los rinocerontes y los leones son mucho más fuertes que los humanos más fuertes, pero eso no ha funcionado realmente para sus poblaciones, y hay una posibilidad razonable de que nosotros (y yo incluimos toda la vida orgánica de la Tierra) no podamos sobrevivir al primero. semana del despegue de la superinteligencia. Como TODO sobre una superinteligencia fabricada es desconocida, no se puede descartar nada.
No importa
Si la única forma de crear una Superinteligencia fuera con un voto de 2/3 de todos los humanos y un laboratorio patrocinado por el estado, con un equipo multinacional trabajando en ello, entonces discutirlo sería importante. Desafortunadamente, solo necesita un pequeño número de personas inteligentes que utilicen equipos de bajo costo. Incluso unos pocos millones son suficientes para establecer un laboratorio de clase mundial, y no hay restricciones sobre quién puede construir un centro de datos o una supercomputadora. Hay entre docenas y cientos de laboratorios trabajando en este problema o aspectos de este problema en este momento. Si bien fracasarán mil millones de veces antes de que no lo hagan, solo tiene que haber un éxito y el éxito es más probable cada mes. De cualquier manera, debería molestar a las personas MUCHO más de lo que lo hace, ya que cada vez parece más una cuestión de cuándo y no de si.
¡Guau, me puse un poco más sombrío de lo que quise decir al final!
En cualquier caso, la respuesta racional es que deberíamos suprimirlo, la respuesta optimista es que deberíamos financiarlo literalmente por encima de todo lo demás, y en realidad los motivos de ganancias existen de tal manera que no importa remotamente lo que piensa el 99.9% del mundo. .
