Tu argumento es muy confuso. Puede que no haya ninguna IA consciente en este momento, pero eso no significa que no la habrá en el futuro. No has discutido por qué este no puede ser el caso, así que déjame hacer un argumento muy simple de por qué será el caso, dado que no nos destruimos a nosotros mismos primero:
Ya existimos
Literalmente, somos la prueba viviente de que la conciencia es posible. Todavía no lo entendemos, y no está claro cuánto tiempo tomará entenderlo, pero si aceptamos que somos conscientes y existimos, entonces debe ser posible crearlo, a menos que asumas que estamos de alguna manera sobrenatural.
- ¿Qué pasos (en detalle) sugeriría que tome una licenciatura para adquirir experiencia en los campos de aprendizaje automático (ver detalles)?
- ¿Qué tan probable es que, como en la película "Terminator", las computadoras del sistema de defensa interconectado se vuelvan conscientes de sí mismas y ataquen a la humanidad?
- ¿Cómo podría ser posible que la IA se vuelva sensible por sí sola?
- Cómo comenzar a aprender sobre robótica autónoma
- ¿Cuál es el siguiente paso más allá del aprendizaje profundo en IA?
Luego tenemos que considerar si la estructura del cerebro humano es la única que puede soportar la conciencia. Con nuestra comprensión actual, no hay forma de responder esta pregunta de manera concluyente, ya sea sí o no, pero me parece que la respuesta más probable es no. ¿Realmente creemos que han existido cerca de 100 mil millones de humanos con diferentes permutaciones de conciencia pero que solo esa combinación general de células con esa combinación de estructuras que usan esa combinación de elementos en la tabla periódica es la ÚNICA que puede crear conciencia?
Finalmente, mientras existan los humanos, la tecnología continuará avanzando independientemente de la legislación, la cultura o la moral. La variedad de países diferentes con legislación diferente, y la abundancia de laboratorios de investigación que ya tenemos, siempre que el hecho de que el progreso tecnológico esté haciendo posible que personas menos calificadas o ricas accedan a estos recursos lo aseguran.
Si acepta mis premisas anteriores, debe concluir que el desarrollo de una IA consciente es inevitable, cualquiera sea la forma que pueda tomar. Si tiene una mente que tiene más en común con las computadoras modernas que nosotros, fundamentalmente pensará de manera diferente para nosotros, tendrá numerosas ventajas basadas en la inteligencia sobre nosotros y no podremos detenerla si se vuelve contra nosotros.
Podríamos seguir negando esto, O podemos discutir cómo crear una IA que NO nos encienda ahora mientras todavía hay tiempo. No es “histeria”, es planificación y pensamiento progresivo, algo que hacemos habitualmente en todas las demás partes de la vida, y debemos tomar en serio esta amenaza potencialmente existencial.
