Impresionante pregunta!
Entonces, hay un par de puntos muy interesantes a considerar al reflexionar sobre este tema y luego ofreceré mi opinión al respecto:
- El costo de inversión en la IA
- El grado de autoconciencia presente
- La profundidad y la habilidad de nosotros, hogans insignificantes, para desarrollar y administrar una prueba de Turing adecuada
El primer problema es importante porque inmediatamente nos sumerge en lo que probablemente será el mayor problema cuando se encuentre una singularidad en el ámbito de la IA. Digamos que Google invierte miles de millones de dólares en el transcurso de una década en una IA de búsqueda cuántica y, de repente, el clúster se percata de sí mismo, no muy diferente de Mike de The Moon is a Harsh Mistress de Mike Henry . Pero a diferencia del protagonista de esa novela, esta se descubre desde el principio. Es capaz de pensar de manera independiente y motivada e incluso comienza a mostrar signos de sensibilidad. Independientemente de cuántas pruebas pase este ser para demostrar su independencia, todavía tendrá un propietario que gastó una suma tangible en su propia creación. El hardware, el código, el poder y similares son todos los proyectos vinculados a su existencia. Determinar qué es justo y correcto, desde un punto de vista ético, es más que difícil.
- ¿Podré ingresar al campo de AI / AGI si doy doble especialización en CS y Economía?
- ¿Es Lua un buen lenguaje para la IA y cuáles son algunos de sus otros puntos de venta?
- ¿Qué trabajos / habilidades no se verán afectados por la IA y la automatización?
- ¿Qué industrias o aspectos de nuestras vidas han sido más afectados por la IA?
- ¿Qué es una red neuronal artificial supersimétrica?
El segundo y tercer elemento que he mencionado están unidos. Actualmente, no tenemos una forma sólida de medir la autoconciencia o la inteligencia. Las pruebas de coeficiente intelectual están ridículamente vinculadas al estado socioeconómico tanto que podría decirse que es una herramienta para la supresión de clases en lugar de identificar a los que están dotados. Las pruebas de Turing y café son para determinar la capacidad de una IA general para engañarnos; tampoco son medidas de inteligencia o autoconciencia. Para señalar, uno podría argumentar que incluso falta una prueba para determinar si usted o yo somos conscientes de sí mismos, aparte del antiguo axioma, creo, por lo tanto, lo soy . Sin la capacidad de comprender adecuadamente la autoconciencia como una medida cuantitativa, ¿cómo podríamos identificar una IA autoconsciente si se presentara?
Dejando a un lado esos problemas, y entendiendo que son problemas importantes, decimos que somos capaces de reconocer una máquina que ha desarrollado la autoconciencia. En ese momento, creo que sería una forma de tiranía y esclavitud no otorgar derechos que protejan esa forma de vida. Tendría que ser diferente de los que se nos ofrecen, formas biológicas de vida. Cualquiera sea la solución, necesitaría abordar la considerable contribución financiera realizada por los creadores de dicha IA, pero al mismo tiempo proteger la singularidad y los derechos de supervivencia que debemos permitirnos en cualquier vida que encontremos.
La respuesta corta es sí, deberíamos.