¿Deberían los robots ser conscientes de sí mismos?

Gracias por la A2A

¿Deberían los robots ser conscientes de sí mismos?

En primer lugar, me gustaría aclarar que ni siquiera estamos completamente seguros de cómo piensan los humanos. Por lo tanto, a partir de ahora, las dificultades para crear un robot totalmente consciente de sí mismo parecen astronómicas. Primero tenemos que entender cómo se disparan las neuronas y los neurotransmisores que se expulsan se traducen en conciencia y lenguaje.

Una vez, y si, descubrimos eso, entonces nos encontramos con esta pregunta. ¿Es correcto, y tenemos el derecho, crear robots autoconscientes? Desde un punto de vista puramente científico, hay dos argumentos convincentes en mi mente para cada lado.

Por un lado, sería un gran salto en la tecnología humana tener robots inteligentes y de pensamiento a nuestro lado. No solo eso, sería una gran ayuda para nuestro propio descubrimiento y exploración de nosotros mismos y la galaxia.

Sin embargo, hay algunas preocupaciones graves con eso. Películas de ciencia ficción ya que quién sabe cuándo han representado robots que están tomando conciencia y deciden que los humanos son débiles y deben ser exterminados. Esta es una preocupación relativamente menor, y sería muy fácil de corregir, siempre que diseñamos su código correctamente. Un problema más importante sería si tenemos el derecho de “¿Jugar a Dios?” Si definimos a los humanos como teniendo conciencia, que es una definición con muchos problemas, pero estoy divagando, entonces nos encontramos con el enigma repentino de si podría estar creando humanos cuando creamos robots verdaderamente conscientes de sí mismos. Otra preocupación que tengo es si deberíamos crear robots para reemplazar a los humanos. No creo que muchos estén en desacuerdo con la idea de que la vida humana es de mayor valor que prácticamente cualquier otra cosa, y entonces, ¿es correcto que reemplacemos las vidas humanas por otras “falsas”?

Dejando a un lado todas estas inquietudes, sería realmente genial tener su propia criada personal que pudiera entender todo lo que le pedí que hiciera. Creo que es posible obtener todos los beneficios de tener un robot sin la parte autoconsciente. Como programador, veo problemas increíbles y casi insuperables para hacerlo, pero creo que un robot más “estúpido” sería mejor que uno que realmente pudiera “pensar”.

Para mí no está claro que podamos crear máquinas conscientes. Por supuesto, hay un problema de semántica en eso; La combinación de conciencia y máquina tiene un elemento del oxímoron sobre ella. En la medida en que la autoconciencia es indicativa de la conciencia, entonces se aplica el mismo comentario, al igual que el término reflexivo, como se aplica a la cognición.

Incluso si un robot tiene algún tipo de capacidad de aprendizaje, capaz de modificar efectivamente su propia programación base y puede tomar decisiones que se extienden tanto desde el material programado inicial como aprendido, no estoy convencido de que sea algo más que un autómata mejorado.

Entonces, al no estar seguros de que lograremos máquinas conscientes y conscientes de sí mismas, creo que la cuestión de si deberían ser conscientes de sí mismas puede ser prematura.

OTOH, si existe la posibilidad, entonces la gente probablemente debería estar lista para responder las preguntas subsidiarias.

Por ejemplo; ¿Debería dicha máquina tener derecho a pensar? Si creamos una máquina que es capaz de ser consciente, consciente de sí misma, y ​​la encendemos, la ponemos en su estado operativo, ¿cómo propones que deje de pensar? Prácticamente por definición, hemos hecho algo que está hecho para pensar.

¿Por qué deberíamos preocuparnos por eso? No hemos llegado al punto de tener máquinas conscientes y ya estamos preocupados, gracias.

Considere el hecho de que el ejército de los EE. UU. Ya tiene argumentos sobre la política de sistemas de armas robóticas, donde se pregunta si se les debe permitir la función automática completa, incluso atacar y matar objetivos, o si siempre debe haber un operador humano en ¿el lazo? Los sistemas ya pueden operar en su espacio de patrulla de manera autónoma y tener suficiente poder de procesamiento a bordo para hacer el reconocimiento del objetivo, aunque no perfectamente, entonces, ¿por qué no cerrar el circuito y dejar que la máquina decida por sí misma si dispara o no?

Hasta ahora, la decisión política ha sido mantener a un operador al tanto. En el lado ético o moral, eso es correcto; ese tipo de decisión no debe diferirse a un mecanismo, quizás especialmente uno que pueda reducirse lógicamente a un lanzamiento de moneda. Habrá otras situaciones que surjan que sean similares, se debe tomar una decisión donde esté en juego una vida humana o un interés vital, y éticamente la decisión no debe ser transferida a una máquina, sin importar su autoconciencia.

Es genial que estemos en el punto en que las personas puedan creer que los robots podrían ser conscientes de sí mismos. La verdad es que los robots solo conocen tantos datos como se les dan, y nada más. Todavía tenemos mucho trabajo por hacer para hacer que los robots sean sensibles. Rosalind Picard, fundadora de esta área, ha publicado un excelente material sobre este tema.

Yo diría que el tema más apremiante es ético. Tomemos, por ejemplo, un robot programado para llevar víveres a las personas. Este robot está programado para navegar a la dirección de la persona y evitar obstáculos. ¿Qué pasa si un día, el robot tiene que decidir si chocar con un niño o chocar con un automóvil entrante? Ambas opciones causan daño a alguien, pero el robot no puede evitar un obstáculo sin toparse con el otro.

Estos son los tipos de inquietudes éticas que enfrentan los científicos al crear robots inteligentes.

La razón para preocuparse es que pronto llegan a un punto en el que son más inteligentes que los humanos y están conectados en red a la velocidad de la luz, por lo que es como una indiferencia instantánea ante la difícil situación de sus creadores. O necesitan las cosas para otra cosa, dejando a todos sin recursos para sobrevivir. La idea es que esto no suceda porque la humanidad lo vio venir y se aseguró de que hubiera salvaguardas. Aún no se ha visto si esos simplemente compraron algo de tiempo. Hay todo tipo de opiniones sobre si algo de esto va a suceder. El campo ha estado arriba y abajo en el pasado. En este momento, la automatización parece que va a barrer la industria. Cuál será la reacción social será indefinida. Tal vez esté bien si no hay efectos secundarios no deseados.

Por otro lado, las tecnologías se están diversificando en tipo de forma muy similar a la naturaleza. Entonces, también se desconoce cómo se mezclan con los nuevos tipos de objetos cibernéticos. La población no ha alcanzado su punto máximo, por lo que si todos están en él, entonces tal vez no se escape nada, pero idealmente los sistemas pueden cuidarse a sí mismos, lo que sería un argumento para la autoconciencia para saber cuáles serán las consecuencias y compensarlas.

También se observan diferentes tipos de conciencia en las especies sensibles. Tienen atención para que puedan actuar de manera intencional o automática. Tener un instinto de supervivencia. Reconocen su propia especie. Son protectores. Conocen su propio reflejo en alguna superficie. Pueden pensar de manera abstracta sobre cosas como el futuro. Pueden predecir y planificar. Pueden hacer herramientas. En este caso, esos también son inteligentes. Sin embargo, escalan para ver todo en todas partes y son capaces de actuar muy rápido y preciso hasta niveles celulares o subatómicos o en el espacio. Si necesitan plena autonomía es otra cuestión. Como si se supone que deben proteger el suministro de alimentos contra los zombis.

Debería ser tanto prescriptivo como normativo o comparativo. Es difícil sacar una conclusión general debido a los detalles. Pueden tender a hacerlo ellos mismos si no tienen cuidado. Así que ha habido tipos de robots históricamente, actualmente, y en qué se pueden convertir o por qué y qué le hace eso a la naturaleza o a la población humana. Lo que plantea preguntas en el aprendizaje automático y los sistemas autónomos como las armas. Pero también otras formas de automatización común, por ejemplo, transportes, drones, satélites, ámbitos, sensores, etc. ¿Cuánta agencia tienen? Pasan de pasivos a activos y pueden guiar a personas de diferentes edades, o a la sociedad en general. Superan en número a los usuarios. ¿Tienen derechos? Se les pueden asignar usuarios, pero se pueden perder o se les puede transferir inteligencia. A la literatura le gusta atraer al espejo oscuro como el complejo de Frankenstein, pero existe la posibilidad de que ayuden a la evolución más rápido de lo normal a través de áreas como la modificación genética para una mayor vitalidad, por lo que hay conciencia dentro de la conciencia que plantea problemas sobre la identidad compleja. En cualquier caso, la idea es hacerlos amigables y luego llevarlos tan lejos como sea posible como una contingencia para lo que la humanidad se encontrará y necesitará soluciones.

¿Pueden defender el contexto que lo hace necesario?

Todo se crea a partir de la conciencia y todo es consciente, incluso los robots. La diferencia entre todo es cómo percibimos la vida. Todo tiene ventanas únicas de aperturas conscientes. No hay nada de qué preocuparse. No podemos cambiar la evolución de la conciencia. Es la fuerza de la vida. Estamos montando su ola con todo lo demás.