¿Qué opinas del desarrollo de la ética de los robots?

Gracias por el A2A.

Creo que la noción de ética y robots como entidades es ingenua. Se ajusta estrechamente a la noción igualmente ingenua de que los robots se volverán inteligentes (a través de la IA) y se apoderarán del mundo, por lo tanto, necesitamos encontrar formas de controlarlos, una de las cuales es la ética de instilación.

Ahora, pensar en la ética del uso de robots tiene sentido, pero en este caso la ética está asociada con los seres humanos que toman las decisiones, no con los robots en sí. Si un robot hace algo “incorrecto”, es porque se programó incorrectamente o el desarrollador no consideró algo, esto es en la persona, no en el robot. Hablar sobre ética y robots tiene tanto sentido como tratar de hablar sobre ética y cómo crecen los árboles.

Creo que es un poco tonto en este momento, y posiblemente incluso poco ético. Hacer que los autos autónomos decidan activamente si es mejor atropellar a un niño o una persona mayor en un accidente es, literalmente, discriminación por edad. Los órganos rectores que implementan reglas sobre las cuales las vidas son más valiosas que otras estarían violando la ética humana establecida, prescrita por la ley.

En este momento es solo una preocupación filosófica. El progreso en la planificación y predicción de las consecuencias de las acciones de un robot está lejos de ser un nivel en el que se puedan tener en cuenta las consideraciones éticas. También es bastante cuestionable que las consideraciones éticas sean necesarias para que un robot realice sus tareas, ya que no tiene intereses egoístas para cometer fraude o daño, mientras que las reglas como “Evitar atropellar a los humanos” se pueden hacer cumplir con sensores simples y una programación estricta. El único momento en el que querrías ética es cuando quieres darle a un robot la libertad de decidir si hacer algo dañino por sí mismo.

Está equivocado. Los robots son definidos por los humanos. No tienen agencia moral. Sus acciones están determinadas por los humanos que las programaron.

Es parcialmente análogo a los custodios parentales de los niños. Hacemos que los padres sean parcialmente responsables de las acciones de un niño, pero responsabilizamos al niño a medida que crecen. Es decir, más cerca de la comprensión moral en términos de coherencia y experiencia. Las determinaciones basadas en la edad pueden ser crudamente apropiadas, pero una medida cualitativa sería mejor.

Lamentablemente, permitimos que los gobiernos como operadores del sistema escolar escapen de toda responsabilidad. Mira el daño que realizan.

Creo que debemos descubrir qué sistema ético incrustar en inteligencias generales artificiales antes de que se vuelvan más inteligentes que nosotros.

Hay implicaciones para esto incluso con tecnologías a corto plazo, como los autos sin conductor. Si un accidente es inevitable y chocas con otro automóvil lleno de personas o conduces hacia el río, ¿qué haces?

Creo que es un esfuerzo equivocado. Más allá de eso, puede ser extraordinariamente arrogante.

Nos gusta fingir que sabemos de qué estamos hablando, pero no lo sabemos. Imaginamos que todos están en la misma página cuando se trata del bien y del mal, pero nosotros no. Entonces, ¿deberíamos preocuparnos de que las computadoras nos maten cuando estamos por todas partes sobre el tema? Tal vez deberíamos limpiar nuestra propia casa primero.

Sin embargo, habiendo dicho eso, animo a la gente a ser arrogante y equivocada. Creo que deberíamos poner dinero y esfuerzo en tratar de resolver esto. Podría ser el caso de que creamos máquinas moralmente superiores que pueden quitarnos nuestras armas autodestructivas antes de que, como los niños que juegan con una pistola, logremos hacernos explotar.

En otras palabras, aunque creo que es una pérdida de tiempo, animo a las personas a trabajar en la ética robótica porque nuestros esfuerzos hacia el progreso deben ser diversos.

Espero que no haya una necesidad real de ello, ya que la realidad virtual evolucionará mucho más rápido que la robótica y todos los problemas relevantes se resolverán en el contexto de la realidad virtual. Construir robots físicamente encarnados será solo un desperdicio de recursos para la mayoría de las aplicaciones éticamente problemáticas. Los robots incorporados podrían tratarse como mecanismos controlados a distancia, incluso si están controlados por inteligencia artificial, ya que no será necesario que un controlador se identifique con el robot.