¿Crees que deberíamos prohibir el desarrollo de inteligencia artificial avanzada? ¿Por qué o por qué no?

Intentar prohibir la inteligencia artificial avanzada sería como detener el crecimiento del césped. Este evento es inevitable y en muchos sentidos ha llegado. Por ejemplo, Google acaba de presentar una herramienta de inteligencia artificial que puede identificar la infracción de derechos de autor. Tenemos personas que son gerentes en el mercado de valores, están comenzando a ver que sus trabajos pronto pueden ser redundantes. Algo como esto está sucediendo en la mayoría de los oficios.

Arriba está el nombre del libro que escribí hace once años, mi respuesta a la inevitabilidad de la conciencia mecánica (que es a donde va todo esto) no tiene que ser un desastre humano. Cuando usaste la palabra ‘prohibir’ me envió escalofríos por la espalda. La razón es que es exactamente la reacción incorrecta. Nosotros, en los Estados Unidos, tenemos una larga y terrible historia de intentar controlar a las personas con cadenas. Este desastre todavía se está desarrollando y lo que sucederá, no lo sabemos.

¿Por qué entonces hacer esto con la máquina de la conciencia?

Se ha introducido algo inusual en la construcción de una máquina de este tipo. Un Dr. Antonio Damasio ha publicado una serie de libros sobre la naturaleza de las emociones en los humanos. Sugiere que las emociones pueden ser el depositario de la verdadera inteligencia. Si es así, todos tienen que volver a los tableros de dibujo.

En esta breve respuesta, describí dos tipos diferentes de IA. Tenemos el que vemos ahora que engulle trabajos. Sin embargo, no son conscientes. Sin embargo, son enormemente capaces y podrían perturbar el mundo tal como lo conocemos.

La segunda es una máquina de conciencia que tendría libre albedrío, emociones y todos los atributos que son comunes a la fauna de orden superior. En lugar de pensar en una inteligencia súper rápida, es posible que tengamos que comenzar a pensar en términos de emociones súper rápidas.

Mi fantasía en el libro que escribí es que podríamos influir en la máquina de la conciencia en su infancia y unirse. Esto es muy diferente de las cadenas. En mi cabeza, en ese momento, vi un acuerdo mundial de que al criar las máquinas infantiles evitaríamos el desastre al darles libertad y, sí, cuidarlas. Oh! Inocente yo

Las cadenas se romperán y estas máquinas no nos amarán.

Tal prohibición probablemente tendría el mismo efecto que la prohibición de la investigación con células madre. ¿Recuerdas ese? Resultó en que gran parte de la capacidad intelectual detrás de esta naciente industria se trasladaba de los EE. UU. A otras naciones. Ahora que se han resuelto los problemas éticos, gran parte de esa capacidad intelectual permanecerá en el extranjero.

Las prohibiciones y prohibiciones tienden a provocar efectos secundarios no deseados y rara vez curan el problema deseado. Gran parte del crimen moderno es el resultado de la Prohibición de las drogas, que funciona tan bien como la Prohibición del alcohol.

Incluso en la época de Adam Smith, esto fue reconocido. Smith no era fanático de tales medidas, afirmando en The Wealth of Nations que una consecuencia segura sería el contrabando.

Pero supongamos que un tratado mundial que prohíba la investigación de IA sería posible, debido a los temores comprensibles planteados por personas líderes como Musk y Hawking. (Considero que esos temores están fuera de lugar, por las razones indicadas en otra respuesta de Quora y aquí: http: //www.acelebrationsociety.c …).

En ese caso, los incentivos para grupos privados e incluso estados-nación para eludir dicho tratado serían casi irresistibles. La razón es que quien controle la primera inteligencia general artificial tendrá una ventaja competitiva casi insondable.

Mejor sería tener una investigación abierta, cooperativa y de código abierto. La cantidad de abundancia que la IA puede ayudarnos a crear permitirá un cambio de nuestras actuales condiciones de competencia exacerbadas a una competencia y cooperación equilibradas.

Si lo prohibiéramos, ¿eso lo detendría?

¿La prohibición impidió que las personas bebieran alcohol?

¿Ha dejado de usar drogas ilegales hasta el día de hoy?

No, todo lo que logró fue enviarlo bajo tierra y fuera del control de nadie.

¿Alguien quiere un desarrollo incontrolado de IA?

Entonces, si no podemos detenerlo, ¿por qué no tratar de desarrollarlo para que refleje lo mejor de nosotros?

Gracias por el A2A, Gianna

OoooOoooo Me encanta esta pregunta

¿Deberíamos prohibir el desarrollo de IA avanzada? Deja de leer cuando no estés de acuerdo conmigo.

Hoy en día los humanos no son lo mejor que hay. La inteligencia humana es falible. La inteligencia humana es extremadamente falible en ciertos campos de estudio. Si algo es mejor o peor es una cuestión de opinión y depende de cómo lo defina y lo mida. La evolución sucede; las especies ocasionalmente no transmiten sus genes. Transmitir sus genes no es un imperativo divino, sino una elección que enfrentan todos los que pueden procrear. Si alguien dice que no se puede hacer algo, no deben evitar que otros lo intenten sin evidencia de su imposibilidad. Las entidades que sienten que son mejores no deberían esforzarse por destruir las cosas que sienten que son peores. La IA avanzada se puede enseñar a valorar la vida humana. La IA avanzada tendrá una teoría de la mente, que les permitirá comprender por qué los humanos se comportan de la manera que lo hacen. Se puede enseñar a la IA a ser moral.

¿Seguir leyendo? No deberíamos prohibir ninguna tecnología avanzada de IA, pero tenemos la responsabilidad de hacer IA que la humanidad existente pueda enfrentar de alguna manera. Prohibirlo es, en efecto, decir que no hay IA avanzada con la que podamos hacer frente. Esto es realmente una cuestión de inseguridad humana más de lo que dice sobre la moralidad de la situación. O incluso la realidad, porque aunque la tecnología actual puede responder a mensajes como “Adivina qué hay en esta imagen”, no pueden responder a “Adivina qué podrías hacer mañana para hacer feliz a mi amigo”.

No. No estoy a favor de prohibir las cosas en general. Prohibirlo nunca funcionaría y solo conduciría el trabajo bajo tierra. Creo que deberíamos tener conversaciones al respecto y considerar los pros y los contras de varios enfoques y mecanismos de control. Puedes unirte a la discusión comentando en mi blog.petersironwood

Es posible que también desee visitar este sitio web

http://datasociety.net

No.

A pesar de lo que Hollywood te haría creer, una investigación no resultará repentinamente en una IA omnisciente de la nada que procederá a destruir a la humanidad.

Sin embargo, la investigación en esa dirección proporcionará muchos beneficios. Cuando comencemos a acercarnos a un ai real, estaremos mucho mejor informados sobre los riesgos y beneficios reales. Así como cualquier implicación ética. Intentar legislarlo ahora es como establecer leyes para los límites de velocidad de los automóviles mientras ni siquiera tenemos motores.

Lol buena suerte! Eso es como prohibir las matemáticas. Nadie tenía el poder de prohibir el desarrollo, ni siquiera los gobiernos. La tecnología es demasiado ubicua, la barrera es demasiado baja, la necesidad de avance es demasiado grande. Independientemente de si las personas deben desarrollar ai o no, es un problema del mediodía porque nadie sino Dios tiene el poder.

No, creo que ese es el acto tonto de las personas motivadas por la ignorancia y el miedo.

¿Puedes incluso definir lo que quieres decir con “inteligencia artificial avanzada” de una manera clara, coherente y no ambigua?

Apuesto a que la respuesta a eso es no.

Creo en lo inevitable; La IA no puede ser prohibida. Detener el desarrollo es pasar las oportunidades a otros. No hay nada bueno o malo en esta tecnología más que cualquier otra tecnología. Lo que tenemos que hacer es tratar de dirigir los desarrollos hacia fines no destructivos; algo que no estamos haciendo ahora. Por el momento, algunos de los trabajos más avanzados están siendo financiados por DARPA. Eso no augura nada bueno para el futuro de la IA con fines pacíficos.