¿Es posible que la humanidad decida no construir IA?

No estoy seguro de que alguien esté construyendo IA . Es un conjunto de tecnologías muy diversas y seguirá creciendo. Pero tal vez en algún momento parte de su aplicación estará contenida en gouvernements.

Lo que ve hoy es la convergencia del trabajo de Acamedic, el bajo costo de la informática y el almacenamiento, la disponibilidad de conjuntos de datos muy grandes y los resultados comerciales visibles que atraen capital. Hay cientos de factores aislados, cada uno con su lógica comercial. Google y Facebook trabajan para mantener a las personas viendo anuncios en su teléfono. IBM quiere mantener relaciones profundas con las grandes corporaciones. Tienen que hacer que la IA sea “confiable”, de ahí que los anuncios de Bob Dylan le agreguen un poco de valor emocional: la cercanía fomenta la confianza. Nvidia se enfoca en nuevos chips. Hace 6 o 7 años, muchas empresas de software de nivel medio tenían miedo de quedarse atrás. Comenzaron a pagar enormes salarios a cualquiera con Machine Learning en el currículum. Lo que provocó una avalancha de estudiantes. Lo que activó los más de 50 MOOC que tenemos ahora, 5 libros y una publicación de miles de millones cada semana.

Ahora, ¿qué pasa si Kurzweil y otros están interesados ​​en algo, y un día nos despertamos descubriendo que creamos algo que realmente no queríamos crear? ¿Comenzarán las superpotencias las negociaciones para “desarmarse”? La tecnología estará en todas partes (“la nueva electricidad” de Ng) para entonces. Aún así, siempre podemos poner límites a su uso. Estados Unidos desarrolló grandes fideicomisos comerciales, luego una poderosa legislación antimonopolio. Tenemos tratados y agencias de no proliferación nuclear. Es un proceso político.

Obviamente no. Nunca hay consenso entre los humanos sobre nada, y la construcción de IA tiene beneficios inmediatos para el constructor.

Es como “¿es posible que la humanidad decida no hacer herramientas eléctricas?”. No. Cuando quieres uno, lo haces, ilegal o no.

¡Tengo que admitir que esta es una pregunta realmente excelente!

Por supuesto, como humanos, nos gusta pensar que somos nosotros quienes decidimos lo que vamos a hacer. Sin embargo, esto solo se refiere a los individuos humanos, y no a la humanidad en su conjunto.

Y, por supuesto, yo, un individuo, puedo decidir que no voy a construir IA. Puedo decidir disuadir a otras personas de hacerlo, o incluso sabotear cada intento.

Pero esto lleva a una pregunta: ¿por qué querría hacerlo? Parece que algunas personas temen que la IA pueda causarles daño. Mi opinión, sin embargo, es diferente. Yo mismo (y supongo que muchas otras personas también) percibo la búsqueda de construir IA como una forma de comprender mejor mi propia inteligencia. No estoy motivado por la voluntad de aplicar IA en la industria, pero estoy motivado por mi propia curiosidad, disposición a responder la pregunta: “¿qué soy?”

Y, de hecho, esta pregunta parece estar incrustada en la naturaleza misma del género humano. Parece que es nuestro destino y vocación descubrirnos a nosotros mismos. Y así, es posible que la humanidad decida no buscar esa respuesta, ya que es posible que una planta se suicide o decida dejar de crecer.

¿Posible? Sí, pero muy inviable, y a la larga no marcaría la diferencia, ya que constantemente estamos creando nuevos sistemas de autoaprendizaje y conectándolos tan tarde o temprano orgánicamente se formará IA allí, ya sea que lo planeemos o no.

la humanidad no decide nada en su conjunto, siempre habrá desacuerdos