Respuesta: no tenemos forma de saberlo.
La evolución inminente de la inteligencia más allá de los humanos nos preocupa a muchos de nosotros, y con razón. Pero para comprender mejor esas inquietudes se requiere una mirada más cuidadosa de lo que viene y de cómo inevitablemente. Tal inspección más cercana probablemente será desgarradora para muchos; deje que eso sirva como su única advertencia sobre lo que se discute aquí.
- ¿Cuál es la diferencia entre varias redes neuronales artificiales?
- ¿Cuáles son las diferencias clave entre las redes neuronales artificiales y las neuronas reales del cerebro humano?
- ¿Cuál es el nombre de este modelo matemático: [matemáticas] \ begin {eqnarray} \ mbox {output} & = & \ left \ {\ begin {array} {ll} 0 & \ mbox {if} \ sum_j w_j x_j \ leq \ mbox {umbral} \\ 1 & \ mbox {if} \ sum_j w_j x_j> \ mbox {umbral} \ end {array} \ right. \ end {eqnarray} [/ math]?
- He sido programador durante 17 años y quiero cambiar mi carrera. ¿Qué debo hacer para cambiar mi carrera a inteligencia artificial?
- ¿Cuál es la diferencia entre inteligencia artificial, aprendizaje automático, minería de datos e inteligencia de negocios? ¿Cómo están relacionados?
Es extremadamente desconcertante escuchar a alguien tan talentoso y prohumano como Elon Musk hablar en términos de si una inteligencia evolucionada, una Superinteligencia, será ‘benigna’ o no. Ya hemos pasado el punto de poder ver las cosas en términos de una dicotomía simplista, y por mucho que apoye lo que el Sr. Musk está haciendo y ha hecho, no puedo conciliar la idea de formular las cosas como una hipótesis binaria. Incluso si lo usó simplemente como una manera fácil de explicar la pregunta más fundamental que concierne a la humanidad con respecto al desarrollo de la IA, ¿es realmente un gran salto hercúleo explicar a la gente que no estamos hablando de algo tan simple como el diferencia entre bueno y malo?
Google rápidamente nos da esto para una definición:
benigno
adjetivo
1)
amable; amablemente.
“su rostro estaba tranquilo y benigno”
sinónimos: amable, amable, afectuoso, bondadoso, amable, cálido, cariñoso, agradable, genial, amable, cordial, accesible, de buen corazón, gentil, comprensivo, compasivo, atento, bien dispuesto, benevolente
“un papel de abuelo benigno”
2)
MEDICINA
(de una enfermedad) no dañino en efecto: en particular, (de un tumor) no maligno.
sinónimos: inofensivo, no maligno, no canceroso; benigno
“un tumor benigno”
¿Una Superinteligencia será amable con nosotros o no? Francamente, es una especie de pregunta de mierda. La pregunta más destacada es ¿con quién, si alguien, será bueno una Superinteligencia? Y con esta pregunta terriblemente obvia ahora atrapada en el centro de atención para que todos se vean bien y con dificultad, las preguntas de seguimiento, muy de cerca, son:
¿Para quién será bueno?
y luego, lo más predecible de todo:
¿Para quién no será bueno?
La exitosa entidad de financiación se convertirá invariablemente en un Scrooge u otro, al igual que las compañías farmacéuticas, en realidad. ¿Recuerdas el imbécil Martin Shkreli? El CEO de Douchebag Pharma eleva el precio de los medicamentos en un 5000% porque atornille a su bebé enfermo
Obviamente podemos pasar por alto estas preguntas si lo deseamos, de hecho, la gran mayoría de nosotros lo hemos hecho. Encuestas recientes han indicado que, aunque la mayoría de las personas están a favor de las restricciones en el desarrollo de la IA, las favorecen sin una conciencia apreciable de sus implicaciones. ¿Restricciones sobre quién o qué, exactamente? ¿De qué manera, por favor, diga, se supone que se imponen tales restricciones hipotéticas? Está muy bien y es bueno tener reglas para nuestra Tienda China; otra cosa es desarrollar reglas de la tienda para China. Otro asunto para asegurar el cumplimiento de esas reglas cuando esencialmente cualquier persona en el mundo puede dejar pasar a un toro por la puerta.
De acuerdo, no cualquiera. Solo las personas más ricas, ya sabes, las personas que tienen el mejor historial de seguir las reglas. Solo las personas más inteligentes, ya sabes, las que nunca se equivocan. Solo aquellos con las mejores intenciones …
Hmmm … esto comienza a sonar curiosamente como otro caso más de perder una especie invasora [1] en un entorno desconocido. Esperando, por supuesto, que haga su bien y sea “benigno” de otra manera. Una cosa sería que esos agricultores de IA solo hablaran por sí mismos, y solo se enfrentarían a las consecuencias de construir una entidad que pudiera destrozar o destruir cualquier cosa y todo. Desafortunadamente, la víbora que esperan descongelar está en el abrigo de todos, no solo en el suyo.
De cualquier manera, en este como en muchos otros casos, lo que la mayoría de la gente piensa es tangencialmente relevante. Lo que importa, como siempre, es lo que piensa Big Money. Big Money determina lo que ves, y en un pintoresco ciclo de retroalimentación positiva, recompensas con clics lo que apruebas más. Ya sea en sus redes sociales o con el control remoto sentado inocentemente en la mesa de su sala de estar: miles de opciones superficialmente diferentes que se le ofrecen mientras sus anfitriones se ríen hasta el banco. El adoctrinamiento en la forma más purificada, y lo peor de todo, está completamente camuflado por su fantasía imaginativa de que piensa por sí mismo, que toma sus propias decisiones. La mayor parte de las opciones que le dan provienen de lo que equivale a una lista preaprobada, por lo que es bastante fácil determinar qué continuar alimentándolo a pesar de que no es más que varios tipos de dulces y galletas mentales.
Ya sea Murdoch, Zucker o Zuckerberg, todo es lo mismo. A pesar de lo que pueda pensar, no hay un bocado de comida nutritiva en el lujoso buffet de medios de hoy. Obtendrá nada más que la tarifa más sabrosa y de alto octanaje con muchos comerciales dirigidos para eliminar todo y abrir aún más su apetito. Una mezcla heterogénea de comida chatarra diseñada por expertos para aumentar la caspa. Para excitarte, ya sea a través de la ira o el deleite. Lo único que importa es que te mantengas sentado y sigas engulliéndolo. La influencia sedante está incorporada: desperdicie su energía aquí y no la tendrá allí. Mientras disfrutes del espectáculo, gastarás toda tu energía con tu culo gordo, tonto y complaciente, sentado exactamente donde mejor se puede hacer un seguimiento: haciendo clic sin pensar en baratijas y cuentas sin sustancia de la Nueva Era en un bucle sin fin. Entonces, ¿qué pasa si la activación perpetua del sistema nervioso simpático se asocia con una constelación de enfermedades? Tenemos píldoras para esas cosas, y cuando no son suficientes, tenemos un sistema de salud rentable que respalda todo. Y el hecho de que no creas que te han tomado es el hecho más triste de todos. Muchas otras personas lo son, pero seguramente no tú. Después de todo, te han hecho sentir especial: solo hay uno como tú.
Ninguno está más esclavizado que los que creen falsamente que son libres.
-Goethe
No necesita ser arrojado detrás de las rejas, atado a una silla, atado a los remos o atornillado a una doncella de hierro: sus ojos están pegados a la pantalla y lo conducen mejor que una correa de seis pies de largo sujeta al collar del estrangulador de un perro Pasas mucho más tiempo por día frente a una pantalla de video de lo que el perro promedio gasta al final de una correa, y tú y yo y todos los demás lo sabemos. Cuando no estás viendo algo, estás comprando algo, consumiendo algo o ganando dinero para hacer una de las tres cosas anteriores. Tienes exactamente cuatro trucos en tu arsenal y pensar por ti mismo no es uno de ellos. No se alejará de un teléfono, computadora o televisor en el corto plazo y no es porque haya hecho una comparación justa entre lo que le gusta y lo que no. Es porque ni siquiera sabes lo que está fuera de los límites de tu correa, al menos si eres como la mayoría de las personas que no conoces. Después de todo, has visto fotos de cómo se ve la naturaleza. Extraído de los millones que hay en la red, ofreciéndole imágenes falsas que no son apreciablemente diferentes a las de los modelos con aerógrafo en la portada de las revistas. Pero no te preocupes por mí, engánchalo. Has sido entrenado para quererlo así.
En Facebook, Zuckerberg y sus tenientes bien intencionados continúan tocando el tambor de ‘le damos a las personas lo que quieren’ mientras desvían la atención de la directiva mucho más relevante siempre que resulte en el mayor número de clics. La regla fundamental, obviamente, es optimizar la obtención de dinero. Pero hemos llegado al final del juego de esta filosofía psicosocial: la goma de lo que más vende es la mejor mentalidad, ha encontrado el camino de la realidad y se ha derretido casi por completo. No vamos a andar en esas ruedas por mucho más tiempo, al menos no sin algo que se incendie seriamente. Ahora tenemos poco más que una colección grotesca de cosas en su mayoría maravillosas y terribles, y ‘alimentamos’ prácticamente nada en el medio. ¿Conciencia? Una baja. ¿Verdad? Una baja. ¿Cumplimiento? También una baja. Ninguna de estas cosas prospera cuando predomina un esfuerzo dedicado para reducir a toda la humanidad a una serie de clics de botones identificables individualmente: nos convertimos en lo que somos, no en lo que podríamos ser.
No queda agua para las flores que no se venden. No quedan abejas para polinizar nada más que el monocultivo.
La palanca por la cual sacamos nuestro queso está ingeniosamente conectada a la palanca de todos los demás. Cuando tiramos de los nuestros, no solo recibimos un poco de queso, sino que también alentamos a Sneetches similares [2] a tirar hacia abajo de los suyos y al mismo tiempo restablecer la palanca de Sneetches diferentes en forma de balancín. De esta manera, el buen Ole Zuck se ha hecho un Sylvester McMonkey McBean de la Nueva Era, menos el divertido sombrero verde y la pajarita. Es apenas más complicado que un libro infantil ilustrado; La dinámica en el juego es esencialmente idéntica a la que existe entre un niño y sus padres, que son incapaces de decir “no”.
Sylvester McMonkey McZuck presidiendo su megacontratación
En pocas palabras, McZuck se enfrentó a una elección terriblemente difícil entre dos asignaturas optativas: Popularidad 101 y Good Parenting 101. Una vez que se decidió esa elección, la administración de su creación se hizo bastante fácil: los conceptos de lo correcto y lo incorrecto ni siquiera tuvieron que tomarse un asiento trasero cuando El Creador, habiendo sondeado diligentemente su cámara de eco, declaró magnánimamente el par equivalente.
¡Todos pueden relajarse ahora, no hay nada que temer!
No habrá asientos asignados, ¡mientras no esté aquí!
No excluimos a aquellos que usan la mitad de su cerebro.
¡Amplios son los asientos en este tren de salsa!
¡Correcto e incorrecto! ¡Qué absurdo! ¿Por qué importaría?
¡El objetivo es asegurar que las arcas engorden!
¿Y qué si los pasajeros son tontos hedonistas?
No es nuestra responsabilidad, ¡acabamos de construir las herramientas!
Además, a ninguna alma entre nosotros le gusta un mundo que tenga reglas.
A riesgo de sonar como las primeras gotas de lluvia en dos desfiles muy divertidos e interesantes, la entidad algorítmica que es Facebook es simplemente una vista previa trivial de lo que nos espera si continuamos marchando hacia la IA con la fijación sociocida en la autocomplacencia. y blasé actitud hacia la moral que tenemos actualmente.
Algunos investigadores son claramente conscientes de esto. Hablando sobre el desarrollo de la IA, el destacado filósofo y neurocientífico Sam Harris nos ha advertido que realicemos “filosofía en una fecha límite”. Él dice:
Tenemos que admitir ante nosotros mismos que hay mejores y peores
respuestas [filosóficas], y tenemos que converger en las mejores. [3]
Facebook es un ejemplo desalentador de personas altamente competentes que retroceden en esta tarea. A pesar de un patrimonio neto de más de $ 60 mil millones y estar rodeado de algunas de las mentes más brillantes del planeta, Mark Zuckerberg se ha negado firmemente a liderar de cualquier manera, aparte de la popularizada por un cierto gaitero de Hamelín. Ratas y niños responden por igual a la llamada de sirena de su instrumento, y el usuario promedio pasa 50 minutos al día en el sitio de acuerdo con un artículo del New York Times publicado el año pasado [4].
Según los consultores de marketing digital (SEO Consulting), Zephoria Inc. ingresa diariamente a más de 1.200 millones de personas. En caso de que tenga dificultades para comprender el asombroso poder de esta herramienta difícil de manejar, eso equivale a aproximadamente el tiempo que pasa diariamente para construir la Gran Muralla China. Equivalente a una compañía con 125 millones de empleados a tiempo completo, aproximadamente cuarenta veces más grande que el siguiente empleador más poblado del mundo, el departamento de Defensa de los EE. UU.
Las herramientas de software y hardware, combinadas con la ilusión de privacidad, hacen que sea ridículamente fácil segregar a las personas en grupos aislacionistas de “Estoy de acuerdo” y “No estoy de acuerdo”. De hecho, esas herramientas son tan poderosas que una persona podría verse tentada a imagina que sirven al objetivo de una mayor comprensión; después de todo, solo se trata de unos pocos grados de separación entre la gente más militante de Breitbart y los Huffposters más firmes. Las cajas, por aisladas que estén, están dispuestas en una proximidad virtual tan cercana entre sí que es fácil creer que se producirá cierta difusión, y las personas aprenderán mejor cómo mirar a los ojos. La teoría suena tan maravillosa cuando resuena en las paredes de una oficina verdaderamente abierta, donde todos disfrutan del acceso a un banquero, un barbero, limpieza en seco gratuita y algunos de los mejores alimentos del valle. Donde todos están al alcance del oído del CEO, y él a ellos. Ciertamente, no hay mucho en el camino de la exposición, pero entonces no se puede argumentar enérgicamente que las cosas no están del todo bien cuando su boleto de comida puede depender de su falta de voluntad para hacer olas apreciables, ¿verdad? ¿Estalló la frágil burbuja de servilismo genial desde adentro? ¿Por que lo harias? ¿Por qué incluso ir tan lejos como para admitir que hay uno? ¿Por qué, después de todo, discutirías con un hombre que está haciendo lo mejor que puede para darle a todos lo que quieren? ¿Por qué cuando él es quien firma su cheque de pago, él, el benevolente Edward Mooreian [5], despotrica a un tiro de piedra de tomar el control informativo del mundo? Tal proximidad debe sentirse increíblemente poderosa, ya sea que se base en la autoselección o no.
¿Por qué alguien pensaría alguna vez en jugar significativamente con un sistema que está tan cerca de ser perfecto, como se mide por su capacidad de captar la atención de las personas y hacer que sus proveedores ganen dinero?
¿Ya ves el peligro? El peligro de que surja una Superinteligencia que no solo podemos garantizar esencialmente surgirá de las ambiciones de una entidad increíblemente rica u otra, sino que también podemos medir con el criterio de lo que sabemos que puede suceder cuando algunas imperfectamente brillantes, terriblemente ¿Los individuos adinerados se suben a la sala de control y comienzan semi-contentos a accionar interruptores de un lado a otro? ¿De un dispositivo que puedan argumentar de manera sensata “le da a la gente lo que quiere”?
Si aún no lo ve, siga leyendo, pero todavía está recibiendo esa única advertencia.
Nuestras dicotomías inútiles han tenido que terminar por algún tiempo, y esto no podría ser más evidente que en los rituales simplistas de voto / me gusta / compartir que caracterizan a Facebook, la monstruosidad de las redes sociales que gobierna, sí, gobierna, la mayor parte de las interacciones de más de mil millones de personas diariamente en el planeta. Todos ellos se comportan de manera diferente a un gran rebaño de ovejas sin pastor, y Zuck cree egoístamente que está haciendo lo correcto para todos simplemente porque es un tipo relativamente inteligente, porque tiene buenas intenciones y porque les da a las personas una versión filtrada monetariamente de lo que quieren. . A quién le importa si todos corren en círculos cada vez más apretados, todos ganan, ¿verdad? Desafortunadamente, Mark, estás criando una horda de Sales de Veruca con tu enorme fábrica de chocolate [6], sin suficiente sal como para separar las nueces buenas de las malas, o incluso para creer que hay alguna diferencia.
¿Por qué he adoptado este enfoque para hablar de IA? Porque la mayor fuente de datos sobre lo que la gente quiere, nos guste o no (disculpe el juego de palabras), es Facebook. La forma más obvia de determinar en qué está interesada la gente no es otra que Facebook. Y si aún no tiene claro cuáles son las innumerables razones lógicamente ineludibles de por qué este es un problema grave, permítame decirle claramente a cuál me refiero y al que podría anular todo el resto:
Facebook es, en este momento, el mejor índice de casos de lo que podemos esperar que AI nos brinde más.
Después de todo, estamos bastante claros de que surgió de las maquinaciones de lo que algunas de nuestras mejores mentes podrían ofrecernos, dado dinero esencialmente ilimitado para trabajar en ello, ¿verdad? Es excelente para darnos lo que queremos ver y escuchar, la encarnación más magnífica del sesgo de confirmación que el mundo haya visto. Un Mjölnir moderno [7] sin toda esa molesta fuerza divina que el viejo requería para manejarlo. Lo que no quiere decir nada de la sabiduría correspondientemente impresionante necesaria, sabiduría que hasta la fecha solo existe en los cuentos de hadas y la mitología.
La IA representará el equivalente de este martillo, sin nadie competente para manejarlo.
Entonces, ¿será bueno para todos nosotros?
Dicho de esta manera: si lo tuviéramos hoy, fácilmente se podría argumentar que no sería más constructivo que Facebook. Por lo tanto, lamento contradicir la implicación que hizo el legendario Sr. Musk, al que se hace referencia al comienzo de este ensayo. Por el momento, esencialmente no hay ninguna posibilidad de que la IA sea ‘benigna’.
La razón por la que sabemos esto es porque:
1. La gente esencialmente no es consciente de lo que es bueno para ellos.
Al contrario de lo que pueda pensar, esto no es una tontería paternalista. Realmente no somos conscientes de lo que es bueno para nosotros. Hay muchas razones para esto, pero la principal es que simplemente no hemos definido uniformemente qué es bueno y qué no. Más especialmente, no como grupo, pero no mejor incluso como individuos. ¿De fumar? ¿Hacer deporte? ¿Religión? No sabemos qué es bueno para nosotros y ciertamente no sabemos qué es lo mejor para nosotros, particularmente porque este último está inexorablemente vinculado a un nivel de conciencia que no tenemos. Si apareciera la posibilidad de tal conciencia, ¿lo aceptaríamos como una regla general? Oh, sí, de repente realizamos mágicamente un 180 y escuchamos uniformemente cuando llegó el equivalente de un extraterrestre para decirnos qué deberíamos querer. Teniendo en cuenta que una fracción masiva de la población seguramente vería a un extraterrestre como una marioneta glorificada, perdóname si tengo dudas.
2. Nuestras definiciones de bien son fugaces; dependen completamente de condiciones efímeras.
No solo no entendemos lo que es bueno para nosotros en general, sino que como especie somos incapaces de descubrir cómo poner en perspectiva el valor del bien ahora versus el bien después. La sociedad está absolutamente llena de ejemplos de esto, y si no entendiste el juego de palabras, ¡la basura en sí es una de ellas! Con una consistencia abrumadora y creciente , caemos en la trampa de creer que siempre que siempre pensemos que lo que es bueno en este momento es lo que es bueno en general, las cosas serán siempre tan buenas como puedan ser. Esta mentalidad antiplanificación corresponde vagamente a la generalidad de que un pájaro en la mano vale dos en el monte, mientras que simultáneamente va en contra de la idea de que una onza de prevención vale una libra de cura. Desafortunadamente, está entretejido en el tejido de nuestra compra ahora, paga más tarde la cultura de la comida rápida y experimentamos continuamente las consecuencias a pesar de la ilusión irresistiblemente tentadora de que todas esas cosas, es decir, consecuencias, vendrán después. El valor de “ahora” aumenta perpetuamente, una apreciación del valor de “más adelante” cae de manera consistente y correspondiente. El cambio climático es un ejemplo clave de esto, y es quizás el primer ejemplo claro de una crisis existencial creada por el hombre (es decir, algo que podría terminar con la especie): ya tenemos soluciones, pero no tenemos la intención de usarlas porque La población que todavía creemos que ahora es más importante que más tarde.
3. Nuestras definiciones de bien son arbitrarias e individuales.
No solo el valor temporal del bien es indeterminado, sino que el valor espacial y el valor individual versus grupal también lo son. Peor aún, los filósofos equivocados como Ayn Rand [8] aparecen y esencialmente deciden que debido a que nadie puede resolver el acertijo particularmente bien, la mejor respuesta por defecto para transmitir y popularizar es la codicia [por ejemplo, “La virtud del egoísmo” Rand, 1964.] Se puede esperar que muchos acepten un concepto tan egoísta, y muchos lo hacen. Es peligrosamente fácil aceptar la idea de que la avaricia es buena y no asignar tiempo para pensar más; después de todo, pensar más podría servir para limitar el concepto, que no conduce a un abrazo sincero de la “virtud egoísta”. Casi no importa que un mínimo de pensamiento adicional pueda permitir a una persona llegar a la conclusión de que algo podría ser mejor . Una persona contenta con una noción por definición no sale a buscar nada mejor, y el egoísmo es inherente e instantáneamente satisfactorio.
Dichas definiciones se explican únicamente por la lógica circular general de la autoevidencia:
Es evidente que los buenos resultados para mí surgen del interés propio porque es solo al estar interesado en mí mismo que puedo determinar cuáles pueden ser los buenos resultados. Por lo tanto, debo decidir qué es lo mejor para mí independientemente de todos los demás y luego actuar en consecuencia.
Por supuesto, la codicia es una buena filosofía que abarca la cooperación cuando los suscriptores de ese rompecabezas mental creen que es bueno para ellos, pero esto no es diferente de los niños que cooperan cuando les parece conveniente. ¿Debería el mundo comportarse como un grupo de niños malvados? Las ideas de bien autodeterminadas y las ideas de bien determinadas en grupo pueden ocasionalmente combinarse; es solo que progresivamente menos probable a medida que aumenta la población considerada por el sustantivo “grupo”. La confusión es de ímpetu (es decir, lo que es bueno para mí) versus dirección (es decir, qué decisiones debo tomar en el contexto completo en el que me encuentro), y es un problema antiguo. Por estas razones, entre otras, debe quedar muy claro que la Superinteligencia difícilmente puede ser ‘benigna’ más de lo que lo son sus desarrolladores eventuales.
¡No se puede esperar uniformemente que haga el bien cuando ni siquiera hemos decidido remotamente qué significa la palabra bien!
No cuando “bueno” significa algo tan diferente para todos y para cada momento, lugar y situación diferentes. No cuando a menudo significa dos cosas que se contradicen directamente entre sí. No especialmente cuando ‘el bien mayor’ existe como un concepto únicamente como una forma de distinguir entre bienes individuales menores que no pueden y nunca serán subyugados voluntariamente, es decir, sin coacción, fuerza o artimañas. No al menos sin una mayor comprensión, un objetivo intemporal que está completamente descartado por el efecto Dunning-Kruger. [9]
La IA ni siquiera puede ganar basándose en el concepto de que las cosas serán mejores versus peores, porque hay cero posibilidades de que las cosas puedan describirse uniformemente como mejores o peores sin una encuesta de lo que todas las personas quieren (de una manera similarmente imposible) -para obtener una lista de cosas que todos consideran buenas) y un compromiso posterior. La existencia de desconfianza, por el contrario, la falta de uniformidad en la confianza, descarta la posibilidad de llegar a dicha lista.
No podemos confiar en que los desarrolladores sean éticos, ni podemos confiar en que los usuarios posteriores sean éticos. No podemos vigilar el desarrollo y no podemos imponer restricciones sobre el uso de IA después de que se haya desarrollado. Ni siquiera podemos tener un voto racional sobre lo que debemos hacer, porque la gran mayoría de las personas no tienen idea de las implicaciones de la tecnología, y no hay planes apreciables sobre lo que esperamos que haga la IA una vez que la tengamos. . En otras palabras, solo tenemos conjeturas y las promesas de los desarrolladores sobre las cuales evaluar si se debe seguir o no.
Básicamente, tenemos un niño adolescente que acaba de descubrir el alcohol y cómo conducir en la misma semana pidiendo permiso para usar el automóvil y sin decirle a nadie a dónde planea ir.
Con todos en el mundo en el asiento trasero. Con los ojos vendados.
No, ni siquiera está pidiendo permiso. Él dice que está tomando el auto y que usted, yo y todos los demás vamos a dar el paseo de nuestras vidas, nos guste o no. Pero seguramente no hay que preocuparse …
Entonces, ¿qué saldrá del sombrero AI?
1. No puede ser benigno. Preferentemente beneficioso no es benigno como Bob Cratchit podría explicar fácilmente.
2. Tenemos un índice razonablemente horrible de sus implicaciones en Facebook. Es un. improductivo, b. engorroso, y c. fácilmente manipulable / indirectamente bastante peligroso. Sus directores no están guiados por un conjunto apreciable de reglas, y esencialmente no hay consecuencias asociadas con malas acciones de ninguna manera.
3. No podemos evitar que se desarrolle, y no podemos predecir cuándo se desarrollará o quién lo hará.
4. Tenemos una historia histórica de lo que sucede cuando las especies invasoras se introducen en nuevos entornos. La versión corta? Nunca termina bien.
5. El público en general ya se ha acostumbrado a una dieta mediática que conduce a la sumisión y, como tal, no se puede esperar razonablemente que sus miembros sepan lo que es bueno para ellos, incluso en el mejor o más importante de los casos. La reciente elección presidencial de los Estados Unidos es un ejemplo de esto. Es un hecho que millones de personas votaron en contra de sus propios intereses después de ser cautivados por un vendedor de aceite de serpiente que sabía hablar duro.
6. Este chico no:
¿Entonces que deberíamos hacer?
Desde mi punto de vista, lo mejor que puedes hacer es hacer que sea una prioridad entender a dónde va la investigación de IA, qué tan rápido y por quién. Haga que sea prioritario mirar a los medios de comunicación y herramientas como Facebook como ‘dulces’ que deben tomarse con moderación. Lea buenos libros de autores de renombre (especialmente los muertos que, por definición, no tienen una agenda actual).
Ah, sí, y una última cosa: haz mucho ejercicio y agárrate a tus sombreros o prepárate para perseguirlos porque el viaje está a punto de ponerse muy rocoso.
Referencias
[1] especies invasoras: una especie invasora es una especie que no es nativa de un lugar específico (una especie introducida), y que tiene una tendencia a propagarse en un grado que se cree que causa daños al medio ambiente, la economía humana o la salud humana. El barrenador esmeralda del fresno, el mejillón cebra, el gorrión inglés y la lisimaquia púrpura son ejemplos.
[2] Sneetches: una criatura bípeda ficticia creada por el Dr. Seuss originalmente como una sátira sobre la discriminación. En la historia de Seuss, los Sneetches eran esencialmente idénticos entre sí, aparte de la diferencia superficial de una estrella en el vientre de algunos de ellos. La referencia aquí pretende indicar que, a pesar de las diferencias filosóficas, todos los que interactúan en Facebook (y las personas en general) son esencialmente los mismos. Si queremos discriminar entre las personas, la única forma remotamente racional de hacerlo es tratando de aceptar algunas ideas uniformes sobre lo que constituye lo correcto y lo incorrecto.
[3] Sam Harris: https://en.wikipedia.org/wiki/Sa… Sam Harris es un destacado filósofo y neurocientífico que habló en el simposio “Beneficiario AI 2017” en Asilomar, California, del 6 al 8 de enero de 2017 (https : //www.youtube.com/watch? v = …)
[4] Uso de Facebook en el New York Times: https://www.nytimes.com/2016/05/…
[5] Edward Moore: https://en.wikipedia.org/wiki/Ed… “rico más allá de los sueños de avaricia”, esta referencia pretende sugerir que Zuckerberg podría hacer teóricamente lo que desea con Facebook en este momento, el único Los límites prácticos son su aparente creencia de que ya es esencialmente un déspota benevolente. La contradicción es evidente en la promesa que él y su esposa hicieron de regalar prácticamente toda su riqueza: se parece mucho a una disculpa destinada a compensar cualquier mal que pueda haber surgido del dispositivo que preside.
[6] Sal de Veruca, Fábrica de Chocolate: http://roalddahl.wikia.com/wiki/… esta referencia compara a los usuarios de Facebook con el niño notoriamente malcriado de Dahl’s Charlie y la Fábrica de Chocolate. En la historia, Veruca es representada como una persona que obtiene lo que quiere al comportarse de una manera “ruidosa y petulante”. La intención aquí es indicar que dar a las personas lo que quieren simplemente porque lo exigen no es necesariamente sabio. Aquellos que respetan a Facebook como una entidad generadora de capital y aquellos que lo apoyan como usuarios tienen poca o ninguna razón para cuestionarlo por estos motivos: hace lo que esperan y quieren. La pregunta es: ¿ es bueno o no?
[7] Mjölnir: https://en.wikipedia.org/wiki/Mj… famoso, el martillo de Thor. Un martillo imbuido de un peso mágico que hace que sea imposible levantarlo para alguien “indigno del honor asgardiano”. Esencialmente, esto significa que nadie que no sea realmente “justo” puede levantarlo o empuñarlo.
[8] Ayn Rand: https://en.wikipedia.org/wiki/Ay… Famoso por dos novelas superventas y por fundar el objetivismo. “Ayn Rand (1905-1982) ayudó a convertir a los Estados Unidos en una de las naciones más indiferentes del mundo industrializado, una sociedad neodicensiana donde la atención médica es solo para aquellos que pueden pagarla, y donde los jóvenes son obligados a convertirse en grandes estudiantes”. -deuda de préstamos que no se pueden descargar en bancarrota ”. [Un psicólogo clínico explica cómo Ayn Rand sedujo a las mentes jóvenes y ayudó a convertir a los Estados Unidos en una nación egoísta]
[9] Efecto Dunning-Kruger: https://en.wikipedia.org/wiki/Du… El efecto Dunning-Kruger es la tendencia de las personas de baja aptitud a sobreestimar su aptitud y las personas de alta aptitud a subestimar su aptitud en relación con otros. En este contexto, la referencia pretende mostrar que incluso si tuviéramos alguna entidad Superinteligente, muchas personas aún serían incapaces de darse cuenta de lo poco que saben.
