No entiendo por qué las personas en los canales de noticias exageran cada historia solo para obtener más visitas o para aumentar sus ventas. Básicamente, se supone que los canales de noticias informan los eventos reales en el mundo y no publican algunas historias de ciencia ficción para asustar a la gente.
Cuando comenzó el fiasco de Elon Musk vs Mark Zuckerberg (Por qué Zuckerberg y Musk están peleando por el futuro del robot) los canales de noticias esperaban algunas noticias importantes sobre IA y, desafortunadamente, esto sucedió.
Si quiere saber realmente qué sucedió, lea esta respuesta La respuesta de Sriraman Madhavan a ¿Qué es este alboroto acerca de que los robots de AI de Facebook se hablan en un lenguaje codificado?
- ¿Es posible que la humanidad decida no construir IA?
- Cómo enseñarme IA
- ¿Cuál es la mejor manera de aprender algoritmos de inteligencia artificial para un principiante?
- ¿Cuáles son las cosas que uno debe tener un buen conocimiento antes de trabajar con inteligencia artificial?
- En el futuro, ¿la IA probablemente pertenezca a una pequeña élite, lo que hará innecesario al resto de la humanidad y los obligará a luchar por la supervivencia?
¿QUÉ? Los medios de comunicación analizaron este incidente e inmediatamente crearon un montón de titulares de clickbait y Skynet . Es casi como si quisieran que la gente haga clic en él. Hmmm, creo que podría estar en algo. 😛
No estoy afiliado con el grupo FAIR (Facebook AI Research) que creó esos bots, pero en base a sus publicaciones de blog y algunos artículos de noticias sensibles sobre esto, esto es lo que sucedió:
Tarea de alto nivel : entrenar robots de IA para negociar.
Tarea de bajo nivel : se muestran dos bots con la misma colección de artículos (por ejemplo, 3 barcos, 4 autos y 5 camiones). Los bots deben negociar entre ellos para decidir una división de esos elementos.
Experimento : Cada bot recibe un valor para cada uno de esos elementos. (Por ejemplo, un automóvil puede valer 3 puntos para Bot 1, pero 5 puntos para Bot 2 y así sucesivamente). Ninguno de los bot conoce los valores dados al otro bot. Los bots deben inferir del diálogo, los valores dados al otro bot. (es decir, usted dice que desea que el barco => deba ser de gran valor para usted). Y cada bot intenta negociar para maximizar el número de puntos que gana.
Restricciones : alejarse de la negociación da como resultado cero puntos para ambos bots. Y no aceptar un acuerdo después de 10 rondas de diálogo también resulta en cero puntos para ambos. Por lo tanto, es necesaria una negociación rápida.
Algo extra : dado que la negociación también es un proceso verbal, FAIR desarrolló una técnica novedosa en la que cada bot simula una conversación futura, de modo que se puede elegir un enunciado con la recompensa futura máxima esperada ( puntaje en la imagen a continuación). Esta imagen de la publicación del blog de FAIR lo explica bien:
El levantamiento de “Skynet” : Según este artículo de noticias, después de configurar el experimento, los programadores se dieron cuenta de que habían cometido un error al no incentivar a los chatbots a comunicarse de acuerdo con las reglas del idioma inglés. Y es por eso que los bots “inventaron” un lenguaje donde, por ejemplo, decir “el” tres veces puede significar ” Quiero 3 camiones “. Y cerraron la conversación porque su intención era construir chatbots que pudieran hablar con la gente.
Sí es cierto. Los dos robots no estaban planeando tomar el control del mundo, estaban discutiendo cómo dividir una serie de elementos dados (3 barcos, 4 autos y 5 camiones) en una división mutuamente aceptable.
Anticlimactico, ¿eh?
Y si espera que la inteligencia artificial se vuelva consciente de sí misma y decida garantizar su propia supervivencia destruyendo a toda la humanidad, primero con bombas y luego con robots asesinos, no estamos viviendo en el universo Terminator . Al menos a partir de ahora
Para todas estas personas que tienen miedo, hay pocas buenas respuestas que le darán tranquilidad.
- La respuesta de Travis Addair a ¿Tiene razón Elon Musk sobre la amenaza de la IA y Mark Zuckerberg está fuera de su alcance en este tema?
- La respuesta de Sriraman Madhavan a ¿Tiene razón Elon Musk sobre la amenaza de la IA y Mark Zuckerberg está fuera de su alcance en este tema?
- La respuesta de Sriraman Madhavan a ¿Debería incluso estudiar, ya que la IA podría reemplazarme de todos modos?
- La respuesta de Chamath Palihapitiya a ¿Es la IA una amenaza existencial para la humanidad?
- La respuesta de Andrew Ng a ¿Es la IA una amenaza existencial para la humanidad?
Todas estas personas trabajan en Inteligencia Artificial y algunas de ellas son expertas en el campo. Puedes confiar en ellos.
Algún día en el camino, la mayoría de la población podría perder sus trabajos por la IA, pero no llegará pronto. Al ver los niveles de contaminación y los problemas políticos, la mayoría de nosotros tendría suerte de durar hasta los 90. Deseo que las personas pasen más tiempo investigando para mejorar a la humanidad en lugar de automatizar todo
Finalmente
