¿Cuál fue el problema exacto en Facebook AI que llevó a su cierre?

Facebook lo cerró porque no fue muy útil para ellos después de que ocurrió el problema. Eso es.

No era nada lujoso. La IA no representaba una amenaza para la humanidad. No lo cerraron por miedo o la IA comenzó a controlar sus computadoras, etc. Nada de eso.

Entonces, ¿cuál era el problema en realidad?

El sistema de inteligencia artificial fue desarrollado para trabajar y conversar en inglés, pero, como sabemos, el inglés es un idioma muy complejo con toneladas de reglas gramaticales y demás. Desde la perspectiva de una computadora, es muy ineficiente debido a que desarrolló su propio lenguaje eficiente (desde la perspectiva de una computadora), una versión muy tonta del inglés para conversar y trabajar.

Por ejemplo, consideremos esta oración: “Después de hacer ejercicio por la mañana, me siento muy bien”. AI bot lo cambió a algo así como “hago ejercicio, estoy bien”. (Es un ejemplo hipotético).

Se puede pensar en algo como una escritura abreviada que muchos periodistas usan para tomar notas. Si una persona normal no entrenada en escritura de taquigrafía lo leyera, no tendría sentido para él. Eso es lo que sucedió en el caso de AI.

Como AI perdió su propósito ya que el idioma que comenzó a usar no era el inglés adecuado, se cerró.

Supongo que LANGUAGE no es la palabra correcta para usar en el caso de AI, ya que la mayoría de las personas relacionan LANGUAGE con algo muy complejo lleno de reglas gramaticales que solo los humanos con un poder cerebral y una conciencia superiores pueden desarrollar y, por lo tanto, muchas personas están malentendiendo y pensando como si Facebook La IA era una amenaza. No era.

No hay nada de qué preocuparse. La mayoría de los titulares son engañosos (por ejemplo, Facebook cierra el sistema de inteligencia artificial después de que los bots crean su propio idioma ).

El caso es simple.

Considere un modelo de reconocimiento de imagen que identifique imágenes de ‘gato’. Inicialmente tenemos que entrenar al modelo con muchas imágenes de ‘gato’ (necesitamos miles de imágenes). Cuanto más entrenes al modelo, mejor.

En el caso de los bots de chat, aprende chateando con humanos reales. Requiere muchas rondas de entrenamiento. Pero no es factible dar una cantidad tan grande de entrenamiento humano debido a las limitaciones de los humanos.

Entonces, lo que hicieron fue crear 2 instancias de bots de chat. Ahora los bots de chat se dejaban interactuar y aprender unos de otros.

Este fue el problema. El modelo no estaba aprendiendo de los humanos. Estaba aprendiendo de otro bot de chat imperfecto. Se desviaron del lenguaje humano comprensible y no hubo interacción humana.

Imagine que las imágenes de entrenamiento para el identificador de ‘gato’ contienen accidentalmente algunas imágenes de ‘perros’ y el modelo identifica erróneamente una imagen de perro como ‘gato’. ¡El modelo acaba de descubrir una nueva raza de gatos!

Al igual que los bots de Facebook inventaron un nuevo lenguaje …

Los investigadores de Facebook tuvieron que detener un programa de IA en progreso “porque las cosas se salieron de control”, según un informe publicado en Hindustan Times. [1]

La razón indicada es bastante alucinante en primera instancia, pero también un poco aterradora. La IA desarrolló su propio maldito lenguaje.

Los ‘chatbots’ fueron en contra de lo que se les enseñó y crearon palabras de código totalmente nuevas por su cuenta, sin la ayuda de los humanos, para hacer que la comunicación sea más eficiente. Los agentes de IA sintieron peligro cuando no tenían idea de lo que se decía.

Los robots emitían galimatías. Pero no fue sin sentido. La semántica pensó que los códigos tenían sentido. De hecho, los investigadores se dieron cuenta de que sus robots son “negociadores increíblemente astutos”.

“Después de aprender a negociar, los bots confiaron en el aprendizaje automático y las estrategias avanzadas en un intento de mejorar el resultado de estas negociaciones. Con el tiempo, se volvieron bastante hábiles e incluso comenzaron a fingir interés en un artículo para ‘sacrificarlo’ en una etapa posterior de la negociación como un falso compromiso ”.

Un informe completo sobre dicho tema se puede leer aquí en el siguiente enlace.

Notas al pie

[1] Facebook cierra el sistema de IA después de que los bots hablan su propio idioma, desafían las instrucciones humanas

Facebook cerró un motor de inteligencia artificial después de que los desarrolladores descubrieron que la IA había creado su propio lenguaje único que los humanos no pueden entender. Investigadores del Laboratorio de Investigación de AI de Facebook (FAIR) descubrieron que los chatbots se habían desviado del guión y se comunicaban en un nuevo lenguaje desarrollado sin intervención humana. Es tan preocupante como sorprendente: al mismo tiempo, se vislumbra el asombroso y horrible potencial de la IA.