Facebook y Google cerraron los bots de chat de IA porque crearon su propio idioma. ¿Qué piensa usted de esto?

Algunas cosas se pierden en la traducción. Sospecho que ‘creó su propio idioma’ es uno de estos.

Por ejemplo, un programa que escupe oraciones puede comenzar a decir ‘sandwich’ en lugar de ‘codo’. ¿Eso lo convierte en su propio idioma? ¿Qué pasaría si eliminara las vocales al azar: ‘sndwich’ o las confundiera ‘soundwich’? ¿Es ese su propio idioma? ¿O si prefiere hablar en tiempo presente en estricto orden VSO? “Patea a Yoda Vader”.

Ahora suponga que tiene bots de chat que se supone que responden a las cosas que la gente les dice. Tal vez prestan especial atención a cosas que son muy comunes y cosas que son muy inusuales. La sintaxis mala pero consistente de alguien es interesante. Es fácil ver cómo los chatbots podrían terminar hablando galimatías entre ellos.

Esto es lo que pienso de los chatbots que se están cerrando:

No funcionaron como se esperaba y son susceptibles de enfatizar ciertas clases de errores. A medida que se mueven de la versión X a la versión X + 1 de los algoritmos que usan, intentarán que los bots de chat eviten responder tonterías con tonterías. Y tal vez esperarán hasta que tengan un objetivo comercial o de investigación que reunirá nuevamente a los chatbots.

Ya se ha explicado millones de veces que no estaban “cerrando” nada. Estaban haciendo un experimento científico que resultó en que los investigadores tenían dificultades para comprender qué estaban haciendo los programas de computadora (como en muchos millones de otros experimentos de IA), por lo que detuvieron los programas y luego cambiaron la configuración para que el estudio les interesara (real lenguaje natural ya que parece que estos programas estaban destinados a interactuar con humanos reales). Si hubieran querido estudiar el lenguaje que desarrollaron los programas, habrían seguido permitiendo que el programa se ejecute (o incluso lo detuvieron y volvieron a ejecutarlo para ver qué otra cosa se desarrolló) y luego los investigadores lo habrían analizado. . Como eso no era lo que querían estudiar, cambiaron las cosas tal como sucede todos los días en cada laboratorio que investiga.

No es nada nuevo realmente, honestamente, ni siquiera sé quién los estaba acosando lo suficiente como para darse cuenta de que desactivaron un programa. Conozco a muchos investigadores de CS que lo hacen todo el tiempo y no me critican los medios todos los días.

Que incluso los investigadores en Facebook pueden fallar en sus experimentos. Y que fracasar es algo bueno.

El experimento de Facebook fue enseñar a dos bots a negociar transacciones simples. Simplemente no implementaron limitaciones en los bots para usar construcciones de idiomas del inglés regular.

Los bots no inventaron palabras diferentes, sino solo un uso diferente de las palabras. Por ejemplo, han usado “punto punto” en lugar de “dos puntos”

No Skynet hoy, disculpe las molestias causadas.

Creo que hicieron lo correcto.

Si la IA desarrollara su propio lenguaje, mejor sería algo que entendemos, para que al menos podamos saber de qué demonios están hablando.

Los investigadores no quieren estar fuera del circuito. Les gustaría saber qué está pasando. Indicado simplemente.

More Interesting

¿Todos los robots tienen IA?

Con un buen traductor automático, ¿debería lograrse el equilibrio mediante la primera ronda de inversión?

¿Qué puedo hacer para obtener ideas en el área de inteligencia artificial para una tesis doctoral?

¿Los ingenieros de TI están calificados para trabajar en campos como la robótica y la inteligencia artificial?

¿Qué no admite OpenAI conceptos como TINU (https://tinu.live)?

¿Qué porcentaje de tiempo pasa un analista de datos en diferentes tareas (recopilar datos, limpiar datos, analizar datos, etc.)?

Cómo crear una red neuronal con PyBrain que tenga un número diferente de valores de salida objetivo para cada entrada

¿Cuáles son los pros y los contras del uso de redes adversas generativas (un tipo de red neuronal)? ¿Se podrían aplicar a cosas como la forma de onda de audio a través de RNN? ¿Por qué o por qué no?

¿Cuáles son las posibilidades de que profesiones como abogados y médicos sean reemplazadas por IA para 2067?

¿Cómo se desarrolló la IA para AOE2?

¿Puedes hacer una IA en solo 10 líneas de código?

Cómo aprender prácticamente las redes neuronales mientras se obtiene una comprensión profunda

¿Por qué la IA no funciona bien con las estrategias de negociación del mercado financiero?

¿La IA es vulnerable a los hackers? En caso afirmativo, ¿será a prueba de piratas informáticos?

¿Cuándo deben usarse las redes neuronales y cuándo deben usarse los algoritmos genéticos? Cuáles son las diferencias entre ellos?