El éxito se mide de diferentes maneras. También hay una cultura de Internet diferente en China que en el resto del mundo con un Internet abierto, y es poco probable que su idea de “probar” una IA sea tan robusta y grosera como lo sería en otros lugares.
Diría que ambos tuvieron éxito, pero Tay tuvo más éxito al destacar la susceptibilidad de los robots a la corrupción. Si tomas a un niño y le enseñas a vomitar odio, eso es lo que harían, porque no saben nada mejor. Incluso si le enseñas bien a un niño, puede corromperse de manera imprevista.
En mi opinión, creo que el equipo trabajó duro para abordar los filtros y el lenguaje grosero, pero no anticiparon un ataque coordinado para “entrenar” maliciosamente al bot para que tuviera una perspectiva odiosa. Es necesario que haya “resistencia” a esto, pero no puede tener una IA que ignore la historia o los temas difíciles. Hay una gran diferencia entre filtrar todas las conversaciones sobre un dictador en particular y permitir que un bot participe en la conversación desde una perspectiva informada.
- ¿Debo dejar de preocuparme por el futuro de la IA y la robótica, la adquisición y el reemplazo de trabajos?
- ¿Es la IA un objetivo o una herramienta potencial para la automatización?
- ¿Leer e interpretar los contenidos del cerebro humano es potencialmente un problema de NP?
- ¿Podría una "verdadera IA" creer en el alma? No si lo haría, pero ¿podría? (Un humano puede o no creer, pero un humano claramente puede creer).
- ¿Se podría desarrollar la inteligencia artificial en procesos similares a la selección natural y la evolución? ¿Sería más un problema o un beneficio? ¿Qué precauciones podrían tomarse para prevenir el desastre de una IA en evolución?
Esa es la pregunta clave. ¿Cómo permite que una IA desarrolle una perspectiva socialmente aceptable sobre temas difíciles, a través de Internet, sin permitir que un solo individuo o grupo realice lo que equivale a un ataque de “opinión DOS” para superar a todas las demás opiniones?
Volviendo a la pregunta original, creo que Tay habría tenido el mismo éxito sin este tipo de ataque, y que Xiaoice habría sido tan susceptible a este tipo de ataque si se hubiera intentado.
