Tiene que ser la proliferación de contenido peligroso. Para bien o para mal, muchas redes sociales y comunidades en línea se basan en el concepto de anonimato total: la separación de nuestras identidades fuera de línea responsables (social, ética y legalmente) de nuestras (muy a menudo hedonistas, basadas en id y altamente fabricadas ) identidades en línea.
La gente siempre se ha portado mal. Eso no es pesimismo o fatalismo; es solo la verdad. No somos perfectos; a menudo somos buenos, pero con la misma frecuencia satisfacemos nuestros deseos más oscuros, incluso si lastiman a otras personas.
Y así, con la llegada de un espacio virtual donde la rendición de cuentas es a menudo inexistente, las partes más oscuras del mundo real (acoso, amenazas de violación, abuso infantil) se trasladaron a Internet. En el “mundo real” (un concepto cada vez más amorfo, pero que es un tema para otro día), generalmente somos responsables de nuestro comportamiento, mientras que en línea somos responsables solo de nosotros mismos. Y a veces, no se nos puede confiar.
Facebook Live es un ejemplo reciente. Cuando se usa para compartir, participar, conectarse y contar historias, es una herramienta hermosa. Es la desinhibición benigna en línea en su mejor momento. Pero cuando se usa para transmitir en vivo asesinatos y agresiones sexuales, eso es una desinhibición tóxica en línea en el peor de los casos. Y en el caso de esa agresión sexual, al menos 40 personas vieron cómo sucedía en tiempo real, y ninguno de ellos lo denunció.
¿Cómo pasó esto?
Comenzó con el ciberacoso. Asociamos el acoso escolar con el patio de recreo, y dado que aquellos de nosotros que establecemos las reglas, los adultos, estamos muy lejos del patio de recreo, olvidamos cuánto puede dañar el acoso escolar. Entonces, desde el principio, las redes sociales han permitido que florezca el bullying. La intimidación se convirtió en acoso, que se convirtió en amenazas, que se convirtió en discurso de odio, y así sucesivamente. Hemos tolerado y normalizado el mal comportamiento durante tanto tiempo que está integrado en el marco de Internet. No sorprende que 40 personas vieron un video en vivo de una niña de 15 años siendo agredida, y no hicieron nada. No es difícil rastrear una línea directa desde las amenazas de violación sin consecuencias hasta la violación real y en vivo.
Cuando las redes sociales operan sin una red de seguridad, todos se lastiman.
Lo bueno es que cada vez más sitios se están dando cuenta de que tienen una obligación social, ética y (potencialmente) legal de moderar el contenido. No será fácil, como Facebook ha descubierto, la transmisión de videos en vivo es un gran desafío para los moderadores, pero es necesario. Existen productos, como Community Sift, que están diseñados específicamente para detectar y eliminar contenido de alto riesgo en tiempo real.
En 2017, tenemos la oportunidad de remodelar Internet. La conversación ya ha comenzado. Con suerte, lo haremos bien esta vez.
