¿Cómo puede la tecnología combatir la desinformación?

Lamentablemente, solo parece estar exacerbando el problema. No busque más allá del resurgimiento de aflicciones casi extintas. Mire a las tierras planas, los negadores del holocausto, los negadores del alunizaje. En este sentido, la tecnología hace mucho más daño que bien; en internet la gente encuentra comunas pequeñas (o grandes) de personas con ideas afines.

Esto es genial si los individuos son inteligentes en el campo que están discutiendo, pero aborrecen cuando los analfabetos históricos y los analfabetos científicos se encuentran por igual.

Por ejemplo, ser científico no califica para decir tonterías sobre Galileo y la iglesia (tesis de conflicto / teoría de Drapeado-Blanco). Del otro lado de la moneda, ser historiador no califica para dar una conferencia sobre los peligros de la energía nuclear.

Estoy de acuerdo con algunas de las otras personas que publican que, hasta ahora, la tecnología es una herramienta que a menudo se usa de manera más efectiva para engañar que para informar. Tenemos servicios como Snopes que hacen un buen trabajo al desacreditar historias falsas, pero la gente no las usa agresivamente y, como resultado, a menudo difunden historias como verdades que no son nada. En el corazón de esto hay dos fallas humanas detalladas en Teoría argumentativa y sesgo de confirmación. El primero es una necesidad innata de ganar argumentos vinculados al estado independientemente de la verdad (y no parecer débil e incorrecto) y el segundo es una falta de voluntad para mirar información que no está de acuerdo con nuestra visión del mundo y creer de hecho todo lo que esté de acuerdo con ella. .

No se puede arreglar esto con información porque la evitaremos y la tecnología, siendo realmente buenos para difundir cualquier cosa, verdadera o falsa, que alimenta cualquier lado de un argumento ha estado explotando estas debilidades hasta la fecha. Para solucionar esto, necesitaría algún tipo de motor de monitoreo de IA que lo alertaría sobre su propio mal comportamiento y le advertiría que la posición que estaba leyendo o considerando tomar no era la que respaldaba los hechos. Tendría que ser un sistema que no podría manipular usted mismo o probablemente impresionaría sus prejuicios y, con el tiempo, en lugar de corregir los errores, se los aseguraría.

Esto va al corazón de las preocupaciones con AI y lo que acabamos de ver con el experimento de bot de Microsoft en Twitter, que haríamos que una IA benigna sea hostil a través de nuestras propias acciones.

Por lo tanto, el camino sería crear una IA benigna e independiente basada solo en hechos confiables que se integrarían en nuestro proceso de decisión personal y efectivamente nos impidieran tomar posiciones no respaldadas (de hecho). Tal cosa probablemente terminaría el proceso político tal como lo conocemos y, su creación, sería increíblemente difícil, ya que representaría una gran amenaza para aquellos en el poder en cualquier lugar y porque evitar que se corrompa sería extremadamente difícil. Pero no imposible.