Proyecto analiza fake news y discursos de odio en internet

Iniciativa busca comprender el funcionamiento de los discursos de odio producidos y puestos en circulación en las redes sociales en Chile a partir de las tendencias informativas más relevantes entre 2015 y 2023.

A juicio del director de este proyecto, el investigador UACh Dr. Luis Cárcamo Ulloa, para abordar este fenómeno es fundamental la educación ciudadana, ya que no se puede resolver con simple censura.

“Quizás el hito mundial más potente de fake news y discursos de odio fue la elección en Estados Unidos, pero es algo extendido en cualquier espacio ciudadano o país del mundo en los que se están dando estas dinámicas de polarización”, explica el investigador del Instituto de Comunicación Social y Prodecano de la Facultad de Filosofía y Humanidades de la Universidad Austral de Chile, Dr. Luis Cárcamo, quien es alumni y periodista formado en la UACh.

El Dr. Cárcamo lidera un proyecto Fondecyt que busca comprender el funcionamiento cross-plataforma de los discursos de odio producidos y puestos en circulación en las redes sociales en Chile a partir de las tendencias informativas más relevantes entre 2015 y 2023.

Según explica, discurso de odio es un viejo concepto. “La clasificación más básica dice relación con discursos de odio contra migrantes, contra clases sociales, hace algún tiempo se hablaba de la aporofobia -contra las personas más pobres-, contra las religiones, contra las etnias y contra las diversidades. Esa clasificación es clásica y aunque los canales y los modos digitales sean relativamente nuevos, los contenidos y sentido de fondo de los discursos de odio son viejos conocidos en la sociedad”.

En ese contexto, el proyecto se ha propuesto identificar las cuentas de origen y diseminación que hacen posible tanto la producción como la circulación cross-plataforma de los tipos de discursos de odio y sus comentarios en las redes sociales. Además de analizar cualitativamente las estrategias lingüísticas y semióticas -lo que se relaciona con signos y comunicación de significado- usadas sistemáticamente.

Una de las preocupaciones de este proyecto se relaciona con los perjuicios causados por los discursos de odio que se distribuyen de manera desigual en la población en general, siendo los grupos minoritarios los más afectados. De acuerdo a los autores Gelber & McNamara (2016), se trata de perjuicios acumulativos para quienes los sufren, y el hecho de haber experimentado anteriormente el discurso de odio se considera una variable clave para estimar el daño derivado de ser objeto de esta clase de discurso.

Infraestructura informática robusta

Esta propuesta contiene varios elementos que la hacen novedosa en términos científico-tecnológicos. En primer lugar, compila esfuerzos de programación para generar una infraestructura informática robusta, la cual permitirá: 1) consultar el ecosistema filtrado de redes sociales de medios chilenos (trabajo adelantado por los investigadores Luis Cárcamo Ulloa, en base a los proyectos Fondecyt 1150545 y Pluralismo 210013, y Matthieu Vernier, en base al proyecto Fondecyt de Iniciación 11190714), y 2) y aplicar un modelo de trazabilidad desde hacia y entre redes sociales (trabajo adelantado por el investigador de cooperación internacional Diego Sáez-Trumper). “Particularmente hemos trabajado casi 10 años afinando nuestros modelos de extracción de datos desde prensa y redes sociales y nos interesa por sobre todo aportar en un plano interdisciplinar que se conoce como ciencias sociales computacionales”, señala el Dr. Matthieu Vernier del Instituto de Informática de la UACh, Facultad de Ciencias de la Ingeniería.

En segundo lugar, el proyecto avanza en la investigación de los discursos de odio en dos sentidos. Por una parte, implementa un marco de trabajo cross-plataforma, que ayudará a dilucidar los procesos de producción y circulación de posteos y comentarios que fomentan distintos tipos de odio (político, racial o étnico y de género), reconstruyendo sus fuentes de origen y nodos diseminadores, así como las interacciones entre cuentas y usuarios/as que participan de estos procesos, considerando un rango de tiempo amplio que incluye hitos sociopolíticos relevantes para estudiar la emergencia y proliferación de esta clase de discursos.

Por otra parte, desde el lado cualitativo “propone un modelo para analizar los géneros digitales, los diseños multimodales y las estrategias de polarización ideológica que caracterizan los tipos de discursos de odio online, lo cual facilitará el reconocimiento tanto de patrones léxicos, semánticos, pragmáticos y cognitivos en un corpus representativo de posteos virales y sus respectivos comentarios, como de los usos sistemáticos que reciben los recursos lingüísticos y semióticos elegidos para construir significados de odio”, señala Camila Cárdenas, alumni y profesora formada en la UACh que es parte del Instituto de Comunicación Social, Facultad de Filosofía y Humanidades.

En tercer lugar, el proyecto asume la necesidad de traducir los resultados obtenidos a herramientas educomunicativas recogidas en un kit de recursos digitales, el cual favorezca la detección de discursos de odio en redes sociales y promueva recomendaciones para posicionarse críticamente y proyectar acciones individuales y colectivas que los confronten o neutralicen. Además, el equipo cree que a partir de esta base pueden delinearse otras iniciativas de investigación aplicada que, por ejemplo, incentiven el desarrollo de procesos gamificados -técnica de aprendizaje que traslada la mecánica de los juegos al ámbito educativo y profesional- conducentes a la identificación y la toma de decisiones para contrarrestar la proliferación e influencia de los discursos de odio en línea.

Equipo interdisciplinario

El Dr. Luis Cárcamo explica que armaron un equipo interdisciplinario que incluye ingeniería y humanidades. “Desde hace muchos años trabajo con colegas de informática y en este proyecto han sido un puntal muy valioso los colegas Mathieu Vernier y Cristian Olivares, de Ingeniería en Informática, y particularmente en Humanidades mi compañera Camila Cárdenas, que es colega del Instituto y lingüista de origen. Entonces, el proyecto es una mixtura que tiene minería de datos para descargar muchos posteos y luego ciertos análisis automatizados que se hacen con programación de lenguaje natural, y en eso los informáticos son los que me enseñan”, comenta. También integran el equipo Eduardo Graells del Departamento de Ciencias de la Computación de la Universidad de Chile y Carolina Perez del Departamento de Educación de la Universidad de O’Higgins.

La investigadora Camila Cárdenas hace un análisis más cualitativo acerca de ciertos casos ejemplares que pueden resultar útiles para comprender las variaciones en los géneros multimodales y  el procesamiento sociocognitivo de este tipo de mensajes. El proyecto es bien ambicioso, asegura el Dr. Cárcamo, “porque intenta llegar hasta dar la vuelta completa del problema. Como son cuatro años, luego de entender bien el fenómeno, deberíamos ser capaces de elaborar propuestas edu-comunicativas”.

Esto no se puede resolver con censura, ya que es imposible saber de dónde va a salir el odio o cómo controlar su viralización. Las grandes plataformas de redes sociales no van a actuar censurando, y aun cuando han instalado mecanismos de denuncia comunitaria para contenidos, no son suficientes, ni son automáticos. “Lo lógico es pensar que la solución final es que el ciudadano esté mejor preparado para enfrentar críticamente los discursos de odio. Que los niños y niñas, incluso los adultos y adultos mayores, detecten cuando están ante un discurso de odio. Por lo tanto, el camino final siempre termina siendo la educación ciudadana”, plantea el Dr. Cárcamo.

Propuestas edu-comunicativas

Para el Dr. Luis Cárcamo, “es necesario avanzar hacia las propuestas edu-comunicativas. Los colegios hacen su mejor esfuerzo pero muchas veces me he entrevistado, he conversado con profesores y me dicen sí, que quisieran hablar de eso, pero no tienen herramientas. Y claro, eso es fundamental, ofrecer oportunidades de reflexionar, de desarrollar pensamiento crítico en torno a estas problemáticas que, en definitiva, pueden producir efectos bien graves, pueden alterar el camino de las sociedades y terminar orientando elecciones o produciendo situaciones bastante negativas”.

En su opinión, “lo que puede hacer un mecanismo edu-comunicativo es alertar críticamente. El ser humano aprende tan rápido que, sin darse cuenta, sabe de lenguaje audiovisual porque ha visto muchas películas y en experimentos está comprobado que los chicos aprenden a ver en pantalla lo que quieren ver, y lo que les estorba es obviado perceptualmente. Sin embargo, ninguna sociedad ni país puede sentirse tranquila porque, en realidad, puede ser sorprendida por un fenómeno revulsivo de desinformación y odio, produciendo efectos sobre alguna elección o alguna situación particular de discriminación colectiva. Ahora bien, yo confío en el ser humano y en su plasticidad para aprender, pero hay que ayudar, generando investigación y ofreciendo herramientas de innovación social”, finaliza el académico.