Herramientas de inteligencia artificial en la lucha contra la violencia de género digital : un estudio con enfoque en el español rioplatense
Date
2024-01
Authors
Luvini, Paula Sabrina
relationships.isContributorOfPublication
Pérez, Juan Manuel
Journal Title
Journal ISSN
Volume Title
Publisher
Universidad de San Andrés. Departamento de Matemática y Ciencias
Abstract
El abuso y la violencia digital puede describirse como aquel discurso que ejerce violencia
y acoso a través de redes sociales como WhatsApp, Facebook, Twitter, entre otras plataformas.
Desde la proliferación de estas plataformas digitales, este tipo de discurso ha tomado gran
relevancia en redes sociales, dando lugar a formas específicas de acoso digital y haciendo la
definición de abuso en línea compleja. En este sentido, diversos estados y organizaciones de la
sociedad civil han estudiado el tema y tomado acciones para moderar el contenido abusivo en
línea, además de las acciones propias que las empresas pueden tomar. También se implementaron
protocolos en caso de ser víctima de violencia digital.
Varios estudios internacionales y locales revelan que las mujeres y otras identidades feminizadas
sufren altos índices de acoso virtual. Esto tiene varias consecuencias, como un impacto
negativo en la salud mental de las víctimas o en la participación política de las mujeres, evidenciado
por testimonios que muestran cómo recibir amenazas e insultos en línea puede condicionar
su vida política.
Los estudios que analizan la violencia digital hacia las mujeres suelen emplear encuestas o
entrevistas para comprender la profundidad del impacto en las víctimas. Sin embargo, estas
metodologías pueden limitar la visión general. Por este motivo, en esta tesis queremos abordar
esta limitación introduciendo un modelo que puede detectar diversos tipos de sentimiento en
los tweets que mujeres que están inmersas en la política y el ámbito público pueden sufrir. Para
ello, utilizamos un dataset que fue construido para un proyecto solicitado por PNUD Uruguay,
el Instituto Nacional de las Mujeres del gobierno de Uruguay y la Embajada Británica de Montevideo.
El dataset fue construido en un proceso de anotación con dos grupos de anotadores
uruguayos que debían clasificar varias cosas de cada tweet recibido, entre ellas si los tweets eran
dirigidos o no y si se trataban de tweets abusivos, críticos, neutrales, positivos o de contra-abuso.
Se anotaron 9.000 tweets en total, seleccionados aleatoriamente y mediante active learning para
optimizar la eficiencia del modelo.
A partir de la construcción de este dataset se evaluó el agreement entre anotadores y la
calidad del mismo encontrando resultados alentadores. Luego se realizó un benchmarking con
los principales transformers pre entrenados de lenguaje (Bert, Roberta, Robertuito, Electra y
Bertin) y se comparó el desempeño de cada uno. El modelo que mostraba mejores resultados
en el dataset de validación fue Robertuito, con el que se evaluó el modelo final y se realizó
un análisis de resultados y de error detallado para evaluar próximos pasos a seguir en futuros
trabajos.
Description
Fil: Luvini, Paula Sabrina. Universidad de San Andrés. Departamento de Matemática y Ciencias; Argentina.