Quizás uno de los problemas más delicados de la vida en línea (sin tener en cuenta las prácticas de recolección de datos y posterior venta de esa información) es el acoso que sufren algunos usuarios durante el uso puntualmente del correo electrónico y luego de las redes sociales. Si bien esta problemática no ocupa la cartelera de los medios de comunicación, la omnipresencia de este problema en el e-mail y las plataformas más populares es un problema serio.
En un contexto de críticas hacia Twitter por la forma en la que gerencia el acoso, el algoritmo de tendencias de Youtube que fomenta la viralización de contenidos ofensivos y las reiteradas denuncias de usuarios de Instagram, el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (por las iniciales de su nombre en inglés, Massachusetts Institute of Technology) informó sobre el desarrollo de una herramienta nueva que podría ayudar a combatir este flagelo. A grandes rasgos, esta herramienta llamada “Squadbox” plantea la posibilidad de, en lugar de dejar todo en mano de los moderadores, generar más y más confianza en un círculo personal, es decir, en sus propios amigos. Es una herramienta que permite el “reclutamiento” de amigos por parte de una persona que haya sido objeto de acoso y de esta manera coordinar “escuadrones que harán las veces de filtro y de apoyo en caso de ataques de acoso y maltrato digital por correo electrónico en una primera etapa.
Squadbox.org
Los investigadores del MIT realizaron entrevistas a científicos, activistas y personalidades de Youtube y encontraron que muchas personas que son acosadas con comentarios violentos, racistas y sexistas por vía digital dependen de amigos y familiares para resguardar su integridad durante esos ataques. Según los investigadores, esto se debe a que el entorno cercano del acosado suele entender el problema pues conocen el contexto que genera el ataque.
Según los científicos, un algoritmo automatizado o un moderador humano podría no reparar en una palabra o una expresión puntual que un amigo o familiar puede interpretar por el contexto y la historia personal de la víctima.
Amy Zhang, doctorando en el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, es quien encabeza esta investigación y quien ha reparado en el hecho que muchas víctimas adoptan un enfoque que podría llamarse anticuado para sobrellevar la marea de mensajes violentos y la manera de resolver estas crisis es justamente buscando apoyo en su círculo personal. Fue justamente Zhang quien estudió la manera de formalizar este comportamiento entendiendo que es mucho más fácil para esta gente manejar una ola de hostigamiento con un grupo de amigos que trabajan como moderadores y que trabajen en equipo.
A medida que van entrando los correos electrónicos al buzón de la víctima, se distribuyen automáticamente de manera uniforme a los “moderadores” y ellos son invitados a entrar en “Squadbox” para realizar un separación de los mensajes para su análisis y de esta manera realizar un saneamiento de la bandeja de entrada del acosado.
Esta herramienta permite también pre-aprobar mensajes que serán archivados en una lista blanca, para aquellos que no presenten signos de violencia y una lista negra para remitentes que deben ser rechazados de forma automática. “Squadbox” será capaz de calificar el nivel de toxicidad de cada mensaje para hacer más llevadera la tarea de los moderadores-amigos.
Si bien en estas últimas semanas, las redes sociales son noticia gracias a la investigación que demostró la recolección de datos por parte de las plataformas y la subsiguiente utilización de estos datos para generar publicidad personalizada, sobre todo para influir en la toma de decisiones por parte de los usuarios, el acoso en línea sigue siendo una problemática más que delicada e importante en un contexto de vida digital. Si bien “Squadbox” por el momento permite trabajar solamente con correo electrónico, el equipo de desarrollo e investigación anticipó que ya se está estudiando la manera de expandir e integrar la herramienta a otras plataformas y sobre todo a las redes sociales. En definitiva, este proyecto quizás no evite el problema en su totalidad, pero lo seguro es que ofrecerá una posibilidad más que interesante a las personas que sufren de esta tortura.
Fuentes: Squadbox.org, MIT News, The Verge, BI
Por razones que escapan a nuestro control, y por un período de tiempo indefinido, el espacio de comentarios está cerrado. Sin embargo, nuestras redes sociales siguen abiertas a sus contribuciones.