Introducción

El ciberacoso es un acto reiterado que acosa, humilla o amenaza a las personas a través de sus ordenadores, teléfonos celulares, laptops, tabletas y otros dispositivos electrónicos, por otro lado también se incluyen sitios sitios web que mantienen activas las redes sociales. Ciberacoso a través de internet utilizando las redes sociales, se ha vuelto más peligroso que el acoso tradicional porque tiene la capacidad de amplificar el daño y humillación a un grupo de personas que están conectadas en línea.

Muchas víctimas del acoso cibernético se sienten tristes, deprimidas, frustradas, incluso tienen pensamientos suicidas. Una encuesta realizada por UNICEF y el Ministerio de Comunicación e Información, en el Perú existe el cyberbullying y se encuentra en tasas de hasta un 40% entre los 13-15 años existe el bullying tradicional y de 11 a 14 años hay una tasa de incidentes de ciberacoso. Algunos de ellos podrían ser los acosadores; sin embargo, reconocen el peligro y los efectos negativos que llega a generar.

Por lo tanto, debería haber una forma de detectar a los principales actores del ciberacoso antes de que se den cuenta. reportar los daños que han causado en tiempo real. Por eso debe haber reglas para poder categorizar textos de ciberbullying. Por ello analizaremos la detección del ciberacoso mediante una herramienta de PNL usando un clasificador de texto.

Materiales y métodos o Metodología computacional

Motivación

El objetivo de este trabajo será desarrollar una herramienta para poder detectar las agresiones que se producen durante

el uso de la aplicación utilizando lenguaje de procesamiento natural y un clasificador de texto a partir de datos

de Twitter que nos dice que si es un comentario sospechoso o es un comentario correcto mostrar a través de

una clasificación binaria. Las preguntas que nuestro proyecto trata de responder son:

· ¿En qué dominio del conocimiento estamos trabajando?

· ¿Quiénes son los usuarios objetivo?

· ¿Por qué es interesante el tema propuesto?

· ¿Cuáles son las preguntas que nuestro proyecto de PNL trata de responder?

Trabajos Relacionados

1. K-Nearest Neighbor (KNN): el algoritmo K-Nearest Neighbor es el algoritmo de clasificación basado

en instancias. Este algoritmo calcula la distancia (por ejemplo, la distancia euclidiana) o la distancia de

similitud (por ejemplo, la similitud del coseno) entre el entrenamiento de datos y la prueba de datos.

Los tweets de datos que han sido clasificados se transforman en un formato de grafico dirigido, con los

usuarios de Twitter como nodos y las menciones en los tweets como bordes, como se muestra en la Figura

[1]. El borde tiene un peso que representa cuantos tweets env´ıa un usuario X, a otros usuarios Y o Z en

un periodo de tiempo t. Además, contiene la lista de tweets clasificados del usuario X al usuario Y o Z.

Figura 1
Visualización de datos gráficos de Twitter

Ocho reglas generales para la extracción de características usando Sarna

Estas reglas se pueden observar en la Figura [2] así como su definición a continuación:

Estas reglas

1. 1. El número de malas palabras en el tuit.
2. 2. El número de palabras que muestran emociones negativas.
3. 3. El número de palabras que muestran emoción positiva.
4. 4. Combinación de un pronombre de primera persona, emoción negativa y combinación de un pronombre de segunda persona para capturar el ciberacoso.
5. 5. Combinación de segundo pronombre con malas palabras para captar el ciberacoso.
6. 6. Combinación de pronombres en primera persona, palabras que expresan emociones negativas y pronombres de tercera persona o nombres propios para capturar el ciberacoso.
7. 7. Combinación de un pronombre de tercera persona o nombre propio con una mala palabra para capturar el acoso cibernético.
8. 8. La combinación de enlace, blasfemia y pronombres también se utiliza para capturar el acoso cibernético.

Figura 2
Sistema de etiquetado de datos

1. 1. spaCy: Cada vez es más reconocido por procesar y examinar datos en PNL. Los datos textuales no estructurados se generan a gran escala y es fundamental para procesar y obtener información de datos no estructurados.
2. 2. Modelo BERT: Actualmente es muy conocido puesto que Google está utilizando este modelo de lenguaje de

   procesamiento natural para mejorar sus búsquedas; En su lugar, lo hemos aplicado como un clasificador de texto para realizar el análisis de sentimiento.

3. 3. Tokenización BERT: El comentario o Tweets seleccionados los empieza a tokenizar y nosotros lo hemos usado para obtener el conjunto de datos que contiene cada Tweet.

Propuesta

Para este trabajo, estamos utilizando un conjunto de datos de tweets relacionados con el ciberacoso, que habría que analizarlos en profundidad mediante la técnica de Sarna para poder clasificarlos de forma booleano; es decir, los que contengan 0 serán tuits de ciberacoso o de los que se pueda sospechar contienen cyberbullying, los que contengan 1 serán los tweets normales por lo que debemos realizar un sistema de etiquetado que podría utilizar diferentes personas que quisieran participar para etiquetar cada pieza de información, en cada uno de nuestros tuits en particular. Las personas pueden elegir una de las cuatro opciones. Opciones ofrecidas para un tweet. El propósito de usar cuatro opciones es permitir que las personas elijan una etiqueta para clasificar el tweet según su confiabilidad en un rango de 1 a 4 como se puede ver en la figura [3]. Esto se debe al nivel de confianza a la hora de elegir si el Tweet es ciberacoso o no.

Figura 3
Opciones de etiquetado

1. Etiquetado: Las opciones 1 y 2 se utilizan para calcular la puntuación total sin ciberacoso. Para su parte, se utilizan las opciones 3 y 4 se utilizan para calcular la puntuación total de ciberacoso. Para diferenciar el grupo que acosa cibernéticamente y grupo que no acosa cibernéticamente, hay un signo menos en el peso del grupo que no acosa cibernéticamente.

Finalmente, se obtuvieron los estadios de detección del ciberacoso. Nuestro principal objetivo es detectar cualquier situación de ciberacoso en Twitter; por lo que su funcionamiento parte de la adecuada formación de un algoritmo de aprendizaje supervisado. De ahí la importancia de proporcionar una base de conocimientos a partir de un análisis semántico y determinación de sentimientos para alcanzar la máxima tasa de precisión. Así, para llevar a cabo estas tres etapas ha sido necesario: (i) obtener la base de conocimientos, (ii) capacitación de modelos de aprendizaje supervisado, y (iii) implementación de estudios de casos.

Pasos de implementación

1. 1. Obtención de la base de conocimientos: Se debe establecer una base de conocimientos adecuada, comúnmente conocido como corpus, que interviene en la detección presuntiva del ciberacoso en lengua española como se puede ver en la figura [4]. Un corpus es un conjunto de palabras o frases que tienen previamente clasificados según diferentes intereses a través de etiquetas.
2. 2. Entrenamiento de modelos de aprendizaje supervisado: Se utilizarán tres métricas específicas de

   • Puntuación de precisión, calculará la precisión del modelo de aprendizaje contando el número de muestras de ocurrencias que coinciden con el conjunto predeterminado de valores.

   • Puntuación de precisión promedio, resumida en una curva de recuperación de precisión como la media de las precisiones alcanzadas en cada umbral.

   • puntuación F1, se puede interpretar como un promedio ponderado de precisión y recuperación, donde una puntuación F1 alcanza su mejor valor en 1 y su peor puntuación en 0.

3. 3. Implementación de estudios de casos: Existen tres tipos de análisis para la detección presuntiva de acoso cibernético

   • Análisis de oraciones y/o palabras, reflejará si el contenido de una oración o texto presumiblemente representa algún tipo de acoso.

   • Análisis del perfil de usuario, presumiblemente determinando un porcentaje de acoso en base a un número predefinido de tweets históricos de un usuario específico. Para ello, introduzca el perfil en Formato de Twitter: @profildeuser.

Figura 4
Diez ejemplos de palabras insultantes y sus sinónimos en Ecuador.

1. Obtención de la base de conocimientos: Se debe establecer una base de conocimientos adecuada, comúnmente conocido como corpus, que interviene en la detección presuntiva del ciberacoso en lengua española como se puede ver en la figura [4]. Un corpus es un conjunto de palabras o frases que tienen previamente clasificados según diferentes intereses a través de etiquetas.

Resultados y discusión

Análisis del modelo

El modelo utilizado fue BERT el cual nos ayudará a determinar si un Tweet es clasificado como cyberbullying (comentario agresivo, comentario insultante o comentario tóxico) o neutral (comentario que no es tóxico). La clasificación se desarrolla a partir de la propuesta realizada, ya que actualmente estamos clasificando los comentarios o Tweets en opciones de 1 (que es un comentario que contiene cyberbullying) y 0 (que es es un comentario neutral), esto se puede ver en las Figuras [5] y [6] para que se vean las gráficas de clasificación.

Figura 5.
Clasificación de Tweets en opciones de 1 y 0.

Figura 6.
Clasificando los Tweets de acoso y los Tweets neutrales.

Análisis de clasificación

in embargo, para que BERT pudiera clasificar los Tweets, tuvo que pasar por un proceso de entrenamiento, pero ¿por qué entrenarlo? Es necesario hacerlo para que tenga un procesamiento más fluido, lo que hará de él un modelo más eficaz y eficiente por lo que los sentimientos que tiene que predecir serán más fácil de identificar, este entrenamiento se puede ver en la Figura [7], tuvieron una duración de 20 aproximadamente 40 minutos haciendo que la computadora esté activa durante al menos 2 horas para que pueda lograr el objetivo básico.

Figura 7
Entrenamiento del Modelo Bert para clasificar los Tweets.

Resultados de entrenamiento

Después de entrenar al modelo, nos muestra los resultados de cómo realizó la clasificación tan pronto como con precisión n; es decir, qué tuits son realmente de acoso (etiqueta 1) y cuáles son tuits neutros (etiqueta 0), esto se puede observar en las Figuras [8] y [9] para dar una vista detallada de los resultados obtenidos durante el proceso y destacar que cada entrenamiento contiene a una parte de nuestro conjunto de datos inicial.

Figura 8
Resultados del entrenamiento del Modelo BERT con etiquetas de 1 y 0

Figura 9
Resultados del entrenamiento del Modelo BERT con etiquetas de acoso y neutral.

Conclusiones

Para finalizar, es importante mencionar que el ciberacoso es un problema actual que debemos solucionar inmediatamente, ya que muchas personas terminan perjudicadas por estos comentarios negativos en sus vidas, así que para llegar a su solución aplicaremos el procesamiento de lenguaje natural, el cual es una disciplina importante en nuestra actualidad porque gracias a su comprensión es posible identificar y analizar diferentes textos. Gracias a ello se puede aplicar en diferentes áreas para mayor beneficio, en este caso, el área que nos ocupa es ciberacoso en la aplicación de Twitter. Como parte fundamental, este clasificador de texto nos ayudará a cumplir con el objetivo principal que es frenar el ciberacoso, implementando la aplicación del modelo BERT para lograr un resultado favorable y así poder frenar este problema denominado “ciberacoso”.

Referencias

[1] Gabriel A. Leon-Paredes, Wilson F. Palomeque-Leon, 2019. Presumptive Detection of Cyberbullying on Twitter through Natural Language Processing and Machine Learning in the Spanish Language. https://ieeexplore.ieee.org/abstract/document/8987684/

[2] Hani N., Dade N. Indonesian Twitter Cyberbullying Detection using Text Classification and User Credibility, 2018. https://ieeexplore.ieee.org/abstract/document/8350758/

[3] Monirah A. Al-Ajlan, Mourad Y. Optimized Twitter Cyberbullying Detection based on Deep Learning, 2018. https://ieeexplore.ieee.org/abstract/document/8593146

[4] Hoy interessa. Cyberbullying in Peru stand at rates of up to forty per cent https://gestion.pe/

[5] Orhan G. Yalcin. Sentiment Analysis in 10 Minutes with BERT and TensorFlow https://

[6] TensorFlow. Classify text with BERT https://www.tensorflow.org/text/tutorials/classify_ text_with_bert

[7] Kaggle. Classified Tweets https://www.kaggle.com/datasets/munkialbright/classified-tweets

[8] GitHub. Cyberbullying Detection in Tweets https://github.com/apeksha104/ Cyberbullying-Detection-in-Tweets

[9] V Krithika, V Priya. A Detailed Survey On Cyberbullying in Social Networks https://ieeexplore. ieee.org/abstract/document/9077794

[10] Saima Sadiq, Arif Mehmood, Saleem Ullah, Maqsood Ahmad, Gyu S. Choi, Byung-Won On Aggression detection through deep neural model on Twitter https://www.sciencedirect.com/science/ article/abs/pii/S0167739X19330717

[11] Bandeh A. Talpur, Declan Oaˆ€™Sullivan Multi-Class Imbalance in Text Classification: A Feature Engineering Approach to Detect Cyberbullying in Twitter https://www.mdpi.com/2227-9709/7/4/52

Author notes

jaguirres@ulasalle.edu.pe

Additional information

Inteligencia artificial: Artículos originales

Temática: Inteligencia artificial

Alternative link

https://revistas.ulasalle.edu.pe/innosoft/article/view/65 (html)

https://revistas.ulasalle.edu.pe/innosoft/article/view/65/75 (pdf)

https://revistas.ulasalle.edu.pe/innosoft/article/view/65/76 (html)

https://purl.org/42411/s9/a65 (html)

https://n2t.net/ark:/42411/s9/a65 (html)

https://doi.org/10.48168/innosoft.s9.a65 (html)