logo

Detección de Ciberacoso en Twitter para la Población Colombiana Usando Técnicas de Inteligencia Artificial

10.24050/reia.v22i44.1757
Published 2025-07-01
Articles

Abstract

El ciberacoso es un problema cada vez más relevante en la sociedad contemporánea que puede tener consecuencias graves en el bienestar emocional y psicológico de las víctimas. Actualmente, debido al voluminoso intercambio de interacciones digitales, resulta desafiante y laborioso para los moderadores de las plataformas en línea detectar y eliminar todos los comentarios ciberacosadores de manera manual. Por lo tanto, se necesitan modelos automáticos que por medio de técnicas de inteligencia artificial detecten el ciberacoso. En este artículo se proponen modelos basados en técnicas de aprendizaje automático y en modelos del lenguaje para la detección de ciberacoso en la red social Twitter. Las técnicas de aprendizaje automático utilizadas son XGBoost, regresión logística, y bosques aleatorios. Por su parte, como modelo de lenguaje se hizo un proceso de fine-tuning al modelo de lenguaje enmascarado basado en transformer llamado roberta-base-bne. A pesar de que actualmente se tienen diferentes modelos para este mismo propósito, en su mayoría están hechos usando palabras en inglés. En el caso del español son muy pocos los trabajos propuestos y en el caso particular del español colombiano no se tiene precedente de aportes en el área.
En este artículo se propone además un corpus que contiene tweets escritos en español colombiano y que fueron anotados por una terapeuta ocupacional experta. A partir de este corpus se crean dos conjuntos de datos. El dataset 1 se caracteriza por tener, para una palabra dada, un tweet anotado como ciberacoso que contiene dicha palabra y otro tweet anotado como no ciberacoso con la misma palabra. Esto se logra gracias a que se tiene en cuenta el contexto en el que se usa cada palabra. Por su parte, el dataset 2 usa palabras diferentes en los tweets que son ciberacoso y en aquellos que no lo son. El propósito de utilizar estos dos conjuntos de datos se centra en capturar diversas manifestaciones del lenguaje y su contexto, y evaluar si las técnicas utilizadas permiten entender dicho contexto. Los resultados obtenidos muestran que los modelos propuestos con regresión logística, bosques aleatorios, XGBoost, y roberta-base-bne, alcanzan un área bajo la curva ROC en el dataset 1 de 0.797, 0.796, 0.785, y 0.910, respectivamente. Por su parte, en el dataset 2, el área bajo la curva ROC es de 0.983, 0.978, 0.971, y 0.996, respectivamente. Finalmente, se presenta una aplicación web llamada AI Cyberbullying Detector que está dirigida a terapeutas para que puedan hacer uso de la inteligencia artificial en estudios relacionados con el ciberacoso.

Keywords

Categories

Authors

  • Felipe Mauricio Guerra Sáenz

    Colombia

  • Oscar Fernando Bedoya Leiva

    Colombia

  • Marcela Holguín Mera

    Colombia

References

l-garadi, M.A.; Varathan, K.D.; Ravana, S.D. (2016). Cybercrime detection in online communications: The experimental case of cyberbullying detection in the Twitter network. Computers in Human Behavior, 63, pp. 433–443. https://doi.org/10.1016/j.chb.2016.05.051

Aránguez Sánchez, T. (2022). Límites legales a la libertad de expresión en Twitter. Un análisis feminista. Algoritmos, teletrabajo y otros grandes temas del feminismo digital, pp. 249–267. ISBN 978-84-1122-494-9

Balakrishnan, V.; Khan, S.; Arabnia, H. (2020). Improving cyberbullying detection using Twitter users’ psychological features and machine learning. Computers & Security, 90. https://doi.org/10.1016/j.cose.2019.101710

Bozyiğit, A.; Semih, U.; Nasiboğlu, E. (2021). Cyberbullying detection: Utilizing social media features. Expert Systems with Applications, 179. https://doi.org/10.1016/j.eswa.2021.115001

Chia, Z.; Ptaszynski, M.; Masui, F.; Leliwa, G.; Wroczynski, M. (2021). Machine Learning and feature engineering-based study into sarcasm and irony classification with application to cyberbullying detection. Information Processing & Management, 58(4). https://doi.org/10.1016/j.ipm.2021.102600

Devlin, J.; Chang, M.-W.; Lee, K.; Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Lan-guage Understanding. North American Chapter of the Association for Computational Linguistics. https://doi.org/10.48550/arXiv.1810.04805

Feijóo, S.; Foody, M.; O’Higgins Norman, J.; Pichel, R.; Rial, A. (2021). Cyberbullies, the Cyberbullied, and Problematic Internet Use: Some Reasonable Similarities. Psicothema, 33(2), pp. 198–205. https://doi.org/10.7334/psicothema2020.209

Guerra, F. (2023a). Colombian-spanish-cyberbullying-classifier. Disponible en: https://huggingface.co/FelipeGuerra/colombian-spanish-cyberbullying-classifier

Guerra, F. (2023b). Colombian-spanish-cyberbullying-detector. Disponible en: https://huggingface.co/FelipeGuerra/colombian-spanish-cyberbullying-detector

Guerra, F. (2023c). Colombian_Spanish_Cyberbullying_Dataset_1. Disponible en: https://huggingface.co/datasets/FelipeGuerra/Colombian_Spanish_Cyberbullying_Dataset_1

Guerra, F. (2023d). Colombian_Spanish_Cyberbullying_Dataset_2. Disponible en: https://huggingface.co/datasets/FelipeGuerra/Colombian_Spanish_Cyberbullying_Dataset_2

Gutiérrez, A.; Armengol, J.; Pàmies, M.; Llop, J.; Silveira, J.; Pio, C.; Armentano, C.; Rodriguez, C.; Gonzalez, A.; Villegas, M. (2022). MarIA: Spanish Language Models. Procesamiento del Lenguaje Natural, 68. https://doi.org/10.26342/2022-68-3

Hassan, S.A.; Khairalla, M.A.; Fakhrou, A. (2023). The crime of cyberbullying and its relationship to addiction to social networking sites: A study at the law college Prince Mohammad Bin Fahd University. Computers in Human Behavior Reports, 12. https://doi.org/10.1016/j.chbr.2023.100346

Herrera-López, M.; Romera, E.; Ortega-Ruiz, R. (2017). Bullying y cyberbullying en Colombia; coocurrencia en adoles-centes escolarizados. Revista Latinoamericana de Psicología, 49(3), pp. 163–172. https://doi.org/10.1016/j.rlp.2016.08.001

Johari, N.; Jaafar, J. (2022). A Malay Language Cyberbullying Detection Model on Twitter using Supervised Machine Learning. International Visualization, Informatics and Technology Conference (IVIT), Kuala Lumpur, Malaysia, IEEE, pp. 325–332. https://doi.org/10.1109/IVIT55443.2022.10033395

Kee, D.; Anwar, A.; Vranjes, I. (2024). Cyberbullying victimization and suicide ideation: The mediating role of psycholo-gical distress among Malaysian youth. Computers in Human Behavior, 150. https://doi.org/10.1016/j.chb.2023.108000

Khan, S.; Qureshi, A. (2022). Cyberbullying Detection in Urdu Language Using Machine Learning. International Confe-rence on Emerging Trends in Electrical, Control, and Telecommunication Engineering (ETECTE), Lahore, Pakistan, IEEE, pp. 1–6. https://doi.org/10.1109/ETECTE55893.2022.10007379

León-Paredes, G.; Palomeque, W.; Gallegos, P.; Vintimilla, P.; Bravo, J.; Barbosa, L.; Paredes, M. (2019). Presumptive Detection of Cyberbullying on Twitter through Natural Language Processing and Machine Learning in the Spanish Language. IEEE CHILEAN Conference on Electrical, Electronics Engineering, Information and Communication Techno-logies (CHILECON), Valparaíso, Chile, IEEE, pp. 1–7. https://doi.org/10.1109/CHILECON47746.2019.8987684

Marín-Cortés, A.; Franco-Bustamante, S.; Betancur-Hoyos, E.; Vélez-Zapata, V. (2020). Miedo y tristeza en adolescentes espectadores de cyberbullying. Vulneración de la salud mental en la era digital. Revista Virtual Universidad Católica del Norte, 61, pp. 66–82. https://doi.org/10.35575/rvucn.n61a5

Peláez, G.; Lena, F. (2021). Árboles de decisión y bosques aleatorios en sistemas expertos: un enfoque fundamental. Ad-vances in education, ICT and innovation: issues for business and social enhancing, Madrid. https://doi.org/10.14679/1243

Salehi, F.; Abbasi, E.; Hassibi, B. (2019). The impact of regularization on high-dimensional logistic regression. Advances in Neural Information Processing Systems, 32. https://doi.org/10.48550/arXiv.1906.03761

Takuya, A.; Sano, S.; Yanase, T.; Ohta, T.; Koyama, M. (2019). Optuna: A Next-generation Hyperparameter Optimization Framework. Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mi-ning. https://doi.org/10.48550/arXiv.1907.10902

Van Hee, C.; Jacobs, G.; Emmery, C.; Desmet, B.; Lefever, E.; Verhoeven, B.; De Pauw, G.; Daelemans, W.; Hoste, V. (2018). Automatic detection of cyberbullying in social media text. PLoS ONE, 13(10): e0203794. https://doi.org/10.1371/journal.pone.0203794

Van Hee, C.; Verhoeven, B.; Lefever, E.; De Pauw, G.; Daelemans, W.; Hoste, V. (2015). Guidelines for the Fine-Grained Analysis of Cyberbullying, version 1.0. Technical Report LT3 15-01, LT3, Language and Translation Technology Team – Ghent University.

Wang, L.; Jiang, S.; Zhou, Z.; Fei, W.; Wang, W. (2024). Online disinhibition and adolescent cyberbullying: A systematic review. Children and Youth Services Review, 156. https://doi.org/10.1016/j.childyouth.2023.107352

Wang, W.; Chen, L.; Thirunarayan, K.; Sheth, A. (2014). Cursing in English on twitter. Proceedings of the 17th ACM con-ference on Computer supported cooperative work & social computing (CSCW ’14), Association for Computing Machi-nery, New York, NY, USA, pp. 415–425. https://doi.org/10.1145/2531602.2531734

Zhang, X.; Tong, J.; Vishwamitra, N.; Whittaker, E.; Mazer, J.; Kowalski, R.; Hu, H.; Luo, F.; Macbeth, J.; Dillon, E. (2016). Cyberbullying detection with a pronunciation based convolutional neural network. 2016 15th IEEE International Conference on Machine Learning and Applications (ICMLA), pp. 740–745. https://doi.org/10.1109/ICMLA.2016.0132

Statistics

Abstract
0
PDF accesses
0

Dimensions

PlumX

Downloads

Download data is not yet available.