cyberspaceФилософские проблемы информационных технологий и киберпространстваPhilosophical Problems of IT & Cyberspace (PhilIT&C)2305-3763Пятигорский государственный университет10.17726/philIT.2022.2.1cyberspace-258Research ArticleСтатьиМетод выявления «троллей» в сетевых сообществахMethod for identifying trolls in online communitiesИзмайловаЕ. В.IzmaylovaE. V.

Измайлова Елена Владимировна - кандидат технических наук, доцент, кафедра автоматизации технологических процессов

Izmaylova Elena Vladimirovna - PhD in Engineering, associate Professor, Department of automation of  technological processes

loko87@inbox.ruАлексеевД. А.AlekseevD. A.

Алексеев Данила Алексеевич - студент, кафедра автоматизации технологических процессов

Alekseev Danila Alekseevich - Student, Department of automation of technological processes

kirazok233@gmail.comСвечниковаВ. В.SvechnikovaV. V.

Свечникова Валерия Владимировна - студентка,кафедра автоматизации технологических процессов

Svechnikova Valeria Vladimirovna - Student, Department of automation of technological processes

svecha2@gmail.comСорокинаА. В.SorokinaA. V.

Сорокина Анастасия Викторовна - студентка,кафедра автоматизации технологических процессов

Sorokina Anastasia Viktorovna - Student, Department of automation of technological processes

egotiw@gmail.comБерезниковский филиал Пермского научно-исследовательского политехнического университетаРоссияBerezniki Branch of Perm Research Polytechnic UniversityRussian Federation20221101202302417Copyright © Измайлова Е.В., Алексеев Д.А., Свечникова В.В., Сорокина А.В., 20232023Измайлова Е.В., Алексеев Д.А., Свечникова В.В., Сорокина А.В.Izmaylova E.V., Alekseev D.A., Svechnikova V.V., Sorokina A.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://cyberspace.pgu.ru/jour/article/view/258

В статье исследована проблема распознавания пользователей социальных сетей, чатов и прочих виртуальных пространств фликтов между участниками различных онлайн-сообществ. Авторы дают краткую характеристику понятия троллинга. Показана актуальность решения проблемы троллинга в социальных сообществах сети Интернет в связи с широким распространением агрессивного провокационного поведения отдельных пользователей в виртуальном пространстве, а также влиянием такого поведения на психику и общее состояние человека. Для обработки экспертных наблюдений, оценок или измерений применяется теория функций убеждений. Предлагаемый подход включает использование данной теории в совокупности с вводом величины, которая определяет конфликт между двумя сочетающимися функциями убеждений. Целью работы является тестирование нового подхода для вычисления потенциальных троллей с помощью метода, основанного на мере конфликта функций убеждений между различными сообщениями ветви обсуждения в сообществах вопросов-ответов. Сделан вывод о возможности оценки конфликтности пользователя с помощью параметра, называемого мерой конфликта его сообщений по отношению к сообщениям всех остальных пользователей. Для упрощения процесса вычислений применен алгоритм кластеризации k-means.

In the article the problem of recognizing users of social networks, chats and other virtual spaces that are provoked by other users, inciting conflicts between participants of various online communities is investigated. In this work the authors give a brief description of the trolling concept. The relevance of solving the problem of trolling in the social communities of the Internet is shown in connection with the widespread aggressive provocative behavior of individual users in the virtual space, as well as the influence of such behavior on the psyche and general condition of a person. The paper uses the theory of trust functions to process expert observations, estimates or measurements. The proposed approach involves the use of this theory in conjunction with the input of a value that determines the conflict between two combined trust functions. The goal of the work is to test a new approach for calculating potential trolls using a method based on the degree of conflict of trust functions between different messages of the discussion branch in question-answer communities. It is concluded that the possibility of assessing the user’s conflict with the help of a parameter called the measure of the conflict of his messages in relation to the messages of all other users. To simplify the calculation process, the k-means clustering algorithm is applied.

троллиИнтернеталгоритм k-meansмера конфликтаtrollsInternetk-means algorithmconflict measureReferencesБастрикова А. А., Булгакова М. В. Роль интернета в современной жизни // Вестник совета молодых ученых и специалистов Челябинской области. – 2015. – № 3. – С. 74-76. (Bastrikova A. A., Bulgakova M. V. The role of the Internet in modern life // Vestnik soveta molodyh uchyonyh i specialistov CHelyabinskoj oblasti. – 2015. – № 3. – P. 74-76.)Бастрикова А. А., Булгакова М. В. Роль интернета в современной жизни // Вестник совета молодых ученых и специалистов Челябинской области. – 2015. – № 3. – С. 74-76. (Bastrikova A. A., Bulgakova M. V. The role of the Internet in modern life // Vestnik soveta molodyh uchyonyh i specialistov CHelyabinskoj oblasti. – 2015. – № 3. – P. 74-76.)Иванько А. Ф., Иванько М. А., Сорокина В. А. Портал государственных услуг: насколько эффективна помощь гражданскому обществу? // Инновационная наука. – 2017. – № 1-2. – С. 73-77. (Ivan’ko A. F., Ivan’ko M. A., Sorokina V. A. Public Services Portal: How effective is assistance to civil society? // Innovacionnaya nauka. – 2017. – № 1-2. – P. 73-77.)Иванько А. Ф., Иванько М. А., Сорокина В. А. Портал государственных услуг: насколько эффективна помощь гражданскому обществу? // Инновационная наука. – 2017. – № 1-2. – С. 73-77. (Ivan’ko A. F., Ivan’ko M. A., Sorokina V. A. Public Services Portal: How effective is assistance to civil society? // Innovacionnaya nauka. – 2017. – № 1-2. – P. 73-77.)10 самых популярных запросов на портале Госуслуг за 2020 год. URL: https://siktivkar.bezformata.com/listnews/populyarnih-zaprosovna-portale-gosuslug/90613041/ (дата обращения: 01.06.2022). (The ten most popular requests on the Public Services portal for 2020. URL: https://siktivkar.bezformata.com/listnews/populyarnih-zaprosov-naportale-gosuslug/90613041/ (accessed: 01.06.2022).)10 самых популярных запросов на портале Госуслуг за 2020 год. URL: https://siktivkar.bezformata.com/listnews/populyarnih-zaprosovna-portale-gosuslug/90613041/ (дата обращения: 01.06.2022). (The ten most popular requests on the Public Services portal for 2020. URL: https://siktivkar.bezformata.com/listnews/populyarnih-zaprosov-naportale-gosuslug/90613041/ (accessed: 01.06.2022).)Ермолова Е. О., Тютюникова Н. В. Значение сетевой коммуникации и виртуального интернет-пространства в жизни человека и развитии личности // Смальта. – 2019. – № 2. – C. 16-24. (Ermolova E. O., Tyutyunikova N. V. The importance of network communication and virtual Internet space in human life and personal development // Smal’ta. – 2019. – № 2. – P. 16-24.)Ермолова Е. О., Тютюникова Н. В. Значение сетевой коммуникации и виртуального интернет-пространства в жизни человека и развитии личности // Смальта. – 2019. – № 2. – C. 16-24. (Ermolova E. O., Tyutyunikova N. V. The importance of network communication and virtual Internet space in human life and personal development // Smal’ta. – 2019. – № 2. – P. 16-24.)Самые популярные соцсети в России в 2021 году. URL: https://spark.ru/user/133946/blog/80389/samie-populyarnie-sotsseti-v-rossii-v-2021-godu (дата обращения: 01.06.2022). (The most popular social networks in Russia in 2021. URL: https://spark.ru/user/133946/blog/80389/samiepopulyarnie-sotsseti-v-rossii-v-2021-godu (accessed: 01.06.2022).)Самые популярные соцсети в России в 2021 году. URL: https://spark.ru/user/133946/blog/80389/samie-populyarnie-sotsseti-v-rossii-v-2021-godu (дата обращения: 01.06.2022). (The most popular social networks in Russia in 2021. URL: https://spark.ru/user/133946/blog/80389/samiepopulyarnie-sotsseti-v-rossii-v-2021-godu (accessed: 01.06.2022).)Лучинкина А. И. Троллинг в интернет-пространстве как результат девиантной интернет-социализации // Научный результат. Педагогика и психология образования. – 2018. – № 2. – С. 68-76. (Luchinkina A. I. Trolling in the Internet space as a result of deviant Internet socialization // Nauchnyj rezul’tat. Pedagogika i psihologiya obrazovaniya. – 2018. – № 2. – P. 68-76.)Лучинкина А. И. Троллинг в интернет-пространстве как результат девиантной интернет-социализации // Научный результат. Педагогика и психология образования. – 2018. – № 2. – С. 68-76. (Luchinkina A. I. Trolling in the Internet space as a result of deviant Internet socialization // Nauchnyj rezul’tat. Pedagogika i psihologiya obrazovaniya. – 2018. – № 2. – P. 68-76.)Что такое «троллинг» и как с этим бороться! URL: https://dm-imc.edumsko.ru/associations/obzh/post/1367202 (дата обращения: 01.06.2022). (What is «trolling» and how to deal with it! URL: https://dm-imc.edumsko.ru/associations/obzh/post/1367202 (accessed: 01.06.2022).)Что такое «троллинг» и как с этим бороться! URL: https://dm-imc.edumsko.ru/associations/obzh/post/1367202 (дата обращения: 01.06.2022). (What is «trolling» and how to deal with it! URL: https://dm-imc.edumsko.ru/associations/obzh/post/1367202 (accessed: 01.06.2022).)Агуреева Ю. А. Кто такие «Интернет-тролли»? // Знак: Проблемное поле медиаобразования. – 2017. – № 1 (23). – C. 181-185. (Agureeva Yu. A. Who are «Internet trolls»? // Znak: Problemnoe pole mediaobrazovaniya. – 2017. – № 1 (23). – P. 181-185.)Агуреева Ю. А. Кто такие «Интернет-тролли»? // Знак: Проблемное поле медиаобразования. – 2017. – № 1 (23). – C. 181-185. (Agureeva Yu. A. Who are «Internet trolls»? // Znak: Problemnoe pole mediaobrazovaniya. – 2017. – № 1 (23). – P. 181-185.)Акулич М. М. Интернет-троллинг: понятие, содержание и формы // Вестник Тюменского государственного университета. – 2012. – № 8. – С. 47-54. (Akulich M. M. Internet trolling: concept, content and forms // Vestnik Tyumenskogo gosudarstvennogo universiteta. – 2012. – № 8. – P. 47-54.)Акулич М. М. Интернет-троллинг: понятие, содержание и формы // Вестник Тюменского государственного университета. – 2012. – № 8. – С. 47-54. (Akulich M. M. Internet trolling: concept, content and forms // Vestnik Tyumenskogo gosudarstvennogo universiteta. – 2012. – № 8. – P. 47-54.)Воронцова Т. А. Троллинг и флейминг: Речевая агрессия в интернет-коммуникации // Вестник удмуртского университета. Серия история и филология. – 2016. – № 2. – С. 109-116. (Voroncova T. A. Trolling and flaming: Speech aggression in Internet communication // Vestnik udmurtskogo universiteta. Seriya istoriya i filologiya. – 2016. – № 2. – P. 109-116.)Воронцова Т. А. Троллинг и флейминг: Речевая агрессия в интернет-коммуникации // Вестник удмуртского университета. Серия история и филология. – 2016. – № 2. – С. 109-116. (Voroncova T. A. Trolling and flaming: Speech aggression in Internet communication // Vestnik udmurtskogo universiteta. Seriya istoriya i filologiya. – 2016. – № 2. – P. 109-116.)Метод выявления «троллей» в сетевых сообществах на примере Q&AC. URL: https://habr.com/ru/post/284052/ (дата обращения: 01.06.2022). (The method of identifying «trolls» in online communities on the example of Q&AC. URL: https://habr.com/ru/post/284052/ (accessed: 01.06.2022).)Метод выявления «троллей» в сетевых сообществах на примере Q&AC. URL: https://habr.com/ru/post/284052/ (дата обращения: 01.06.2022). (The method of identifying «trolls» in online communities on the example of Q&AC. URL: https://habr.com/ru/post/284052/ (accessed: 01.06.2022).)Smets P., Kennes R. The Transferable Belief Model // Artificial Intelligence. – 1994. – Vol. 66. – P. 191-234.Smets P., Kennes R. The Transferable Belief Model // Artificial Intelligence. – 1994. – Vol. 66. – P. 191-234.Cambria E., Chandra P., Sharma A., Hussain A. Do not feel the trolls // Proceedings of the 9th International Semantic Web Conference, 2010. URL: http://ceur-ws.org/Vol-664/paper1.pdf (accessed: 01.06.2022).Cambria E., Chandra P., Sharma A., Hussain A. Do not feel the trolls // Proceedings of the 9th International Semantic Web Conference, 2010. URL: http://ceur-ws.org/Vol-664/paper1.pdf (accessed: 01.06.2022).Ortega F., Jose A., Fermin L., Carlos G., Fernando E. Propagation of trust and distrust for the detection of trolls in a social network // Computer Networks. – 2012. – Vol. 56. – P. 2884-2895.Ortega F., Jose A., Fermin L., Carlos G., Fernando E. Propagation of trust and distrust for the detection of trolls in a social network // Computer Networks. – 2012. – Vol. 56. – P. 2884-2895.Martin A. About Conflict in the Theory of Belief Functions // 2nd International Conference on Belief Functions, Advances in Soft Computing. – 2012. – Vol. 164. – P. 161-168.Martin A. About Conflict in the Theory of Belief Functions // 2nd International Conference on Belief Functions, Advances in Soft Computing. – 2012. – Vol. 164. – P. 161-168.Hardaker C. Trolling is asynchronous computer-mediated communication: from user discussion to academic definitions // Journal of Politeness Research. – 2010. – № 6(2). – P. 215-242.Hardaker C. Trolling is asynchronous computer-mediated communication: from user discussion to academic definitions // Journal of Politeness Research. – 2010. – № 6(2). – P. 215-242.Trolls Identification within an Uncertain Framework. URL: https://arxiv.org/abs/1501.05272 (accessed: 01.06.2022).Trolls Identification within an Uncertain Framework. URL: https://arxiv.org/abs/1501.05272 (accessed: 01.06.2022).Zatonskiy A. V. Verification of Kolmogorov equation usability for reproduction and death processes // Bulletin of the South Ural State University. Series: Computer Technologies, Automatic Control, Radio Electronics. – 2019. – Vol. 19. – № 3. – P. 60-67.Zatonskiy A. V. Verification of Kolmogorov equation usability for reproduction and death processes // Bulletin of the South Ural State University. Series: Computer Technologies, Automatic Control, Radio Electronics. – 2019. – Vol. 19. – № 3. – P. 60-67.Мандель И. Д. Кластерный анализ. – М.: МГУ им. Ломоносова, 1988. – 177 с. (Mandel‘ I. D. Cluster analysis. – M.: MGU im. Lomonosova, 1988. – 177 p.)Мандель И. Д. Кластерный анализ. – М.: МГУ им. Ломоносова, 1988. – 177 с. (Mandel‘ I. D. Cluster analysis. – M.: MGU im. Lomonosova, 1988. – 177 p.)Затонский А. В., Иванова Е. В. Методы формализации самооценки на примере научно-исследовательской работы студентов // Информатизация образования и науки. – 2011. – № 3 (11). – С. 110-116. (Zatonskij A. V., Ivanova E. V. Methods of formalization of self-assessment on the example of students’ research work // Informatizaciya obrazovaniya i nauki. – 2011. – № 3 (11). – P. 110-116.)Затонский А. В., Иванова Е. В. Методы формализации самооценки на примере научно-исследовательской работы студентов // Информатизация образования и науки. – 2011. – № 3 (11). – С. 110-116. (Zatonskij A. V., Ivanova E. V. Methods of formalization of self-assessment on the example of students’ research work // Informatizaciya obrazovaniya i nauki. – 2011. – № 3 (11). – P. 110-116.)

The authors declare that there are no conflicts of interest present.