Влияние алгоритмов ранжирования, ботов и модерации контента на формирование мнений в социальной сети

Автор(ы): Губанов Д.А., Чхартишвили А.Г.

Выпуск: 112

Рубрика: Сетевые модели в управлении

Год: 2024

Библиография: Губанов Д.А., Чхартишвили А.Г. Влияние алгоритмов ранжирования, ботов и модерации контента на формирование мнений в социальной сети // Управление большими системами. - 2024. - Вып. 112. - С.109-128.

Дата опубликования: 30.11.2024

Ключевые слова: онлайновые социальные сети, алгоритмы социальной сети, формирование мнений пользователей, боты, модерация контента, информационное противоборство, имитационное моделирование

Аннотация: Рассматривается модель формирования информационных каскадов в онлайновых социальных сетях, учитывающая влияние алгоритмов ранжирования контента, действий ботов и модерации контента. Особое внимание уделено динамике мнений, которая критически важна для прогнозирования и управления социальными процессами. В отличие от традиционных моделей, здесь мнения агентов (пользователей) не наблюдаемы напрямую: их действия, такие как публикация комментариев, служат косвенными индикаторами взглядов. Эти действия влияют на мнения других пользователей, приводя к формированию информационного каскада в сети. Модель дополнена такими факторами, как алгоритмы показа комментариев, поведение ботов и модерация контента администратором информационного ресурса. Вычислительные эксперименты показывают, что алгоритмы ранжирования существенно влияют на динамику мнений и действий, особенно при ограниченной глубине просмотра пользователей. Кроме того, введение ботов и модерации может существенно изменить ход обсуждений. В работе исследуется взаимодействие стратегических игроков, включая модератора и ботов с противоположными позициями, и прогнозируется результат их взаимодействия на основе равновесий Нэша. Наконец, формализована и решена для частного случая задача управляющего органа, который, стремясь продвинуть нужную ему точку зрения в сети, осуществляет влияние на количество ботов.

Author(s): Gubanov D., Chkhartishvili A.

Article title: The influence of ranking algorithms, bots and content moderation on opinion formation in social networks

Issue: 112

Year: 2024

Keywords: online social networks, social network algorithms, user opinion generation, bots, content moderation, information warfare, simulation modeling

Abstract: This paper considers a model of information cascade formation in online social networks, accounting for the influence of content ranking algorithms, bot actions, and content moderation. Special attention is given to opinion dynamics, which is critically important for predicting and managing social processes. Unlike traditional models, in this case, the opinions of agents (users) are not directly observable: their actions, such as posting comments, act as indirect indicators of their opinions. These actions influence the opinions of other users, leading to the formation of an information cascade within the network. The model incorporates additional factors such as comment ranking algorithms, bot behavior, and content moderation. Computational experiments demonstrate that ranking algorithms significantly affect the dynamics of opinions and actions, particularly when users have a limited view depth. Moreover, the introduction of bots and moderation can substantially alter the course of discussions. The study explores the interaction of strategic players, including the moderator and bots with opposing views, and predicts the outcome of their interactions based on Nash equilibria. Finally, the problem of a control subject (principal) is formalized and solved for a specific case, where it seeks to advance a specific viewpoint in the network by influencing bots within the network.