Возрастание ненадлежащего контента, такого как насилие и непристойность, в прямых трансляциях TikTok, его нефильтрация или недостаточность возрастных ограничений вызывают негативную реакцию общественности.
Доц. д-р Айлин Тутгун Унал, оценивая вопрос модерации контента прямых трансляций в TikTok в реальном времени, заявила: «Платформа TikTok утверждает, что использует как автоматическую, так и ручную оценку для выявления и удаления вредоносного контента и поведения, нарушающих Правила сообщества (support.tiktok.com). Однако по поводу достаточности этих мер продолжают возникать опасения и дискуссии».
Доц. д-р Айлин Тутгун Унал подчеркнула, что для предотвращения контента, связанного с насилием и домогательствами, на платформах социальных сетей критически важны такие компоненты, как продвинутый искусственный интеллект и машинное обучение, мониторинг в реальном времени, системы отчетности пользователей, образовательные и информационные кампании, модераторы-люди, а также строгие правила сообщества и санкции.

Доц. д-р Айлин Тутгун Унал, преподаватель Факультета коммуникаций Университета Ускюдар, оценила вопрос модерации контента прямых трансляций в TikTok в реальном времени.
Модерация возможна с использованием технологий, включающих алгоритмы искусственного интеллекта и машинного обучения…
Отметив, что технологии, используемые для модерации контента прямых трансляций в реальном времени, обычно включают алгоритмы искусственного интеллекта и машинного обучения, доц. д-р Айлин Тутгун Унал сказала: «Искусственный интеллект и машинное обучение предлагают масштабируемые решения для обработки контента в реальном времени, позволяя платформам быстро и эффективно выявлять и удалять ненадлежащий контент. В прошлом ручная модерация контента полагалась на модераторов-людей и не подходила, поскольку не предлагала масштабируемых решений для работы с большими объемами данных. Сегодня модерация в реальном времени механизмов, содержащих большие данные, таких как социальные сети, возможна с помощью технологий, включающих алгоритмы искусственного интеллекта и машинного обучения».
Насколько успешны технологии на основе искусственного интеллекта?
Доц. д-р Айлин Тутгун Унал, объясняя, что эти технологии включают модерацию голосового контента, модерацию изображений, модерацию текстового контента, мониторинг и обнаружение в реальном времени, а также коммуникацию с поддержкой искусственного интеллекта, сказала: «Если говорить о принципах работы этих технологий, то алгоритмы искусственного интеллекта, анализирующие письменные тексты, используемые во время прямых трансляций, могут обнаруживать нецензурную лексику, разжигание ненависти или другой ненадлежащий контент. Или модерация голосового контента преобразует голосовой контент в текст, анализирует выражения и высказывания, используемые во время прямого эфира, и проверяет их на соответствие. Искусственный интеллект может немедленно определить, является ли контент подходящим в режиме реального времени. Это не только снижает нагрузку на модераторов-людей, но и обеспечивает более быструю модерацию контента. Платформы, такие как Twitch, YouTube Live и Facebook Live, используют эти технологии для защиты зрителей, предлагая более безопасный и приятный опыт. Однако их успешность является предметом дискуссий».
TikTok заявляет, что использует как автоматическую, так и ручную оценку
Затронув меры, принятые TikTok против трансляций, содержащих насилие, доц. д-р Айлин Тутгун Унал отметила: «Социальные сети, электронная коммерция, вещательные услуги и онлайн-форумы ежедневно генерируют огромное количество пользовательского контента. С этим ростом контента платформы сталкиваются с проблемой обеспечения того, чтобы материалы/контент оставались соответствующими, безопасными и соответствующими стандартам сообщества и правовым нормам. Модерация этого контента в реальном времени поднимает вопрос о широкой экосистеме контроля, начиная от надлежащего использования технологий, включающих алгоритмы искусственного интеллекта и машинного обучения, и заканчивая политиками. Платформа TikTok заявляет, что использует как автоматическую, так и ручную оценку для выявления и удаления вредоносного контента и поведения, нарушающих Правила сообщества (support.tiktok.com). Однако по поводу достаточности этих мер продолжают возникать опасения и дискуссии».
Что нужно сделать, чтобы меры были достаточными?
Доц. д-р Айлин Тутгун Унал, также отметив, что для обеспечения достаточности принятых мер необходимо создать и внедрить более эффективную систему контроля, продолжила:
«Компоненты, которые должны быть в этой системе, можно перечислить следующим образом: продвинутый искусственный интеллект и машинное обучение, мониторинг в реальном времени, системы отчетности пользователей, образование и осведомленность, модераторы-люди, а также строгие правила сообщества и санкции. В связи с этим Министерство семьи и социальных услуг планирует предпринять более эффективные шаги, проведя переговоры с TikTok и другими платформами социальных сетей по вопросам трансляций, содержащих насилие и домогательства. В этом контексте можно говорить о важности политик, которые будут регулироваться в рамках платформ социальных сетей, для механизмов контроля. Четкое определение правил сообщества и применение серьезных санкций за нарушения будут стимулировать пользователей соблюдать эти правила».
Каковы обязанности таких платформ, как TikTok?
Доц. д-р Айлин Тутгун Унал заявила, что платформы социальных сетей, такие как TikTok, несут различные обязанности по предотвращению распространения насильственных инцидентов и защите пользователей, и перечислила эти обязанности следующим образом:
«1. Правила и политики сообщества: Должно быть запрещено делиться контентом, поощряющим или содержащим насилие.
2. Модерация контента: Контент должен модерироваться с использованием как автоматических систем оценки, так и модераторов-людей. При обнаружении контента, содержащего насилие, он должен быть быстро удален, а в отношении нарушающих аккаунтов должны быть приняты необходимые меры.
3. Мониторинг и вмешательство в реальном времени: Для немедленного обнаружения насильственных инцидентов и реагирования на них должна использоваться система мониторинга в реальном времени. Это критически важный шаг для обеспечения безопасности пользователей.
4. Системы отчетности пользователей: Пользователи могут сообщать о контенте, содержащем насилие, и эти отчеты должны быть быстро рассмотрены. Таким образом, обеспечивается вклад членов сообщества в безопасность платформы.
5. Образование и осведомленность: Должны быть организованы различные кампании и программы для обучения пользователей о вреде контента, содержащего насилие, и повышения осведомленности об этом».
Работа в этой области должна постоянно обновляться
Доц. д-р Айлин Тутгун Унал завершила свои слова следующим образом:
«Платформы социальных сетей, в первую очередь TikTok, которые выполняют эти обязанности, могут успешно защищать своих пользователей и обеспечивать безопасную онлайн-среду. Однако работа в этой области требует постоянного развития и обновления».