TikTok пытается улучшить процесс модерации видеороликов. Для некоторых задач будут применяться автоматизированные системы, которые, например, смогут определять видео с обнажённым телом, сценами секса, насилия или незаконных действий. Если система обнаружит подобное видео, оно сразу же будет удалено, а создателю контента будет предоставлена возможность обратиться к модератору-человеку, если он уверен в ошибочном удалении.
До сих пор все спорные ролики на TikTok обрабатывали живые модераторы, прежде чем их удалить. Нововведение призвано сократить объём неподобающих видео, которые им приходится просматривать, а также дать им больше времени на работу с более сложными случаями, например, содержащими дезинформацию. Ожидается, что нововведение положительно скажется на психическом состоянии модераторов. Ранее было обнаружено, что сотрудники Facebook, которым часто приходится просматривать неподобающие ролики, проявляют симптомы посттравматического стрессового расстройства.
Проблема, с которой столкнётся TikTok, заключается в том, что автоматизированные системы не могут работать так же хорошо, как и живые люди. Некоторые пользователи могут пострадать из-за ошибок при автоматическом удалении контента. Стоит отметить, что TikTok уже неоднократно обвиняли в дискриминации при удалении определённых видеороликов.
Тестовый запуск автоматизированных средств модерации показал, что только пять процентов роликов, заблокированных системой, должны были быть допущены к публикации. Тем не менее, стоит понимать, что это всё равно очень большая цифра. Только за первые три месяца текущего года в США была отклонена публикация 8 540 088 видео. Сообщается, что сначала новая система будет запущена в США и Канаде, а позже её работа распространится и на другие регионы.
Источник: The Verge
