Специалисты издания Wall Street Journal провели подробный экспериментальный анализ алгоритма рекомендаций, используемого сервисом коротких видео TikTok. Основным критерием алгоритма оказалась длительность просмотра роликов пользователями.
Руководство экспериментальным проектом было возложено на Гийома Часло (Guillaume Chaslot), этот специалист по алгоритмам прежде работал в YouTube. В рамках проекта были созданы несколько пользовательских аккаунтов TikTok, управлявшихся ботами с фиксированным набором интересов. Они «смотрели» видео, ставя на паузу или повторно проигрывая ролики, отмеченные соответствующими хештегами или содержащие соответствующие интересам изображения.
Как выяснилось, лента персональных рекомендаций формируется на основе того, с какими видео взаимодействует пользователь, как он с ними взаимодействует, в расчёт принимаются свойства самого видео, а также язык учётной записи и местоположение пользователя. Так, если какие-то странное видео застаёт пользователя врасплох, но он продолжает смотреть ролик, то алгоритм считает, что видео ему понравилось. Достаточно совершить совсем немного подобных «ошибок», чтобы лента рекомендаций наполнилась тем, что человеку совершенно неинтересно.
У человека, конечно, больше нюансов в предпочтениях, чем у бота, но в данном эксперименте этими различиями можно пренебречь, чтобы понять, насколько быстро в рекомендациях может появиться неподходящий контент. В опыте Wall Street Journal на это ушло всего 40 минут. Один из ботов погрузился в пучину тяжёлых, депрессивных видео, а второй оказался заложником теории заговора во время выборов. Впрочем, некоторым из них повезло, и подобранный алгоритмом контент оказался преимущественно позитивным.
Источник: The Verge
