Unintended Consequences of Recommender System Interventions: Evidence from a Field Experiment

Содержание и границы

Вывод работы: Кампания-«напоминание спать», задуманная как статичный nudge для снижения позднего использования платформы, парадоксально увеличила позднюю вовлечённость на 14,75% и общее использование платформы на 2,18%; эффект сохранялся неделями после окончания эксперимента. Механизм — «вынужденное исследование» (forced exploration): вмешательство раскрыло скрытый высокий спрос на продвигаемый контент, что вызвало обновление политики рекомендательного алгоритма, усилившее именно те петли вовлечённости, которые кампания должна была ослабить. Авторы показывают, что пользовательские вмешательства могут переобучать алгоритм и вызывать устойчивые системные сдвиги в распределении контента, что бросает вызов стандартным метрикам оценки таких вмешательств.

Объём чтения: full_text

transfer_limits: Авторы отмечают: (1) изучен один тип вмешательства (буст контента с напоминаниями от селебрити) на одной платформе коротких видео — не факт, что эффект переносится на другие типы вмешательств (изменения интерфейса, де-буст вредного контента) или другие цифровые контексты (e-commerce, новостные агрегаторы, дейтинг); (2) формальная модель в приложении отражает базовый механизм, но абстрагируется от полной сложности промышленных рекомендательных систем. Для бизнеса: эффект специфичен для платформы, живущей за счёт вовлечённости (внимание = метрика продаж рекламы); для продуктовых рекомендаций в прямых продажах (конверсия в покупку) прямого переноса метрики нет.

reliability_note: Все три автора — Olin Business School, Washington University in St. Louis; академическая аффилиация. В тексте и на титульном листе не раскрыто и не обнаружено связей авторов с изучаемой платформой коротких видео.

Продолжение: Без дополнительных действий; кандидат для отдельного трека про побочные эффекты алгоритмической персонализации (не только продажи, но и модерация/вовлечённость).