Модераторы начинают проверять прямые видеотрансляции за 10–15 секунд до начала эфира, чтобы успеть удалить все, что нарушает законодательство и установленные правила, а также противоречит фундаментальным принципам и корпоративным ценностям».
В китайской газете South China Morning Post на днях появилась статья об операциях по модерации контента в Inke — один из лидеров китайского рынка потокового видео. В статье рассматривается роль частного сектора в обеспечении государственной цензуры. Отношение к этому явлению двойственное: с одной стороны, утверждается, что таким образом население защищается от насилия и террористических материалов, а с другой — приводятся примеры, такие как маркировка курящих людей или девушек в бикини, которые могут показаться западной аудитории вполне безобидными.
По данным SCMP, Inke поручает команде из 1200 модераторов контролировать видеотрансляции своих 25 миллионов пользователей. Как утверждает руководитель группы по безопасности контента Inke Чжи Хенг (Zhi Heng): модераторы начинают проверять видеозаписи за 10–15 секунд до начала их показа, и в течение этого времени должны вырезать всё, «что противоречит законам и правилам, идет против основных ценностей и ценностей компании». Компания полагается на принципы, опубликованные Китайской ассоциацией исполнительских искусств ( China Association of Performing Arts), чтобы определить, какой контент соответствует нежелательным критериям: в соответствии со статьей SCMP, они охватывают широкий спектр явлений, начиная от политически некорректных заявлений и насилия и заканчивая изображениями людей, курящих или демонстрирующих купальные костюмы.
Еженедельно вносится корректировка в перечень разрешенного и запрещенного контента, в связи с чем содержание, допустимое в текущую неделю, может быть заблокировано уже на следующей, и наоборот. Для того чтобы упростить процесс контроля контента, который является достаточно объемным, Inke также использует алгоритмы и программное обеспечение для распознавания, способное фильтровать контент по различным категориям риска. Согласно SCMP, в некоторых случаях компания ограничивается одним рецензентом для проверки трансляций, которые характеризуются «низким уровнем риска», например, кулинарных шоу, тогда как для потоков с высоким риском подвергаются более тщательному анализу.
Идея о фильтрации видеозаписей, на которых запечатлены люди, употребляющие табачные изделия или демонстрирующие купальные костюмы, может показаться нелепой для западной аудитории. Тем не менее, если совместные усилия модераторов Inke и искусственного интеллекта окажутся эффективными для пометки контента, который считается нежелательным в Китае, эти механизмы могут быть применены и на Западе.
Можно не разделять политику цензуры, существующую в Китае, однако автоматическая модерация контента не всегда является негативным явлением: даже представители Facebook считают, что компания не должна была допустить попадания прямой трансляции из Крайстчерча к своей аудитории, и поэтому опыт Inke может быть крайне полезен.