Ранее в этом году TikTok заявил, что разрабатывает новую систему, которая будет ограничивать просмотр определенных типов контента для взрослых пользователями-подростками. Сегодня компания представляет первую версию этой системы под названием «Уровни контента», которая должна быть запущена через несколько недель. Он также готовит к выпуску новый инструмент, который позволит пользователям фильтровать видео с определенными словами или хэштегами, чтобы они не отображались в их каналах.
Вместе эти функции предназначены для того, чтобы дать пользователям больше контроля над своим опытом работы с TikTok, делая приложение более безопасным, особенно для молодых пользователей. Это область, в которой TikTok сегодня сталкивается с повышенным вниманием — не только со стороны регулирующих органов и законодателей, которые стремятся усилить контроль над платформами социальных сетей в целом, но и со стороны тех, кто ищет справедливости в отношении вреда социальных сетей.
Например, группа родителей недавно подала в суд на TikTok после того, как их дети умерли после попытки опасных испытаний, которые они якобы видели на TikTok. Тем временем бывшие модераторы контента подали в суд на компанию за неспособность поддержать их психическое здоровье, несмотря на мучительный характер их работы.
С помощью новых инструментов TikTok стремится предоставить пользователям и создателям контента больший контроль над модерацией.
Предстоящая система уровней контента предназначена для предоставления средств классификации контента в приложении, аналогично тому, как фильмы, телешоу и видеоигры также имеют возрастные рейтинги.
Кредиты изображений: Уровни контента TikTok
Хотя контент для взрослых запрещен, TikTok заявляет, что некоторый контент в его приложении может содержать «взрослые или сложные темы, которые могут отражать личный опыт или реальные события и предназначены для более старшей аудитории». Его система уровней контента будет работать над классификацией этого контента и присвоением оценки зрелости.
В ближайшие недели TikTok представит раннюю версию системы уровней контента, предназначенную для предотвращения показа контента с откровенно зрелыми темами пользователям в возрасте от 13 до 17 лет. Видео со зрелыми темами, например вымышленные сцены, которые могут быть слишком пугающими или напряженными для молодых пользователей. – будет присвоена оценка зрелости, чтобы их не видели пользователи TikTok младше 18 лет. Со временем система будет расширяться, чтобы предлагать варианты фильтрации для всего сообщества, а не только для подростков.
Нам сообщили, что модератор доверия и безопасности будет присваивать оценку зрелости видео, популярность которых растет, или тем, о которых сообщалось в приложении.
Ранее TikTok заявлял, что создателей контента также могут попросить пометить свой контент, но пока не вдавался в подробности по этому аспекту. Однако представитель сказал, что это отдельное усилие от того, что было объявлено сегодня.
Кредиты изображений: ТИК Так
Кроме того, TikTok скоро запустит еще один инструмент для фильтрации контента из ваших каналов For You и Following.
Эта функция позволит пользователям вручную блокировать видео с определенными словами или хэштегами из своих каналов. Это не обязательно нужно использовать для фильтрации потенциально проблемного контента или запуска контента — его также можно использовать, чтобы запретить алгоритму показывать вам темы, которые вам просто не нужны или которые надоели видеть. TikTok предлагает вам использовать его, чтобы заблокировать молочные или мясные рецепты, например, если вы станете веганом, или перестать просматривать учебные пособия после того, как вы завершили указанный домашний проект.
Кредиты изображений: Фильтры контента TikTok
В связи с этими новыми функциями компания заявила, что расширяет существующий тест системы, которая работает над диверсификацией рекомендаций, чтобы предотвратить повторное знакомство пользователей с потенциально проблемным контентом, таким как видео об экстремальных диетах или фитнесе, печали или расставаниях.
Этот тест был запущен в прошлом году в США после расследования Конгрессом в 2021 году социальных приложений, таких как TikTok и других, на предмет того, как их системы алгоритмических рекомендаций могут продвигать вредный контент о расстройствах пищевого поведения среди более молодых пользователей.
TikTok признает, что система все еще требует некоторой доработки из-за нюансов. Например, может быть сложно отделить контент, посвященный излечению от расстройств пищевого поведения, который может иметь как грустные, так и обнадеживающие темы. Компания говорит, что в настоящее время обучает эту систему поддержке большего количества языков для будущего выхода на новые рынки.
Как уже было сказано, это трио инструментов могло бы обеспечить более здоровый способ взаимодействия с приложением, но на самом деле автоматизированные системы, подобные этим, часто дают сбои.
До сих пор TikTok еще не смог устранить проблемный контент в ряде случаев — будь то дети, разрушающие туалеты в государственных школах, стреляющие друг в друга из дробовиков или прыгающие с молочных ящиков, среди других опасных задач и вирусных трюков. Это также позволяло ненавистническому контенту, который включал женоненавистничество, превосходство белых или трансфобные заявления, время от времени проваливаться вместе с дезинформацией.
В какой степени новые инструменты TikTok на самом деле влияют на то, кто видит какой контент, еще предстоит выяснить.
«Поскольку мы продолжаем создавать и улучшать эти системы, мы рады возможности внести свой вклад в решение давних общеотраслевых задач с точки зрения создания для различных аудиторий и рекомендательных систем», — написал TikTok руководитель отдела доверия и безопасности. Кормак Кинан в своем блоге. «Мы также признаем, что то, чего мы стремимся достичь, является сложным, и мы можем допустить некоторые ошибки», — добавил он.