Социальная сеть «Одноклассники» запустила чемпионат по разработке алгоритма для обнаружения оскорбительных и агрессивных комментариев. Об этом Sostav рассказали в компании.
Разработчикам нужно будет создать обученную модель для поиска комментариев с проявлением расизма, ксенофобии, сексизма, а также оскорблений на почве религиозной принадлежности, возраста, внешности или особенностей развития.
Созданная модель будет помогать модераторам соцсети быстро идентифицировать «токсичные» комментарии и отправлять их на модерацию. При этом алгоритм не будет использоваться для автоматической блокировки авторов комментариев, подчеркивают в компании.
При оценке публичного контента на нарушение правил «Одноклассники» используют как автоматическую, так и ручную модерацию. Оскорбительные комментарии ранее оценивал общий алгоритм. «В результате проведения чемпионата мы хотим получить специальную модель, которая будет оценивать именно «токсичные» высказывания в комментариях, причем по нескольким параметрам: таким, как оскорбления, угрозы и другие», — говорят в пресс-службе соцсети.
Ранее «Одноклассники» запустили рекламный кабинет для разработчиков игр. Он позволит настраивать таргетинг, важный именно для сферы геймдева, указывали в компании.