Инженеры Instagram обратят внимание на алгоритмы соцсети, из-за которых существует риск проявления дискриминации к разным сообществам. Об этом говорится в заявлении главы соцсети Адама Моссери, опубликованном на сайте компании.
По словам Моссери, в Instagram заметили озабоченность пользователей на тему подавления высказываний темнокожих людей и того, относится ли соцсеть одинаково ко всем. «Ирония в том, что мы являемся платформой, которая выступает за усиление голоса темнокожих, но в то же время темнокожие люди часто подвергаются преследованиям, боятся быть «омрачёнными тенью» и не согласны со многими «ударами» контента — эти факты не потеряны для меня», — добавил Моссери.
Глава Instagram отмечает «предвзятость» некоторых алгоритмов. По его словам, часть технологий соцсети рискует быть необъективными в отношении некоторых сообществ. В компании собираются «более внимательно взглянуть» на свои алгоритмы, чтобы избежать уклонов и смещения акцентов в будущем, говорится в заявлении. Также в соцсети рассмотрят отображение публикаций на страницах Explore и Hashtag, чтобы улучшить фильтрацию контента.
Изменения также затронут систему верификации аккаунтов: Instagram рассмотрит критерии, по которым подтверждается подлинность аккаунтов, и увеличат охват этой функции. «Проверка — это область, в которой у нас постоянно возникают вопросы: каковы руководящие принципы и предпочтительнее ли критерии для одних групп, чем для других», — отметил Моссери.
Instagram должен оказывать больше поддержки темнокожему сообществу — как через организацию, так и через саму платформу, считает глава компании. Соцсеть собираются «устранить потенциальные пробелы» в том, как ее продукты и политика защищают людей от «проблем личной безопасности, с которыми представители сообщества сталкиваются ежедневно».
Накануне организация AlgorithmWatch опубликовала результаты своего исследования: выяснилось, что алгоритмы Instagram повышают вероятность появления постов с изображением обнаженного тела в рекомендациях. С февраля по май аналитики изучили 2400 фотографий от авторов контента (в том числе брендов). Компьютерная программа выявила 21% постов с женщинами в нижнем белье или мужчинами с голой грудью. При этом в лентах участников исследования количество подобных постов составило 30%. Изображения пейзажей или еды оказываются в потоке на 60% реже, говорят аналитики.