Пользователи Twitter обнаружили проблему нейронной сети соцсети, которая обрезает изображения при предпросмотре. Алгоритм выбирал те участки фото, на которых были изображены белые люди и персонажи, отдавая им предпочтение перед чернокожими.
Об этом свидетельствует эксперимент, который один из пользователей Twitter провел с фотографиями экс-президента Барака Обамы и сенатора-республиканца Митча Макконнела. Он по-разному размещал фото представителей разных рас на белом фоне, а соцсеть создавала предпросмотр с исключительно людьми белой расы.
Причем при инверсии цветов Барак Обама все же попадал в предпросмотр.
Другие пользователи Twitter повторили эксперимент, и выяснили, что соцсеть также отдает предпочтение белым нарисованным персонажам.
Главный дизайнер Twitter Дэнтли Дэвис написал, что компания все еще исследует нейронную сеть и ее «предпочтения».
Лиз Келли из команды по связям с общественностью Twitter сообщила, что компания провела тестирование, связанное с расовыми и гендерными предпочтениями нейросети, но не нашла тому доказательств. «Очевидно, что необходимо провести дополнительный анализ», — написал она. Келли также добавила, что компания откроет исходный код алгоритма, чтобы другие также могли проверить его.