TikTok объявил о запуске инструмента для маркировки контента от нейросетей, пишет TechCrunch. Компания также разрабатывает другие способы маркировки подобных материалов.
По словам представителей компании, маркировка необходима, чтобы сгенерированный искусственным интеллектом контент не вводил пользователей в заблуждение. TikTok уже обновил свою политику, в соответствии с ней подобные аудио, видео и фото необходимо помечать. С помощью новой функции также можно будет ставить пометки на частично обработанные материалы.
Инструмент доступен при загрузке роликов. Пометка появится под именем пользователя.
Также компания заявила, что работает над созданием инструмента, который поможет автоматически определять и маркировать контент, созданный нейросетями. Рассказать подробности о технологии в TikTok отказались, ссылаясь на то, что недобросовестные пользователи найдут способ её обойти.
Крупные технологически компании озаботились вопросом маркировки подобного контента. Так, в конце августа Google создал специальные водяные знаки для изображений, сгенерированных нейросетями. SynthID встраивает цифровой водяной знак непосредственно в пиксели изображения, делая его незаметным для человеческого глаза, при этом его можно обнаружить при идентификации, если просканировать изображение на наличие цифрового водяного знака при помощи специальной ИИ-модели.