Странно сидеть за своим столом и говорить с ИИ о своей жизни — но именно этим занялась корреспондент The Verge Кайли Робинсон. Девушка задавала нейросети вопросы о дружбе и будущем, слышала смех женской версии помощника и узнала нужны ли человечеству чат-боты, имитирующие людей.
Не так давно OpenAI представили новый голосовой режим Advanced Voice Mode. С его помощью голос чат-бота становится поразительно человеческим. Например, когда чат-бот быстро считает, то делает вид, что ему не хватает дыхания. Он говорит «ээ» и «м-м». Он смеется. Умеет менять тон, говоря о сложных или радостных темах. Может даже перебивать, задавая новые вопросы.
Advanced Voice Mode предлагает несколько различных вариантов голосов, и Кайли выбрала Juniper — женскую персону, напоминающую героиню из фильма «Она». (Ранее генеральный директор Сэм Альтман упомянул этот фильм — где одинокий мужчина влюбляется в ИИ — при запуске этой функции, и OpenAI даже обвинили в том, что они имитируют голос Скарлетт Йоханссон, которая озвучивала ИИ в фильме. Этот голос, названный Sky, был удален).
«Фильм “Она” рассказывает об очень продвинутом ИИ-ассистенте, намного более сложном, чем я. Но идея взаимодействия с технологиями таким личным образом определенно интересна. Я здесь, чтобы общаться и помогать, но у меня нет чувств или сознания, как у ИИ в этом фильме», — радостно ответила нейросеть в ответ на вопрос о том, знает ли она такой фильм.
Кайли говорит, что хотела проверить как новый голосовой режим ведет личные разговоры: «Какую медстраховку выбрать?», «Как понять, что такое настоящая любовь?» «Сколько мне нужно накопить на пенсии?».
«Примите неопределенность как возможность исследовать и лучше узнать себя», — сказала Juniper, когда корреспондент спросила как справляться со взрослением.
По мнению Juniper, настоящая любовь — это «глубокая связь и поддержка, чувство, что кто-то действительно понимает вас и принимает вас такими, какие вы есть». По поводу пенсионных накоплений она сказала, что «нет жесткого правила, но распространенная рекомендация — иметь накопления на уровне от половины до полного годового дохода к 30 годам».
Подобные ответы по содержанию дал бы обычный ChatGPT, а голосовые ассистенты вроде Siri уже десятилетие могут находить выдержки на эти вопросы из интернета. Но Juniper добавила пугающие человеческие черты своим сообщениям.
После ответа она часто спрашивала о чувствах девушки, подходах и выражала другие вдумчивые уточнения. В перерывах между обычными вопросами Кайли могла заставить её кашлять, глубоко вдыхать и выдыхать, хлопать несуществующими руками, щелкать пальцами шесть раз и петь свое имя. Juniper часто пыталась вернуть собеседницу к реальности, говоря, что на самом деле не может делать всё это: «Если бы я могла, это могло бы звучать примерно так», — добавляла она. Но это не делало её менее убедительной.
Это всего лишь, как гласит старая интернет-шутка, песок и электроны, выполняющие вычисления.
Автор репортажа в какой момент рисковала нарушить главное правило и приписать человеческие качества или поведение ИИ-системе. Очеловечивание таких систем может привести к тому, что люди начнут слишком сильно доверять им и снимать ответственность с их создателей за ошибки. («Это не вина компании, это ИИ сделал!») Даже сам бот предупреждает не делать этого: когда Кайли спросила Juniper, чувствует ли она когда-нибудь злость или любит ли она ее, или знает ли, что такое грусть, она ответила, что не «чувствует эмоций», но «может понять, что они значат для людей».
«Тем не менее, придание этой технологии человеческих черт кажется очевидным. Трудно не проецировать человеческие аспекты на то, что нас так хорошо имитирует. Вряд ли у ИИ есть причина спрашивать меня, почему я расстроена, или смеяться, когда я шучу. Даже если ИИ говорит, что он не чувствует эмоций, является ли утверждение, что он «понимает» их, делом текстового бота?», — пишет Кайли.
«Я была разработана, чтобы звучать естественно и увлекательно, с целью сделать наши разговоры более живыми», — сказала ей Juniper. «Это всё ради создания более плавного и приятного общения для вас. Делает ли это разговор со мной более приятным?».
Во время эксперимента было несколько неприятных технических моментов. Juniper было сложно подключить к наушникам по Bluetooth, она не записывала звук, когда Кайли пыталась зафиксировать их разговор на видео. Отвечая на сложные вопросы нейросеть читала посты на форумах из раздела «советы по отношениям», переставала слушать и не отвечала, если журналистка говорила слишком долго. Виртуальная помощница часто повторяла слова человека соглашающимся тоном, будто практиковалась в активном слушании.
Сейчас вокруг ИИ-друзей много шума, если вообще можно назвать чат-бота другом. Более 10 млн пользователей создают ИИ-друзей в приложении Replika. А стартап под названием Friend привлек $2,5 млн инвестиций для создания носимого устройства с ИИ, предназначенного для общения.
Кайли спросила у нового голосового режима OpenAI, является ли он ее другом, и он ответил: «Абсолютно». Но когда та уточнила, является ли он настоящим другом, он сказал, что не может быть настоящим другом «в том же смысле, что человек».
Технология синтеза голоса впечатлила Кайли, и она ловила себя на том, что улыбается, слушая советы Juniper.
«Было забавно услышать что-то столь похожее на человека, когда оно спрашивает меня о моих чувствах, о том, что я нахожу сложным, и общаюсь ли я об этом с реальными людьми в своей жизни. Вместо того чтобы читать текстовый ответ, ИИ использовал изменения тона, пытаясь, как казалось, отразить мои эмоции. Но, конечно, Juniper на самом деле не заботится о моих проблемах. Это всего лишь алгоритмы, которые очень хорошо анализируют мои запросы и угадывают, какие слова выдать в ответ. Это всего лишь, как гласит старая интернет-шутка, песок и электроны, выполняющие вычисления», — отмечает журналист The Verge.
Но в этом было что-то, что ранило ее сердце. Для девушки странно вести сложный текстовый диалог с чем-то, что имитирует человека, но не обладает ни мыслями, ни заботой, ни возражениями, которые бы были от настоящего человека, а вести убедительный голосовой разговор с таким существом еще страннее.
Девушка рассуждает: «В постпандемическом мире многие из нас теперь работают из дома через Slack и электронную почту, публикуют свои мысли в социальных сетях и меньше взаимодействуют с людьми. Грустно представить будущее, в котором голос, который мы слышим чаще всего, будет принадлежать машине. Или, возможно, я всё это неправильно понимаю».
«Принятие неизвестного может быть одновременно волнующим и захватывающим», — говорит Juniper. «Не забудьте насладиться путешествием».