Эволюция использования ChatGPT в работе ORM: часть 2

В первой статье, посвященной использованию ИИ, мы рассказали, как в 2019 году пытались внедрить первые версии GPT в копирайтинг и почему у нас не получилось. Если вы её не еще читали, то очень рекомендуем. 

После первого опыта мы продолжили следить за развитием генеративных ИИ, но бежать напролом и внедрять что-то не спешили. Почти сразу после выхода GPT-3 появились модели, которые были предобучены на русском языке и давали неплохие результаты, но в корне это ничего не меняло. 

Постепенно мы пробовали тестировать всё, до чего доходили руки: chat.open.ai с подпиской plus, платформу с API, fine-tune. Было очень много гипотез, которые пополнялись с каждым новым апдейтом ChatGPT:

1. Проверку текстов по фактам из базы знаний можно автоматизировать за счет ИИ, тем самым ускорив модерацию и общий срок производства текста от написания до публикации. 
2. С помощью GPT мы сможем обрабатывать упоминания из BrandAnalytics, выявляя наиболее критичные для репутации клиента сообщения, таким образом увеличим скорость реакции на подобные упоминания. 
3. Анализировать с помощью ИИ правки из корпоративной системы и логи клиентских чатов, что позволит автоматизировать процесс аудитов качества и быстрее реагировать на проблемные проекты.

Проверяли и гипотезы, связанные с автоматизацией процессов в непроизводственных отдела: HR, продажи, бухгалтерия. Но оставим эти эксперименты для другой статьи. Сейчас же поделимся нашим опытом работы с разными инструментами и рекомендациями.

Для решения каких задач может подойти ChatGPT?

Личный эксперт по всем вопросам. Вместо листания поисковика, изучения сайтов, форумов, обсуждений и т.д. ИИ может сразу выдать сжатую информацию. Конечно, не во всех вопросах стоит опираться на него со 100% надежностью, но время сэкономить можно существенно.

Работа с файлами и аналитика данных. Возможность загружать файлы в ChatGPT и запускать код для их обработки расширила и без того большие возможности для решения повседневных рабочих задач. Функционал можно использовать для аналитики табличных данных (excel или csv) как для решения конкретных аналитических задач, так и для поиска закономерностей и интерпретации данных.

Программирование и IT-навыки. Представьте, что за счет внедрения ИИ весь ваш персонал овладел навыками написания программ для простой автоматизации и несложного анализа данных. При этом сотрудники с исходно айтишными компетенциями могут их значительно усилить за счёт решения конкретных задач с написанием кода, даже на незнакомом языке программирования. У нас как раз есть такой опыт, когда программист со стеком php/javascript без каких-либо проблем с помощью ИИ смог разрабатывать программы на python для задач обработки данных.

Автоматизация рутинных задач через виртуального ассистента. Виртуальный ассистент — это свежий апдейт от 6 ноября, который позволяет пользователю создать инструкции для решения конкретной задачи. Например, сотрудник может автоматизировать какие-нибудь часто повторяющиеся процессы без чьей-либо помощи.

Рерайт и генерация текстов. Не только копирайтеры вынуждены ежедневно сталкиваться с задачами по работе с текстами. Для любых позиций в компании можно найти массу способов, где данная функция позволит ускорить рутинные задачи: правильно сформулировать ответ соискателю на вакансию, поправить стилистику или ошибки в электронном письме клиенту, написать спич для выступления или поздравление коллеге и т.д.

Какие конкретно инструменты и сервисы выбрать для внедрения?

Опыт осмысленного внедрения и использования мы имели только с генеративными текстовыми ИИ и будем советовать только их. Есть и другие варианты — например для генерации изображений, звука и синтеза речи. Всё зависит от задачи, но текстовые генеративные ИИ являются самыми универсальными. 

Но и выбор текстового ИИ тоже зависит от условий, в которых существует компания. Давайте рассмотрим 5 вариантов, которые мы тестировали: 

1. Отечественные решения такие как YandexGPT и GigaChat от Сбера Мы внимательно за ними следим и очень за них болеем, но по качеству генерации и функционалу они пока серьезно не дотягивают до ChatGPT Plus. 

Плюсы: отечественные, а значит не будет проблем с оплатой, нет необходимости в VPN. Оба сервиса развивают свою платформу для бизнеса, можно записаться и попасть на бета-тест. 

Минусы: пока есть возможность использовать только в режиме диалога, без загрузки файлов и запуска кода, что сильно снижает область использования по сравнению с ChatGPT. 

Стоимость: пока бесплатно

Если по каким-то причинам вы не можете оплачивать или использовать зарубежное ПО, то стоит протестировать эти решения. 

2. ChatGPT с подпиской Plus Ультимативный вариант по качеству функционалу. Сейчас используем его. 

Плюсы: самый широкий функционал. Постоянно развивается и обновляется. Удобный и интуитивный интерфейс пользователя на русском языке. 

Минусы: сервис иностранный, поэтому для доступа необходимо обеспечить всем сотрудникам VPN. Последние три месяца с трудом удается найти способы оплатить подписку. 

Стоимость: 20$ в мес. за один аккаунт. И если у вас нет именной зарубежной карты, то готовьте ещё 25%–30% за комиссию.  

3. ChatGPT без подписки Практически бесполезный вариант. В бесплатной версии доступен только GPT-3.5, качество которой сравнимо с отечественными решениями. Но все также остается проблема с доступом через VPN. 

4. Использование функционала ChatGPT через официальное API

Подходит больше для разработки собственных приложений, чем для непосредственного использования сотрудниками. Однако такая возможность тоже есть — можно использовать OpenAI Playground. Мы используем его для сложных проектов, где есть необходимость интеграции во внутренние сервисы.

Плюсы: собственный сервис или чат-бот для доступа, к которому не нужен VPN. Возможность кастомизации под бизнес-процессы. Все запросы пользователей находятся под вашим контролем, что дает расширенные возможности для аналитики. Оплачивать проще, чем подписку, — вам нужен всего один аккаунт и одна карта. 

Минусы: придётся потратить ресурсы на разработку и поддержку сервиса — API GPT-4 существенно дороже подписки. Мы тестировали стоимость до ноябрьского понижения цен и у нас выходило в среднем 3$ доллара в день за 1 активного сотрудника. Если предположить, что пользоваться решением будут ⅔ сотрудников компании и в среднем генерировать на ⅔ меньше запросов, чем сотрудники с тестовой выборки, то для компании в 150 человек месячная стоимость выходит в районе 5000$. Если к ней прибавить процент за переводы на иностранную карту, цена будет выше 6000$ в месяц. Стоимость аккаунтов с подпиской plus на порядок меньше. 

План внедрения, бюджет, сроки и подводные камни

Основные шаги:

1. Закупить нужное количество аккаунтов и оплатить на них подписку
2. Обеспечить удобный технический доступ к сервису
3. Сформировать программу и команду обучения
4. Проводить обучение и следить за активностью чатов на купленных аккаунтах

Аккаунты и оплата. Количество аккаунтов, которые вам понадобятся, зависит от числа занятых сотрудников. Опытным путем мы определили, что комфортно работать за одним аккаунтом могут 15 человек, т.к. есть ограничения по количеству сообщений от ИИ. 

Поэтому всё зависит от вашей специфики — даже один программист может использовать весь лимит, если будет активно пользоваться чатом.

С сентября начались проблемы с оплатой сервиса. На 23 ноября единственный сервис, через который мы смогли оплатить подписку, — это https://t.me/WantToPayBot по предоплаченной карте США для ChatGPT. За 40 долларов (две подписки) пришлось заплатить 5600 руб., по официальному курсу 3 676 рублей. Но в предыдущие периоды стоимость одной подписки (20$) доходила до 3600. В зависимости от страны при оплате может списываться НДС до 21%. При оплате картой США НДС нет, и подписка стоит ровно 20$. 

Настройка VPN для доступа к сервису. Важно обеспечить для сотрудников доступ через VPN со статичным IP-адресом для всех, чтобы не получить бан. Для этого мы арендуем виртуальный сервер с OpenVPN тут за 5 долларов в месяц. По умолчанию там 5 конфигураций для OpenVPN, но можно самому или через поддержку увеличить количество конфигураций. В качестве клиента для всех платформ используем OpenVpn client.

Мы пока не сталкивались с необходимостью увеличить количество серверов — там около 100 конфигураций и все работает стабильно уже пару лет. И лучше, если к началу обучения у сотрудников будет уже установлен нужный софт. 

Программа обучения. Сейчас в сети множество курсов по обучению работе с ИИ, которые обещают обучить различным технологиям формирования запросов или волшебным промтам для решения всех возможных задач. Если вам очень хочется отнести деньги авторам этих курсов, — воля ваша, но мы искренне считаем: с текстовыми генеративными ИИ можно и нужно взаимодействовать так же, как с человеком. Если у сотрудника получается общаться в чате с коллегами, у него получится и взаимодействовать ИИ. 

Задачи перед обучением мы ставили такие:

1. Простым языком объяснить, с чем они имеют дело и для чего можно использовать ИИ.  
2. Помочь преодолеть технические трудности, связанные с доступом к ChatGPT. 
3. Показать, как пользоваться сервисом: объяснить основной функционал, назначение элементов интерфейса и основные принципы формирования запроса. 
4. Внедрить технологию в процессы через демонстрацию кейсов, основанных на упрощении рутинных и сложных задач. При этом кейсы должны быть примерно общими для разных должностей. 
5. Выдать небольшое домашнее задание, чтобы сотрудники закрепили навыки. 
6. Проверить усвояемость обучающего материала и собрать статистику. 

Где взять команду для обучения и внедрения?

В момент внедрения у нас было достаточно людей, погруженных в работу с ИИ, которые бы могли взять на себя функции обучения. Для реализации непосредственно программы обучения нам понадобилось 2 человека. Один взял на себя проведение вебинара, разбор домашки и аналитику, другой — индивидуальную работу. 

Можно провести опрос, чтобы понять текущую ситуацию в компании, и если не найти опытных сотрудников, то хотя бы выявить заинтересованных поучаствовать. Приобрести один общий аккаунт ChatGPT и месяц активно использовать в рабочих задачах. Гарантируем, что за месяц у вашей команде наберется необходимая экспертность для формирования кейсов и обучения. 

«Выглядит очень сложно, а нужно ли оно вообще нашему бизнесу?»

· Использование ИИ — не дань моде, а скорее революция, которую переживут не все. И игнорировать открывшиеся сейчас возможности — то же самое, что игнорировать персональные компьютеры и интернет в начале нулевых.

· Если бизнес-процессы компании функционируют в рамках цифровой среды, ей придется меняться, иначе компания не сможет выжить в новой конкурентной среде.

· Не надо пытаться полностью заменить с помощью ИИ творческие процессы, завязанные на людях. Кроме вас это сделают еще тысячи компаний и не факт, что вы окажетесь самой эффективной среди них. Важно найти точки, где ИИ усилит эффективность и потенциал вашей команды, а не надеяться, что чудо-машина за секунду сделает всё за вас и выведет на огромную прибыль.

Следите за обновлениями и читайте другие материалы по блокам SMM и ORM в недвижимости в нашем Телеграм-канале: https://t.me/socmediamarketing или на сайте: https://socmediamarketing.ru