Может ли ИИ-сборщик сделать чат-бота: что реально работает

Может ли ИИ-сборщик сделать чат-бота

Может, и честный ответ состоит из двух половин. Интерфейс, история сообщений, хранение, вход и публикация это обычная продуктовая работа, которую Zugo собирает по описанию. А то, что производит ответы, это модель, и модель стоит денег за каждый запрос, поэтому она работает на ключе, который вы подключаете сами. Безлимитных бесплатных ответов не даёт никто.

Именно это разделение объясняет большую часть путаницы вокруг вопроса. Человек спрашивает, умеет ли сборщик сделать чат-бота, получает расплывчатое «да», а на середине пути выясняет, что то, что печатает в ответ, в комплект не входило. Ниже разбор: что приходит из коробки, что подключаете вы и во что обходится работа.

Из чего вообще состоит чат-бот?

Если убрать маркетинг, чат-бот это четыре части, которые просто оказались рядом.

Первая часть это интерфейс: лента сообщений, поле ввода, кнопка отправки, индикатор набора, прокрутка, которая ведёт себя прилично, и вёрстка, которая переживает телефон. Эту часть недооценивают чаще всего, и руками она делается дольше всех.

Вторая часть это состояние. Сообщения должны сохраняться, иначе перезагрузка стирает разговор. Значит нужна таблица, нужна личность пользователя, чтобы двое не видели чужие ветки, и нужно правило, сколько истории вы храните.

Третья часть это мозг: то, что читает разговор и выдаёт ответ. Это языковая модель за API, и каждый вызов стоит денег владельцу ключа.

Четвёртая часть это граница: что боту разрешено говорить, что ему разрешено видеть и что происходит, когда он не знает. Именно здесь чаще всего и разваливаются проекты с ботами, и за вас это не решит ни один сборщик.

Какие части Zugo собирает по описанию?

Три из четырёх. Вы описываете продукт и получаете интерфейс, состояние и каркас границ работающей сборкой.

Для интерфейса фраза вроде «чат поддержки с лентой сообщений, полем ввода, индикатором набора и тёмной темой» даёт ровно это, и правится оно разговором, а не редактированием CSS. Для состояния коннектор Zugo Cloud даёт сборке настоящую базу, поэтому разговор переживает перезагрузку и принадлежит вошедшему человеку. Для границ вы описываете правила словами, и они попадают в код как системная инструкция и как проверки вокруг неё.

Четвёртая часть, сама модель, это коннектор. Вы приносите ключ, и сборка вызывает модель с ним. Такое устройство не ограничение, придуманное чтобы что-то продать: это единственный честный способ отдать вам продукт, стоимость работы которого считается за сообщение.

Во что обходится собрать и во что обходится держать?

Важная строка тут четвёртая. У чат-продукта есть стоимость, которая растёт вместе с использованием, и она принадлежит тому, у кого ключ. Подключить свой ключ значит видеть счёт, ставить лимиты и не иметь посредника между собой и поставщиком. Шаг разобран в статье подключение ключа OpenAI.

Как описать бота, чтобы сборка вышла полезной?

Разница между демонстрацией и тем, что можно показать клиентам, почти целиком лежит в описании. Четыре вещи стоит назвать прямо.

Назовите работу. «Чат» даёт универсальный чат. «Чат поддержки для веломастерской, который отвечает про цены, часы работы и сроки ремонта, а когда не знает, передаёт человеку» даёт то, что формой похоже на ваш бизнес.

Назовите память. Скажите, должен ли разговор пережить перезагрузку, видит ли вернувшийся посетитель старую ветку и нужно ли вам читать разговоры позже. Эти три ответа определяют всю модель данных, и добавлять их потом это дорогой путь.

Назовите отказ. Решите, что бот говорит, когда вопрос за границей его работы. Бот без правила отказа уверенно выдумает цену, и узнаете вы об этом от клиента.

Назовите выход. У любого полезного бота поддержки есть дорога к человеку: форма, почта, ссылка на мессенджер. Без неё бот становится стеной, а не дверью.

Что проверка в песочнице ловит у чата?

У чат-продукта есть особый способ ломаться, который легко пропустить: он выглядит нормально до первого отправленного сообщения. Вёрстка отрисовалась, поле принимает текст, а сбой проявляется только когда наружу уходит запрос.

Каждая сборка Zugo запускается в песочнице до выдачи, поэтому страница, падающая при загрузке, помечается сломанной, а не отдаётся с зелёной галочкой, и вердикт может стать хуже, но никогда лучше. Это ловит мёртвую сборку. Это не ловит неверную системную инструкцию или ключ без денег на счету, потому что это не отказы загрузки. Проверить первое настоящее сообщение по-прежнему ваша работа, и делать это стоит сразу после публикации.

Может ли бот отвечать по вашим документам?

Это вопрос, который стоит за большинством просьб про ботов, и он заслуживает точного ответа, а не воодушевлённого.

Небольшой фиксированный объём знаний работает хорошо: цены, часы, условия возврата, список услуг. Вы кладёте это содержание в проект, и бот отвечает по нему. Так закрывается большинство чатов поддержки малого бизнеса, и работает это по-настоящему надёжно, потому что материал достаточно короткий, чтобы каждый раз лежать перед моделью.

Большой или меняющийся объём знаний это другая инженерная задача. Сотни страниц надо разрезать, проиндексировать и уметь искать по ним до того, как модель их увидит, и качество этого поиска определяет качество ответов. Zugo соберёт поверхность вокруг такой системы, но делать вид, что один запрос даёт промышленную базу знаний по большому корпусу, значит давать обещание, которое мы не держим. Честный список границ в статье чего ИИ-сборщики не умеют.

Что с приватностью и сообщениями людей?

Три практических пункта, потому что чат собирает текст, который люди не написали бы в публичную форму.

Разговоры живут в вашем проекте Zugo Cloud, то есть данные лежат под вашей учётной записью, а не в чужом общем котле. Что это означает подробно, разобрано в статье безопасны ли мои данные.

Поставщик модели видит те сообщения, которые вы ему отправляете. Это неизбежно для любого продукта, вызывающего внешнюю модель, и правильная реакция это написать об этом в своей политике, а не надеяться, что никто не спросит.

Решите заранее, нужны ли вам разговоры вообще после окончания сессии. Бот поддержки, который ничего не хранит, проще, дешевле и легче защищается. Хранение истории это продуктовое решение с последствиями, а не значение по умолчанию.

Какой самый короткий честный путь к работающему боту?

Начните с самого узкого полезного бота, а не с универсального. Опишите чат, который отвечает на пять конкретных вопросов о вашем бизнесе, подключите ключ модели, опубликуйте и отправьте троим настоящим клиентам. Это даёт живой предмет за один вечер и, что важнее, список вопросов, которые люди задают на самом деле, а это единственный надёжный вход для второй версии.

Дальше расширяйте разговором. Небольшая правка стоит 3 кредита, поэтому добавить правило отказа, ссылку на человека или новую тему это фраза, а не проект. Бесплатный тариф даёт 5 стартовых кредитов без карты, этого хватает, чтобы поставить первую версию на ноги до того, как что-то решать.

Соберите интерфейс чата в Zugo, подключите свой ключ модели и покажите результат живому человеку в тот же день. Части, которые являются обычной продуктовой работой, перестают быть вашей заботой, а часть, которая по-настоящему ваша, то есть решение, что бот должен и чего не должен говорить, получает ваше внимание.