Дайте ИИ конкретный глагол
«На базе ИИ» — это ещё не зона ответственности. Составлять черновики, классифицировать, извлекать, сравнивать, объяснять, генерировать, распределять и рекомендовать — хорошие глаголы для начала. Добавьте к ним объект, пользователя и решение, которое за этим последует.
Соразмеряйте свободу с последствиями
Свободный поиск дизайнерских идей допускает разнообразие. Платёжное действие или ответ о правилах компании — нет. Чем серьёзнее последствия, тем сильнее сужайте ответ, требуйте более весомых оснований и добавляйте подтверждение человеком или детерминированные проверки.
Проектируйте контекст раньше промпта
Решите, какие записи, документы, правила, историю переписки и результаты инструментов может использовать модель. Определите, кто вправе видеть каждый источник и как отображается устаревшая или отсутствующая информация. Качественный контекст обычно важнее хитроумной инструкции.
Сделайте неопределённость полезной
Интерфейс может показывать источники, задавать уточняющий вопрос, предлагать варианты, помечать допущения или передавать задачу человеку. Если скрыть неопределённость, получится гладкое демо и опасный продукт.
Оценивайте задачу целиком
Ответ может выглядеть хорошо и всё равно не решить задачу. Проверяйте типичные входные данные, пограничные случаи, запрещённое поведение, задержку, стоимость, действия инструментов и то, может ли пользователь заметить ошибку и исправить ситуацию.
Оставьте выход из автоматизации
Людям нужен заметный способ отредактировать, отменить, приостановить, повторить или взять управление на себя. Операторам нужна запись о том, что система видела и что сделала. Эти механизмы контроля — часть продукта, а не признак того, что ИИ не справился.
Конкретная граница на примере Seylo
В задокументированной продуктовой модели Seylo утверждённая информация о бизнесе отделена от черновиков, а возможность передать разговор человеку остаётся на виду. Полезная зона ответственности здесь — отвечать на основе проверенных фактов о бизнесе и сохранять контекст для оператора. Кейс в портфолио показывает, как оператор может просмотреть переписку, взять разговор на себя и держать на виду следующее действие по лиду.
До запуска составьте таблицу оценки
Для гипотетического ассистента магазина заведите по одной строке на каждый случай: известная цена, цена, которой нет в данных, просьба о неутверждённой скидке, товар не в наличии и просьба позвать человека. Укажите допустимый ответ и следующее действие. Правильным ответом, когда цены нет в данных, может быть «Мне нужно это уточнить» с последующей передачей человеку. Складно выдуманная цифра проверку не проходит, даже если фраза звучит услужливо.
Проверяйте результаты после смены модели
Сохраняйте одни и те же примеры входных данных, когда меняете модель, промпт или источник знаний. Фиксируйте, опирался ли ответ на утверждённый факт, выполнилось ли запрошенное действие и осталась ли доступной передача человеку. Разбирайте сбои вместе с оператором, который понимает бизнес. Цель — заметить регресс в реальной зоне ответственности до того, как он всплывёт в разговоре с клиентом.