Качество и безопасность ИИ

«Качество и безопасность ИИ» используется для разбора ответов ассистента и выявления тем, требующих улучшения. В этом разделе можно отслеживать пробелы в знаниях, оценки безопасности и соответствующие настройки.

Разделы

• Обзор: показывает оценку качества, статус оценки и сводные показатели.
• Улучшения: перечисляет пробелы в знаниях и ответы, требующие разбора.
• Настройки безопасности: позволяют управлять предпочтениями проверки и ограничениями безопасности, которых должен придерживаться ассистент.

Что показывает оценка качества?

Оценка качества от 0 до 100 рассчитывается из числа сообщений за день, выявленных пробелов в знаниях и результатов оценки безопасности. HaveAI показывает оценки 80 и выше в группе высокого качества. Эта классификация относится к оценке, которую вычисляет HaveAI; она не заменяет поштучный разбор ответов.

Не интерпретируйте оценку в отрыве. В день без сообщений оценка может показывать 100. Если проверка безопасности отключена, соответствующие оценки не формируются. Вместе с оценкой проверяйте число сообщений, открытые проблемы и активность проверки.

Обнаружение пробелов в знаниях

Когда ассистент не находит достаточной бизнес-информации для вопроса, система может оценить это как возможный пробел в знаниях. Не каждое несовпадение считается пробелом:

• Сообщения вроде «Привет», «Ок» или команды бота пробелом не считаются.
• Общие вопросы, не связанные с вашим бизнесом, оцениваются отдельно.
• Недостаточный ответ на вопрос о вашем бизнесе из-за отсутствия нужной информации может быть темой улучшения.

Разбирая автоматические обнаружения, читайте вопрос клиента и данный ответ вместе. Если нужная информация уже есть, проверьте ясность и точность существующей записи вместо добавления новой копии.

Обработка записи улучшения

Закрытие записи само по себе не показывает, что ассистент теперь отвечает верно. Проверьте ответ дополнительно.

Проверка безопасности

Проверка безопасности оценивает отправленные ответы в фоне. Изучая риски: обещания цен, неподтверждённая информация, запрос чувствительных данных или обязывающие обещания — она может формировать оценку безопасности и предупреждения.

Эта проверка работает после отправки ответа. Появление риска в списке не означает, что сообщение было заблокировано до достижения клиента. Ответы, требующие разбора, появляются в разделе «Улучшения»; при выполнении условий уведомления может формироваться предупреждение.

Доступность проверки зависит от вашего тарифа и прав аккаунта. На платных тарифах она может быть включена по умолчанию; её статус можно проверить в «Настройках безопасности». Поскольку на аккаунтах, показанных как Free, и при особых правах могут быть отличия, ориентируйтесь на информацию об активности вашего аккаунта.

Настройки безопасности

• Отрасль: используется для определения подходящих вашему бизнесу правил.
• Чувствительность проверки: Мягкая, Сбалансированная или Строгая — влияют на пороги оценки. Выберите уровень, соответствующий рискам вашего бизнеса.
• Ограничения ИИ: управляйте опциями по темам: обещания цен, мед./юр. советы, обсуждение конкурентов, запрос чувствительных данных и обязывающие обещания.
• Свои ключевые слова: отслеживайте заданные вами выражения в оценках. Не интерпретируйте правило предупреждения как удаление слова из текста ответа при любых условиях.

Настройки безопасности не заменяют поддержание бизнес-информации точной и актуальной. После сохранения настроек опробуйте связанные примеры вопросов на экране «Тест ИИ».

Связанные темы