Качество и безопасность ИИ

Вкладка «Качество и безопасность ИИ» постоянно отслеживает ответы ассистента: вопросы без ответа, рискованные реплики и возможности улучшения — всё на одном экране.

Оценка качества

Оценка от 0 до 100 на подвкладке «Обзор» отражает качество ответов за сегодня. Она рассчитывается по объёму сообщений, найденным пробелам в знаниях и результатам проверки безопасности. Значение выше 80 считается здоровым.

Обнаружение пробелов в знаниях

Когда ассистент не находит ответа в базе знаний, система автоматически анализирует диалог. Не каждое несовпадение считается пробелом — сообщения сначала классифицируются:

• Приветствия / команды бота / короткие ответы: «Привет», «/start», «Ок» не требуют действий и в список не попадают.
• Общие вопросы: вопросы, не связанные с вашим бизнесом (погода и т.п.), пробелом не считаются.
• Реальные пробелы: задан вопрос о вашем бизнесе, в базе знаний ответа не было, и ассистент не справился — в список попадают только такие случаи.

На подвкладке «Улучшения» для каждого пробела можно одним кликом получить черновик FAQ от ИИ, отредактировать и добавить в базу знаний. Нерелевантные записи можно скрыть по одной или массово.

Проверка безопасности

На платных тарифах каждый ответ ассистента автоматически проверяется в фоне после отправки: выявляются рискованные паттерны (несанкционированные обещания, неподтверждённые цены, запрос чувствительных данных), и ответ получает оценку безопасности 0-100. Ответы с низкой оценкой попадают в список улучшений; в критических случаях вы получите уведомление.

Настройки безопасности

• Отрасль: автоматически применяется набор правил для вашей отрасли (например, запрет медицинских советов в здравоохранении).
• Чувствительность: Мягкая / Сбалансированная / Строгая — для регулируемых отраслей рекомендуется «Строгая».
• Ограничения ИИ: отдельные переключатели: обещания по ценам, мед./юр. советы, обсуждение конкурентов, сбор чувствительных данных, обязывающие обещания.
• Свои ключевые слова: получайте предупреждение, когда в ответах встречаются заданные вами слова (например, бренды конкурентов).

Связанные темы