На совещаниях часто путают «чат с GPT» и AI-агента. Разница не в красноречии модели, а в праве безопасно выполнять действия в CRM и внутренних сервисах.
Фраза «давайте внедрим ChatGPT» обычно скрывает два разных продукта. Первый — диалоговый помощник. Второй — система, которая планирует шаги и вызывает инструменты. Путаница дорого обходится: ждут автоматизацию склада, а получают FAQ-бота.
Чат-бот: диалог без «рук»
Классический бот принимает текст и возвращает текст. Даже если внутри LLM, без function calling он не видит остатки, сделки и календарь — только имитирует знание. Для справочника, первичного сбора контактов и обучения по статическим материалам этого достаточно.
Минус очевиден: каждый новый сценарий («перенеси встречу», «создай задачу», «проверь счёт») требует отдельной разработки или разветвления intent-дерева.
AI-агент: цикл мысль — действие
Агент строится вокруг цикла: цель → план → вызов tool → наблюдение → коррекция. В API это оформляется как JSON Schema функций. Модель не ходит в сеть сама — middleware проверяет права, вызывает ваш REST и возвращает сжатый результат.
Отличие от «просто RAG»: агент может сначала найти регламент, затем создать задачу в CRM и приложить ссылки. Без оркестратора каждый шаг — кнопка для оператора.
Три уровня памяти
- Окно диалога — дешево, но забывается в новой сессии.
- Долговременная память — профиль и факты в CRM / vector store с политикой ПДн.
- Оперативная память агента — scratchpad: уже вызванные tools, id сущностей, гипотезы.
Для B2B источником истины остаётся CRM: диалог дополняет учёт, а не подменяет его.
Ограничения, о которых молчат на демо
Модель может выбрать неверный tool или подставить чужой id сделки. Production-контур обязан иметь whitelist, лимит шагов, human-in-the-loop на деньги и полный лог. Галлюцинации не исчезают — они переезжают в «уверенный» JSON. Растёт и стоимость: один вопрос клиента = несколько вызовов LLM плюс API.
Пример из продаж
Менеджер пишет: «подготовь follow-up по сделке 1842». Бот без tools выдаст шаблон письма. Агент: прочитает сделку, найдёт в RAG последнее КП, соберёт черновик и задачу — но не отправит письмо без подтверждения.
Как выбирать
- Бот — FAQ, квалификация лида, обучение.
- Агент только на чтение — безопасный первый релиз.
- Полный агент — операции в CRM/ERP при строгом ACL.
Если вы уже «заливаете PDF в чат», следующий шаг — не ещё больше файлов, а RAG и контролируемые tools. Иначе упрётесь в качество ответов и compliance.