Почему российские модели
- Данные в РФ. Проще соблюсти требования 152-ФЗ при работе с персональными данными.
- Доступность. Официальные API, договоры и закрывающие документы для юрлиц.
- Русский язык. Модели хорошо работают с русскоязычными текстами и терминологией.
YandexGPT и GigaChat: в чём разница
Обе модели доступны через API с тарификацией по объёму обработанного текста и имеют несколько версий — от быстрых и недорогих до более мощных. YandexGPT работает в экосистеме Yandex Cloud рядом с другими сервисами облака, GigaChat — в инфраструктуре Сбера. Качество на конкретной задаче лучше всего проверять на ваших данных: в пилоте мы сравниваем модели на одном наборе вопросов и выбираем оптимальную по качеству и цене.
Подробное сравнение — в статье «GigaChat, YandexGPT или ChatGPT».
Что делаем
- Выбор модели и тарифа под задачу и объём запросов.
- Разработка промптов и цепочек обработки.
- Подключение базы знаний — RAG.
- Интеграция в CRM, сайт, мессенджеры, внутренние системы.
- Тестирование качества и мониторинг после запуска.
Модели на своих серверах
Если данные не должны покидать контур компании, разворачиваем open-source модели на ваших серверах или в частном облаке. Это требует GPU-ресурсов — рассчитаем инфраструктуру под нагрузку.