Источник: «Яков и Партнеры»
12%
компаний
уже определили приоритетные функции и сценарии для внедрения GenAI
1,3
трлн руб.
ожидаемый эффект от GenAI для экономики России
5%
EBITDA
потенциальный финансовый эффект от внедрения AI
GenAI-трансформация бизнеса с LLM
LLM приближает AI к человеческому уровню взаимодействия и экспертизы
Области применения LLM в бизнесе
  • Оценка соответствия кандидата требованиям
  • Составление текстов вакансий
  • Бот для онбординга сотрудников
HR
  • Поиск по базе знаний
  • Чат-бот для Helpdesk
  • Подача заявок в сервисные службы
Поддержка сотрудников
  • Составление скриптов для операторов контакт-центров
  • Анализ отзывов и обратной связи
  • Клиентские чат-боты
Клиентский сервис
  • Генерация текстов рассылок, статей, пресс-релизов
  • Оценка качества и классификация лидов
Маркетинг
  • Подготовка закупочной документации
  • Переговоры с поставщиками
  • Поиск по базе МТР
Закупки
  • Генерация кода
  • Разработка технической документации
  • Перевод кода на другие языки
ИТ
Управление жизненным циклом решений с LLM
Что мы предлагаем
Создание и тиражирование внутри компании AI-сотрудников на базе LLM, обладающих навыками и способностью самостоятельно работать в информационных системах
Создание решений на low-code платформе
Адаптация LLM под требования бизнеса и повышение качества ответов модели в различных сценариях применения
Консалтинг по адаптации LLM под клиента
Интеграция нейросетевой модели GigaChat в контур организации по разным моделям поставки: публичное облако, частное облако, on-premise
Развертывание LLM в контуре организации
Мультимодальность: поддерживает текст и изображения
Качественный претрейн – контролируемое качество ответов
Более простая интеграция в сравнении с open-source моделями
LLM мирового уровня
Оптимизация инференса – снижение требований к железу
Состоит в реестре ПО Минцифры РФ
Отдельный экземпляр GigaChat работает в контуре клиента
Данные остаются в контуре
В закрытом контуре
GigaChat в контуре
Данные клиента
Контур клиента
Данные в запросах передаются в созданный для клиента отдельный экземпляр GigaChat в защищенном контуре облачного провайдера
В приватном облаке
Private GigaChat
Данные клиента
Выделенный контур в облаке
Контур клиента
Модели поставки GigaChat
Данные клиента
Публичное облако
Public GigaChat
Публичное облако
Данные в запросах к API передаются в публичную модель в облако в России
В публичном облаке
GenAI-консалтинг по внедрению LLM
Повышение качества ответов GigaChat в целевых кейсах с 50-60% до 80-90%
По оценке экспертов группы компаний ЦРТ, не является SLA
  • Создание сценариев на low-code платформе
  • Разработка специализированных агентов
  • Настройка взаимодействия между агентами
  • Оркестрация агентов
  • Подключение агентов к окружению
Создание мультиагентной системы
Предоставление модели дополнительного контекста или информации из внешних источников данных вместе с вопросом пользователя
Построение контекста заказчика в модели, внедрение RAG
- метод fine-tuning, который добавляет адаптеры к основной сети, позволяя выполнять индивидуальную тонкую настройку модели
Доменная адаптация и митигация галлюцинаций
LoRA
SFT
- обучение LLM на предварительно размеченных данных
Выбор оптимальной модели
Самая продвинутая модель, обладающая способностью понимать сложные запросы пользователей, включая работу с изображениями, графиками и таблицами. Подходит для решения самых трудных задач в сфере обработки естественного языка. GigaChat MAX генерирует высококачественные тексты, проводит углубленный анализ данных и оказывает помощь в программировании.
Описание
Модель для простых задач генерации и суммаризации небольших текстов. Подходит для апробации технологии и сценариев, не требующих вариативности
GigaChat MAX
Модель
GigaChat Lite
32K
Контекст
32K
Продвинутая модель с лучшим качеством генерациии понимания языка. Подойдет для комплексных задач, требующих креатива и сложных инструкций. Повышенное качество в доменах экономика и юрспруденция.
GigaChat Pro
32K
Промптинг
Хороший промпт
  • Написание и оптимизация промптов под задачи заказчика
  • Анализ и внедрение Best practices
Плохой промпт
  • Создание сценариев на low-code платформе
  • Разработка специализированных агентов
  • Настройка взаимодействия между агентами
  • Оркестрация агентов
  • Подключение агентов к окружению
Создание мультиагентной системы
Предоставление модели дополнительного контекста или информации из внешних источников данных вместе с вопросом пользователя
Построение контекста заказчика в модели, внедрение RAG
- метод fine-tuning, который добавляет адаптеры к основной сети, позволяя выполнять индивидуальную тонкую настройку модели
Доменная адаптация и митигация галлюцинаций
LoRA
SFT
- обучение LLM на предварительно размеченных данных
Самая продвинутая модель, обладающая способностью понимать сложные запросы пользователей, включая работу с изображениями, графиками и таблицами. Подходит для решения самых трудных задач в сфере обработки естественного языка. GigaChat MAX генерирует высококачественные тексты, проводит углубленный анализ данных и оказывает помощь в программировании.
GigaChat MAX
32K
Выбор оптимальной модели
Продвинутая модель с лучшим качеством генерациии понимания языка. Подойдет для комплексных задач, требующих креатива и сложных инструкций. Повышенное качество в доменах экономика и юрспруденция.
Описание
Модель для простых задач генерации и суммаризации небольших текстов. Подходит для апробации технологии и сценариев, не требующих вариативности
GigaChat Pro
Модель
GigaChat Lite
32K
Контекст
32K
Промптинг
Хороший промпт
  • Написание и оптимизация промптов под задачи заказчика
  • Анализ и внедрение Best practices
Плохой промпт
Low-code платформа
Корпоративная Low-Code AI-платформа разработки и запуска решений для бизнеса на основе мультиагентной системы
Все источники данных, базы знаний, интеграции с ИТ-системами и ансамбль моделей в одном месте во внутреннем ИТ-контуре
Создание новых узкоспециализированных решений, навыков и агентов встроенными инструментами платформы
Быстрое тестирование гипотез через создание специализированных AI-сотрудников из набора готовых навыков и агентов
AI-сотрудник – готовый сценарий использования навыков и агентов на платформе для выполнения профессиональных функций с минимальными затратами на доработку и интеграцию (например, co-pilot инженера, AI-помощник финансиста)
Действия – определенные функции, которые выполняют агенты или простые действия в рамках навыка (например, вызов LLM)
Навыки – бизнес-сценарии, решающие определенную задачу конечного пользователя (например, найти информацию в базе знаний)
Агенты – модули или источники данных, которые выполняют определенные действия (в том числе обменивается потоками данных с другими агентами
и LLM) и обладают ролью, памятью и восприятием (например, агент проверки документа)
AI-сотрудник – готовый сценарий использования навыков и агентов на платформе для выполнения профессиональных функций с минимальными затратами на доработку и интеграцию (например, co-pilot инженера, AI-помощник финансиста)
Действия – определенные функции, которые выполняют агенты или простые действия в рамках навыка (например, вызов LLM)
Навыки – бизнес-сценарии, решающие определенную задачу конечного пользователя (например, найти информацию в базе знаний)
Агенты – модули или источники данных, которые выполняют определенные действия (в том числе обменивается потоками данных с другими агентами
и LLM) и обладают ролью, памятью и восприятием (например, агент проверки документа)
Пример обработки запроса
Пример обработки запроса
Готовые AI-помощники
Диалоговая система на основе RAG, в которой пользователь вводит вопрос на естественном языке и получает ответ со ссылкой на соответствующие документы из базы знаний
Поисковый AI-помощник сотрудника
Решение на основе LLM, которое ускоряет поиск ответов на вопросы, касающихся финансового анализа, например, факторного анализа маржинального дохода
AI-помощник финансиста-аналитика
Решение позволяет инженерам-диагностам вести диалог с AI-помощником для формирования гипотез, выявления причин и получения рекомендаций по устранению неисправностей оборудования
Co-pilot инженера-диагноста
Решение на основе LLM, которое позволяет оптимизировать процесс закупки материально-технических ресурсов путем поиска аналогов оборудования на основе его технических параметров
AI-ассистент по закупкам
Ассистент, который сопровождает оператора контакт-центра и предоставляет ему необходимую информацию из базы знаний в процессе диалога с клиентом
AI-помощник оператора контакт-центра
Решение, основанное на синтезе технологий распознавания речи и LLM, которое позволяет подготавливать итоговое резюме встречи, протокол на его основе и выделять итоги, принятые решения и дальнейшие шаги
Суммаризация и протоколирование совещаний
Получите консультацию по внедрению LLM в ваш бизнес
Получить консультацию
СМИ о компетенциях группы ЦРТ

Мы используем файлы cookie, чтобы чтобы улучшать качество нашего взаимодействия. Если вы продолжите навигацию по сайту, это значит, что вы с этим согласны.