Корпоративная ИИ-платформа

Основные задачи, выполняемые системой.

  1. Предоставление сотрудникам единого безопасного web-интерфейса для работы с языковыми моделями и ИИ-инструментами.
  2. Централизованное управление доступом пользователей к языковым моделям, инструментам и функциональным возможностям платформы.
  3. Работа с текстовыми запросами, файлами и документами в контексте диалога с языковой моделью.
  4. Подключение дополнительных ИИ-инструментов, включая:
    • web-поиск;
    • голосовой ввод с распознаванием речи;
    • генерацию изображений;
    • экспорт результатов в форматы DOCX и PDF.
  5. Разграничение прав доступа и управление ролями пользователей и администраторов.
  6. Контроль использования ИИ-сервисов в соответствии с корпоративными политиками информационной безопасности.
  7. Проведение DLP-проверок, фиксация действий пользователей и ведение журнала событий.
  8. Управление лимитами, доступными моделями, инструментами и пользовательскими сессиями.
  9. Формирование статистики и аналитики по активности пользователей, потреблению токенов и стоимости использования моделей.
  10. Безопасная централизованная маршрутизация обращений к внешним языковым моделям.

Описание системы.

Корпоративная ИИ-платформа — это программное обеспечение для безопасной и централизованной работы сотрудников организации с языковыми моделями и связанными ИИ-инструментами через единый web-интерфейс.

Платформа предоставляет пользователям доступ к чат-интерфейсу с языковыми моделями, позволяет создавать и сохранять диалоги, выбирать доступную модель, направлять текстовые запросы, загружать файлы и использовать содержащуюся в них информацию в качестве контекста для подготовки ответа.

В состав платформы могут входить дополнительные инструменты: web-поиск, голосовой ввод с распознаванием речи, генерация изображений и экспорт сформированных ответов в документы форматов DOCX и PDF. Ответы языковой модели отображаются с поддержкой Markdown-разметки.

Платформа поддерживает корпоративную аутентификацию, разграничение прав доступа, управление пользователями, ролями, лимитами, моделями и инструментами.

Для контроля информационной безопасности предусмотрены DLP-проверки, аудит пользовательских и административных действий, а также фиксация событий, связанных с использованием чатов, файлов, языковых моделей, инструментов и пользовательских сессий.

Административный контур системы позволяет получать статистику и аналитические отчёты по активности пользователей, количеству диалогов и сообщений, потреблению токенов, стоимости использования моделей и другим показателям за выбранный период.

Программное обеспечение может использоваться как единая внутренняя ИИ-платформа организации и размещаться в корпоративной инфраструктуре заказчика. Обращения к внешним языковым моделям могут выполняться через выделенный компонент, обеспечивающий централизованный контроль, аудит и применение корпоративных политик информационной безопасности.

Основные функциональные возможности.

Пользовательские функции:

  • работа с языковыми моделями через единый чат-интерфейс;
  • создание, ведение и просмотр истории диалогов;
  • выбор доступной языковой модели;
  • отправка текстовых запросов и получение структурированных ответов;
  • загрузка файлов и использование документов в контексте диалога;
  • преобразование содержимого документов в формат, пригодный для обработки языковой моделью;
  • голосовой ввод с распознаванием речи;
  • выполнение web-поиска в рамках обработки запроса;
  • генерация изображений;
  • экспорт отдельных ответов в форматы DOCX и PDF;
  • оценка качества ответа с помощью пользовательской реакции;
  • использование дополнительных инструментов непосредственно из интерфейса чата.

Административные функции:

  • управление пользователями и их статусами;
  • управление ролями и административными правами;
  • блокировка и разблокировка пользователей;
  • управление дневными лимитами;
  • управление доступом пользователей к моделям и инструментам;
  • управление пользовательскими сессиями;
  • просмотр результатов DLP-проверок;
  • ведение аудита пользовательских и административных действий;
  • просмотр дашбордов активности пользователей;
  • просмотр показателей потребления токенов и стоимости использования моделей;
  • формирование статистических и агрегированных отчётов за выбранный период.

Порядок работы с системой.

  1. Пользователь проходит корпоративную аутентификацию и открывает web-интерфейс платформы.
  2. Пользователь создаёт новый диалог либо продолжает работу в ранее созданном чате.
  3. При наличии соответствующих прав пользователь выбирает языковую модель и доступные инструменты.
  4. Запрос вводится в текстовой форме либо с использованием функции голосового ввода.
  5. При необходимости пользователь прикрепляет документы и файлы, содержимое которых используется в качестве контекста запроса.
  6. Платформа выполняет обработку запроса в соответствии с установленными правилами доступа и политиками безопасности, после чего направляет обращение к выбранной языковой модели.
  7. Сформированный ответ отображается в интерфейсе чата. Пользователь может уточнить запрос, продолжить диалог, использовать дополнительные инструменты или оценить полученный результат.
  8. При необходимости отдельный ответ экспортируется в документ формата DOCX или PDF.
  9. Информация об использовании платформы, действиях пользователей, потреблении токенов и стоимости фиксируется и отображается в административной аналитике.

Требования для установки и эксплуатации.

Минимальные требования к серверу:

  • операционная система: Linux Ubuntu или совместимая операционная система;
  • процессор: не менее 2 ядер с частотой около 2 ГГц;
  • оперативная память: не менее 8 ГБ;
  • дисковое пространство: не менее 30 ГБ SSD/HDD;
  • сетевой доступ пользователей к web-интерфейсу по протоколу HTTPS;
  • размещение инфраструктуры на территории Российской Федерации.

Рекомендуемые требования к серверу:

  • процессор: 4 ядра и более;
  • оперативная память: 16 ГБ и более;
  • дисковое пространство: от 100 ГБ SSD;
  • ежедневное резервное копирование базы данных PostgreSQL и файлового хранилища;
  • использование HTTPS с действующим TLS-сертификатом.

Требования к рабочему месту пользователя:

  • современный web-браузер;
  • доступ к web-интерфейсу системы;
  • поддержка загрузки файлов через браузер;
  • наличие и разрешение на использование микрофона при работе с функцией голосового ввода;
  • установка дополнительного программного обеспечения на рабочее место не требуется.

Примечание: указанные требования относятся к базовой конфигурации платформы при подключении к внешним языковым моделям через API. Требования к инфраструктуре для локального размещения и запуска LLM рассчитываются отдельно с учётом выбранных моделей, количества пользователей, объёма обрабатываемых данных и требуемой производительности.

Стоимость внедрения — от 3 000 000 рублей без НДС

Итоговая стоимость определяется индивидуально и зависит от количества пользователей, состава подключаемых языковых моделей и ИИ-инструментов, варианта размещения платформы, требований к информационной безопасности, объёма интеграций с корпоративными системами, необходимых доработок и индивидуальных особенностей бизнес-процессов заказчика. Точная стоимость рассчитывается после анализа требований и согласования технического задания.

Стоимость вычислительной инфраструктуры для локального размещения языковых моделей, включая серверное оборудование и графические ускорители, рассчитывается отдельно.