«Когнитрон»: ИИ от «Росатом»
Создание ИИ-агентов, RAG-конвейер, работа с LLM (текст, аудио, видео). Автоматизация поиска, техподдержки, анализа рисков и скоринга. Масштабируемость и снижение затрат.
Платформа искусственного интеллекта «Когнитрон»: комплексное решение для создания ИИ-агентов и автоматизации бизнес-процессов
Современный бизнес сталкивается с лавинообразным ростом данных, необходимостью быстрой обработки документов и поиска скрытых закономерностей. В ответ на эти вызовы разработана Платформа искусственного интеллекта «Когнитрон» — комплексное программное решение, которое объединяет инструменты обучения и развертывания моделей ИИ, а также создания ИИ-помощников и ИИ-агентов.
Ключевая особенность: Платформа поддерживает работу с большими языковыми моделями (LLM) модальности любого типа: текст, изображение, аудио, видео.
Назначение и цели системы
«Когнитрон» выступает в роли среды, обеспечивающей коммуникацию и координацию ИИ-агентов между собой, а также средства интеграции с внешними ИТ-системами. Разработчиком выступает ООО «Философия.ИТ».
Основные цели внедрения:
- Переход от ручного анализа к интеллектуальной автоматизации
- Снижение зависимости от экспертного опыта
- Повышение скорости адаптации к изменениям
Внедрение платформы позволит значительно повысить скорость и эффективность автоматизируемого процесса. В случае увеличения объема данных платформа легко справится с возросшей нагрузкой, что обеспечит масштабируемость системы.
Функциональные возможности
Платформа обеспечивает решение широкого спектра прикладных задач:
➡️ Интеллектуальный поиск по документам и формирование ответа на заданные вопросы
➡️ Ранжирование документов по степени близости к поисковой строке с выдачей Топ-10 документов
➡️ Ответы на специфичные вопросы в предметной области, по которой выполнено обучение модели
➡️ Помощь в текущем обслуживании и ремонте оборудования, диагностика аномалий и формирование рекомендаций
➡️ Замена первой линии технической поддержки
➡️ Контроль соответствия документов требованиям ЛНА, ГОСТ, законодательства и анализ рисков
➡️ Помощник по анализу финансовых рынков и предметов инвестиций
➡️ Автоматический скоринг кандидатов, описание вакансии и составление должностных инструкций
Автоматизация позволит сократить время, затрачиваемое на выполнение рутинных задач, что приведет к снижению затрат на персонал.
Техническая архитектура и технологический стек
Архитектура «Когнитрон» построена на принципах микросервисов и включает следующие ключевые компоненты:
Основные сервисы платформы
1️⃣ Сервис внутреннего API – центральная точка входа (RESTful), обеспечивающая маршрутизацию запросов, аутентификацию и логирование.
2️⃣ RAG-конвейер – система Retrieval-Augmented Generation для обогащения запросов релевантной информацией из хранилищ документов.
3️⃣ Оркестратор – управляет потоками выполнения рабочих процессов, обработкой ошибок и отслеживанием статуса задач.
4️⃣ Скрапер – автоматизирует сбор данных из внешних источников (веб-сайты, API, документы).
5️⃣ Индексатор – преобразует неструктурированные данные в индексированный формат, создает семантические представления.
6️⃣ Web-интерфейс пользователя и Web-интерфейс администратора (панель управления с мониторингом, управлением пользователями и аналитикой).
Технологический стек
| Компонент | Назначение |
|---|---|
| Python / FastAPI | Backend-разработка, создание API |
| LangChain | Создание цепочек обработки данных и интеграция LLM с внешними источниками |
| TypeScript / Angular | Разработка одностраничных веб-приложений (SPA) |
| OpenSearch | Поисковая система для текстовой и векторной информации, семантический поиск |
| PostgreSQL | Хранение метаинформации, конфигурации, логов (бизнес-данные не хранятся) |
| VLLM / Transformers | Обслуживание LLM и работа с NLP/CV/мультимодальными моделями |
| Infinity / Sentence-Transformers | Векторный поиск и получение векторных представлений предложений |
| Unstructured | Извлечение данных из неструктурированных документов (PDF, DOCX и др.) |
| Celery + Redis | Фоновые и периодические задачи, брокер сообщений и кэширование |
| NGINX | Веб-сервер и обратный прокси |
| MinIO | Объектное хранилище (совместимо с S3) для исходных документов |
| Keycloak | Управление идентификацией и доступом (IAM), SSO, OAuth 2.0, SAML |
Взаимодействие компонентов осуществляется по протоколу TCP. Пользователи подключаются по HTTP(S) через веб-браузер.
Технические требования (ТТХ)
Для корректного развертывания и эксплуатации Платформа «Когнитрон» предъявляет следующие требования к инфраструктуре.
Требования к рабочему месту пользователя
- ОС: Windows / MacOS / Linux
- Веб-браузер: актуальная версия
- CPU: 2 ядра
- RAM: 4 ГБ
- SSD: 128 ГБ
Требования к серверной инфраструктуре (минимальные)
Базовая конфигурация (CPU-only):
- ОС: РЭДОС 8, Astra Linux 1.8 и новее
- ПО: Docker Engine, Docker Compose
- CPU: 16 ядер
- Оперативная память (RAM): 64 ГБ
- Накопитель (SSD): 300 ГБ
Конфигурация с GPU (опционально):
- ОС: РЭДОС 8, Astra Linux 1.8 и новее
- ПО: Docker Engine, Docker Compose, NVIDIA Container Toolkit, NVIDIA GPU driver
- CPU: 16 ядер
- Оперативная память (RAM): 32 ГБ
- Накопитель (SSD): 300 ГБ
- GPU: NVIDIA A100 / H100, 80 ГБ видеопамяти
Важное примечание: В конфигурации с GPU объем оперативной памяти может быть снижен до 32 ГБ, так как основные вычисления переносятся на видеокарту. Для CPU-версии требуется 64 ГБ RAM.
Выгоды для заказчика
Подводя итог, можно выделить ключевые преимущества от внедрения «Когнитрон»:
- Замена ручного анализа интеллектуальной автоматизацией
- Снижение зависимости от экспертного опыта и ускорение адаптации к изменениям
- Сокращение времени на рутинные задачи и, как следствие, снижение затрат на персонал
- Гарантированная масштабируемость при росте объемов данных
Платформа «Когнитрон» представляет собой современное, технически зрелое решение для предприятий, готовых перевести обработку знаний и поддержку пользователей на новый уровень с использованием LLM и RAG-технологий.
Опубликовано:
