Сервисы платформы
Микросервисная архитектура Coren позволяет масштабировать каждый компонент независимо и интегрировать только необходимые функции.
Архитектура
┌─────────────────────────────────────────────────────────────────┐
│ API Gateway │
│ (Auth, Rate Limit, Load Balancing) │
└─────────────────────────────────┬───────────────────────────────┘
│
┌─────────────────────────────┼─────────────────────────────┐
│ │ │
▼ ▼ ▼
┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ Inference │ │ RAG │ │ Agents │
│ Router │◄─────────►│ Service │◄─────────►│Orchestrator │
└─────────────┘ └─────────────┘ └─────────────┘
│ │ │
└─────────────────────────────┼─────────────────────────────┘
│
┌─────────────────────────────┼─────────────────────────────┐
│ │ │
▼ ▼ ▼
┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ Model │ │ Policy │ │ Fine-tuning │
│ Registry │ │ Engine │ │ Engine │
└─────────────┘ └─────────────┘ └─────────────┘
│
▼
┌─────────────────────────────────────────────────────────────────┐
│ PostgreSQL │ Redis │ Milvus │ S3/MinIO │
└─────────────────────────────────────────────────────────────────┘Основные сервисы
Inference Router
StableЕдиный API для работы с LLM. Маршрутизация запросов, балансировка нагрузки, failover между моделями.
Chat CompletionsEmbeddingsStreamingBatch
RAG Service
StableПоиск по корпоративным документам. Векторное хранилище, chunking, гибридный поиск с reranking.
IngestionVector SearchBM25Reranking
Agent Orchestrator
StableОркестрация AI агентов с инструментами. DAG workflows, память сессий, параллельное выполнение.
ToolsWorkflowsMemoryParallel
Model Registry
StableУправление моделями и их версиями. Деплой, откат, A/B тестирование, мониторинг.
VersioningDeployRollbackMetrics
Fine-tuning Engine
BetaДообучение моделей на ваших данных. Full fine-tuning, LoRA, QLoRA с автоматическим подбором параметров.
LoRAQLoRADatasetsEval
Policy Engine
StableПолитики безопасности и контроль контента. Фильтрация, PII detection, compliance для банков.
GuardrailsPIIFiltersAudit