Выбор стека
Ваш AI-стек, а не вендора.
Пятнадцать слоёв в шести блоках. Нужны те, которые зажигают ваши проблемы.
Шесть фактов выбирают инструменты и считают цену. Ничего не отправляется.
Экспресс-черновик. Полный — AI of Common Sense · созвониться
Шесть фактов о вас
Заполните их — и стек появится ниже. Назовите платформу, и появится вторая колонка: те же слои в её собственных сервисах, со своей ценой.
Ничего не сохраняется и не отправляется.
Рекомендуемый AI-стек
Появится, когда в брифе будет: кто поддерживает, где лежат данные, что нужно, где вы сейчас, ваша платформа.
Весь каталог
Все инструменты по слоям и категориям. Когда факты заполнены, выбранное подсвечивается здесь. Этап под каждым слоем — порядок из статьи: пилот, продакшен, масштаб.
- open source
- $ вендоры
- $$ дорогой вендор
- первый выбор в своём слое
Model
01Model
Пишет ответ: API провайдера или открытые веса на вашем inference-сервере.
Этап 1: пилот
API провайдера
- Anthropic APIПервый выбор в этом слое$$ вендоры↗Hosted frontier models
- OpenAI APIПервый выбор в этом слое$$ вендоры↗Hosted frontier models
- Amazon Bedrock models$$ вендоры↗Models in AWS · AWS
- Azure OpenAI$$ вендоры↗OpenAI models in Azure · Azure
- Cortex AI models$$$$ дорогой вендор↗Models in Snowflake · Snowflake
- Gemini API$$ вендоры↗Hosted frontier models · Google Cloud
- Alibaba Cloud Model Studio$$ вендоры↗Hosted Qwen
- Cohere$$ вендоры↗Enterprise models and rerank
- Databricks Model Serving$$$$ дорогой вендор↗Inference · Databricks
- DeepSeek API$$ вендоры↗Hosted DeepSeek
- Fireworks$$ вендорыModel cloud
- Groq$$ вендорыFast inference
- Mistral$$ вендоры↗EU hosted models
- Modal$$ вендорыGPU compute
- Together$$ вендорыModel cloud
- Baseten$$ вендорыModel serving
открытые веса
- Qwen (Alibaba)Первый выбор в этом слоеopen source↗Open weights, frontier-class
- DeepSeekopen source↗Open weights, reasoning
- GLM (Zhipu / Z.ai)open source↗Open weights, agents and coding
- Kimi K2 (Moonshot)open source↗Open weights, long context
- gpt-oss (OpenAI)open source↗Open weights from OpenAI
- Gemma (Google)open source↗Open weights, small
- Llama (Meta)open source↗Open weights, the ecosystem default
- MiniMax M-seriesopen source↗Open weights, efficient
- Mistral open weightsopen source↗Open weights, EU
inference-сервер
- vLLMПервый выбор в этом слоеopen sourceInference server
- Ollamaopen sourceLocal models
- SGLangopen sourceInference server
Context
02System prompt
Роль и границы, с версиями и тестами, как код.
Этап 1: пилот
управление промптами
- Prompts in gitopen sourcePrompts as code
- PromptLayer$$ вендоры↗Prompt management
03Knowledge base
Документы, каталог данных и связи между ними; поиск с учётом прав пользователя.
Этап 1: пилот
разбор документов
поиск
- pgvectorПервый выбор в этом слоеopen sourcePostgres vectors
- Cortex Search$$$$ дорогой вендор↗Retrieval in Snowflake · Snowflake
- Databricks Vector Search$$ вендоры↗Retrieval in Databricks · Databricks
- Qdrantopen sourceVector database
- Vertex AI Search$$ вендоры↗Retrieval in GCP · Google Cloud
- Azure AI Search$$$$ дорогой вендор↗Enterprise search · Azure
- Bedrock Knowledge Bases$$$$ дорогой вендор↗Managed RAG · AWS
- BigQuery$$$$ дорогой вендор↗Knowledge base · Google Cloud
- Chromaopen sourceEmbedded vectors
- Elasticsearchopen sourceSearch engine
- LanceDBopen sourceColumnar vectors
- OpenSearchopen source↗Search engine
- Pinecone$$ вендорыManaged vectors
- Weaviateopen sourceVector database
- Turbopuffer$$ вендорыObject-store vectors
фреймворк поиска
- LlamaIndexПервый выбор в этом слоеopen source↗Data agents and RAG
- Haystackopen sourcePipeline RAG
каталог данных
04Semantic layer
Одно определение каждой метрики и сущности; ответы строятся на нём, а не на сырых таблицах.
Этап 3: масштаб
метрики
- CubeПервый выбор в этом слоеopen source↗Semantic layer
- Fabric and Power BI semantic models$$ вендоры↗Metrics in Microsoft · Azure
- Snowflake Semantic Views$$$$ дорогой вендор↗Metrics in the warehouse · Snowflake
- Unity Catalog metric views$$ вендоры↗Metrics in Databricks · Databricks
- dbt Semantic Layer$$ вендоры↗Metrics on dbt
- Looker (LookML)$$$$ дорогой вендор↗Metrics in GCP · Google Cloud
- Power BI semantic model$$ вендоры↗Metrics in Microsoft · Azure
вопросы к модели данных
- AI/BI Genie$$ вендоры↗Questions over the lakehouse · Databricks
- Cortex Analyst$$$$ дорогой вендор↗Questions over semantic views · Snowflake
- Wren AIopen source↗Text-to-SQL on a semantic model
- Amazon Q in QuickSight$$ вендоры↗Questions over QuickSight · AWS
- Copilot in Power BI$$ вендоры↗Questions over Power BI · Azure
- Gemini in Looker$$$$ дорогой вендор↗Questions over LookML · Google Cloud
- Vannaopen source↗Text-to-SQL
05Data quality
Показывает, можно ли сегодня доверять таблицам, из которых берётся ответ.
Этап 3: масштаб
проверки в коде
Agent
06Harness
Ведёт цикл: план, вызовы, лимиты и точка, где решение подтверждает человек.
Этап 1: пилот
фреймворк агентов
- LangGraphПервый выбор в этом слоеopen source↗Graph orchestrator
- Microsoft Agent Frameworkopen source↗Enterprise agents · Azure
- OpenAI Agents SDKopen source↗Handoff orchestration
- Pydantic AIopen sourceTyped agents
- CrewAIopen source↗Role crews
- Google ADKopen source↗Graph workflows · Google Cloud
- Gooseopen source↗Local coding agent
- Mastraopen sourceTypeScript agents
- Strands Agentsopen source↗AWS-native SDK · AWS
- Agnoopen sourceLightweight agents
- Hermes Agentopen source↗Reference runtime
- LangChainopen sourceChain toolkit
- OpenClawopen source↗Personal agent gateway
- Microsoft AutoGenopen source↗Group chat · Azure
- Semantic Kernelopen source↗Plugins and processes · Azure
durable workflows
платформа агентов
- Microsoft FoundryПервый выбор в этом слое$$$$ дорогой вендор↗Microsoft agent service · Azure
- Amazon Bedrock AgentCore$$$$ дорогой вендор↗AWS managed agents · AWS
- Databricks Agent Bricks$$$$ дорогой вендор↗Lakehouse agents · Databricks
- Gemini Enterprise Agent Platform$$$$ дорогой вендор↗GCP agent platform · Google Cloud
- Snowflake Cortex Agents$$$$ дорогой вендор↗Warehouse agents · Snowflake
- Salesforce Agentforce$$$$ дорогой вендорCRM agents · salesforce
- Agynopen source↗Agent runtime control
07Memory
Помнит разговор и клиента между сессиями.
Этап 2: продакшен
08MCP & skills hub
Инструменты, навыки и песочницы из одного каталога: что агент умеет и где выполняется его код.
Этап 1: пилот
MCP gateway и реестр
skills
- Agent SkillsПервый выбор в этом слоеopen source↗Skill format
серверы к данным
серверы к вашим системам
- AWS MCP serversopen source↗MCP over AWS · AWS
- Azure MCP Serveropen source↗MCP over Azure · Azure
- GitHubopen source↗Code and issues
- Playwrightopen source↗Browser control
- Composio$$ вендорыTool catalogue
- GitLabopen source↗DevSecOps
- Linear$$ вендоры↗Issue tracking
- Notionopen source↗Docs and databases
- Sentryopen source↗Error tracking
- Slack$$ вендоры↗Team messaging
- Stripeopen source↗Payments
- Vaultopen source↗Secrets MCP
- Nextcloudopen source↗Self-hosted files
09Channel + handoff
Где люди с ним говорят и как сложный случай попадает к человеку.
Этап 1: пилот
чат сотрудников
- LibreChatПервый выбор в этом слоеopen source↗Multi-provider chat UI
- Microsoft Copilot Studio$$$$ дорогой вендор↗Low-code agents in M365 · Azure
- Open WebUIopen sourceSelf-host chat UI
- Amazon Q Business$$$$ дорогой вендор↗Chat in AWS · AWS
- Gemini Enterprise$$$$ дорогой вендор↗Chat in GCP · Google Cloud
- Snowflake Intelligence$$$$ дорогой вендор↗Chat in Snowflake · Snowflake
Access
10Identity + access
Действует от имени пользователя или от своего, с нужными правами и секретами.
Этап 2: продакшен
от имени пользователя
- Auth0 for AI Agents$$ вендоры↗Agent auth
- Descope$$ вендорыAgentic identity
- WorkOS$$ вендорыEnterprise auth
учётка агента
детальные права
секреты
- OpenBaoПервый выбор в этом слоеopen source↗Secrets
- AWS Secrets Manager$$ вендоры↗Secrets in AWS · AWS
- Azure Key Vault$$ вендоры↗Secrets in Azure · Azure
- Infisicalopen sourceSecrets platform
- Secret Manager$$ вендоры↗Secrets in GCP · Google Cloud
- Databricks secrets$$ вендоры↗Secrets in Databricks · Databricks
- Doppler$$ вендоры↗Managed secrets
- HashiCorp Vault$$$$ дорогой вендор↗Secrets
- AWS IAM$$ вендоры↗Cloud IAM · AWS
11Filter
Ловит prompt injection на входе и проверяет ответы на выходе.
Этап 1: пилот
защита от инъекций
- Azure AI Content Safety$$ вендоры↗Guardrails in Azure · Azure
- Bedrock Guardrails$$ вендоры↗Guardrails in AWS · AWS
- Lakera (Check Point)$$$$ дорогой вендор↗Prompt injection filter
- Model Armor$$ вендоры↗Guardrails in GCP · Google Cloud
- NeMo Guardrailsopen source↗Programmable rails
- Cisco AI Defense$$$$ дорогой вендор↗AI firewall
- Cortex Guard$$$$ дорогой вендор↗Guardrails in Snowflake · Snowflake
- LLM Guardopen source↗Input and output scanners
- Palo Alto Prisma AIRS$$$$ дорогой вендор↗AI runtime security
- HiddenLayer$$$$ дорогой вендорModel security
- Zenity$$$$ дорогой вендорAgent posture
проверка ответа
- Guardrails AIopen sourceOutput validation
- Llama Guardopen sourceSafety classifier
Run & Cost
12Gateway
Одна точка для всех вызовов модели: маскирует персональные данные до отправки, ключи и бюджеты, запасная модель при сбое, кэш с учётом прав, роутинг по цене и качеству, журнал каждого вызова.
Этап 1: пилот
прокси моделей
- LiteLLMПервый выбор в этом слоеopen source↗Model proxy
- AgentCore Gateway$$ вендоры↗Gateway in AWS · AWS
- Azure API Management AI gateway$$ вендоры↗Gateway in Azure · Azure
- Mosaic AI Gateway$$ вендоры↗Gateway in Databricks · Databricks
- Portkeyopen sourceAI gateway
- Apigee$$$$ дорогой вендор↗Gateway in GCP · Google Cloud
- Kong AI Gateway$$$$ дорогой вендорAPI gateway
роутер
- OpenRouter$$ вендорыModel router
- RouteLLMopen source↗Cost-based routing
кэш
- Cloudflare AI Gateway$$ вендорыEdge gateway
Control
13Traces
Записывает каждый шаг системы.
Этап 1: пилот
14Evals
Проверяет каждую правку на наборе эталонных вопросов.
Этап 1: пилот
evals в CI
- Promptfooopen source↗CI evals
- DeepEvalopen sourceTest-style evals
RAG evals
- Ragasopen source↗RAG evals
платформа evals
- Bedrock Evaluations and CloudWatch$$ вендоры↗Evals in AWS · AWS
- Foundry evaluations and observability$$ вендоры↗Evals in Azure · Azure
- MLflow agent evaluation$$ вендоры↗Evals in Databricks · Databricks
- Vertex AI Evaluation$$ вендоры↗Evals in GCP · Google Cloud
- Braintrust$$ вендорыEval platform
- Cortex AI Observability$$$$ дорогой вендор↗Evals in Snowflake · Snowflake
15Feedback
Превращает плохие ответы реальных пользователей в тесты и правки.
Этап 3: масштаб
разметка
- Argillaopen source↗Feedback and labelling
Вопросы
- Что такое AI-стек?
- Пятнадцать слоёв, из которых собирается работающая AI-система, в шести блоках: Model, Context, Agent, Access, Cost и Control. Большинству компаний нужна часть из них, и дорогая половина ответа — про те, которые не нужны.
- Сколько стоит такой стек?
- Лицензии, хостинг и люди в долларах в месяц, для инструментов, которые выбрали ваши шесть фактов. Это цены самих инструментов; разработка слоёв считается отдельно. Если назвать платформу, появится вторая колонка в её собственных сервисах и ценах.
- Как это связано со статьёй про 15 слоёв?
- Слои, номера и порядок те же. Статья говорит, что делает каждый слой, что ломается без него и сколько стоит его разработка; конструктор говорит, какой инструмент поставить в слой и сколько этот инструмент стоит в месяц.
- Покупать или строить?
- Вопрос задаётся по слоям, а не по стеку целиком. Для каждого нужного слоя называется инструмент, ненужные гасятся — и вопрос возникает только там, где от него что-то зависит.
- Можно без облака?
- Укажите это в шестом факте — данные живут на своих серверах — и выбор пойдёт из того, что там запускается, с соответствующей ценой.