Skip to content

Выбор стека

Ваш AI-стек, а не вендора.

Пятнадцать слоёв в шести блоках. Нужны те, которые зажигают ваши проблемы.

Шесть фактов выбирают инструменты и считают цену. Ничего не отправляется.

Экспресс-черновик. Полный — AI of Common Sense · созвониться

Шесть фактов о вас

Заполните их — и стек появится ниже. Назовите платформу, и появится вторая колонка: те же слои в её собственных сервисах, со своей ценой.

Кто будет поддерживать
Где могут лежать данные
Что нужнолюбое число
Где вы сейчасодно
Ваша платформаодно
Склоняетесь кнеобязательно

Ничего не сохраняется и не отправляется.

Рекомендуемый AI-стек

Появится, когда в брифе будет: кто поддерживает, где лежат данные, что нужно, где вы сейчас, ваша платформа.

  1. Model01Model
  2. Context02System prompt
  3. 03Knowledge base
  4. 04Semantic layer
  5. 05Data quality
  6. Agent06Harness
  7. 07Memory
  8. 08MCP & skills hub
  9. 09Channel + handoff
  10. Access10Identity + access
  11. 11Filter
  12. Run & Cost12Gateway
  13. Control13Traces
  14. 14Evals
  15. 15Feedback

Весь каталог

Все инструменты по слоям и категориям. Когда факты заполнены, выбранное подсвечивается здесь. Этап под каждым слоем — порядок из статьи: пилот, продакшен, масштаб.

  • open source
  • $ вендоры
  • $$ дорогой вендор
  • первый выбор в своём слое
  1. Model

    01Model

    Пишет ответ: API провайдера или открытые веса на вашем inference-сервере.

    Этап 1: пилот

    API провайдера

    • Anthropic APIПервый выбор в этом слое$$ вендоры↗Hosted frontier models
    • OpenAI APIПервый выбор в этом слое$$ вендоры↗Hosted frontier models
    • Amazon Bedrock models$$ вендоры↗Models in AWS · AWS
    • Azure OpenAI$$ вендоры↗OpenAI models in Azure · Azure
    • Cortex AI models$$$$ дорогой вендор↗Models in Snowflake · Snowflake
    • Gemini API$$ вендоры↗Hosted frontier models · Google Cloud
    • Alibaba Cloud Model Studio$$ вендоры↗Hosted Qwen
    • Cohere$$ вендоры↗Enterprise models and rerank
    • Databricks Model Serving$$$$ дорогой вендор↗Inference · Databricks
    • DeepSeek API$$ вендоры↗Hosted DeepSeek
    • Fireworks$$ вендорыModel cloud
    • Groq$$ вендорыFast inference
    • Mistral$$ вендоры↗EU hosted models
    • Modal$$ вендорыGPU compute
    • Together$$ вендорыModel cloud
    • Baseten$$ вендорыModel serving

    открытые веса

    • Qwen (Alibaba)Первый выбор в этом слоеopen source↗Open weights, frontier-class
    • DeepSeekopen source↗Open weights, reasoning
    • GLM (Zhipu / Z.ai)open source↗Open weights, agents and coding
    • Kimi K2 (Moonshot)open source↗Open weights, long context
    • gpt-oss (OpenAI)open source↗Open weights from OpenAI
    • Gemma (Google)open source↗Open weights, small
    • Llama (Meta)open source↗Open weights, the ecosystem default
    • MiniMax M-seriesopen source↗Open weights, efficient
    • Mistral open weightsopen source↗Open weights, EU

    inference-сервер

    • vLLMПервый выбор в этом слоеopen sourceInference server
    • Ollamaopen sourceLocal models
    • SGLangopen sourceInference server
  2. Context

    02System prompt

    Роль и границы, с версиями и тестами, как код.

    Этап 1: пилот

    управление промптами

    • Prompts in gitopen sourcePrompts as code
    • PromptLayer$$ вендоры↗Prompt management
  3. 03Knowledge base

    Документы, каталог данных и связи между ними; поиск с учётом прав пользователя.

    Этап 1: пилот

    разбор документов

    • DoclingПервый выбор в этом слоеopen source↗Document parsing
    • Azure Document Intelligence$$ вендоры↗Parsing in Azure · Azure
    • Unstructuredopen source↗Document ETL
    • Amazon Textract$$ вендоры↗Parsing in AWS · AWS
    • Document AI$$ вендоры↗Parsing in GCP · Google Cloud
    • LlamaParse$$ вендоры↗Hosted parsing

    поиск

    • pgvectorПервый выбор в этом слоеopen sourcePostgres vectors
    • Cortex Search$$$$ дорогой вендор↗Retrieval in Snowflake · Snowflake
    • Databricks Vector Search$$ вендоры↗Retrieval in Databricks · Databricks
    • Qdrantopen sourceVector database
    • Vertex AI Search$$ вендоры↗Retrieval in GCP · Google Cloud
    • Azure AI Search$$$$ дорогой вендор↗Enterprise search · Azure
    • Bedrock Knowledge Bases$$$$ дорогой вендор↗Managed RAG · AWS
    • BigQuery$$$$ дорогой вендор↗Knowledge base · Google Cloud
    • Chromaopen sourceEmbedded vectors
    • Elasticsearchopen sourceSearch engine
    • LanceDBopen sourceColumnar vectors
    • OpenSearchopen source↗Search engine
    • Pinecone$$ вендорыManaged vectors
    • Weaviateopen sourceVector database
    • Turbopuffer$$ вендорыObject-store vectors

    фреймворк поиска

    • LlamaIndexПервый выбор в этом слоеopen source↗Data agents and RAG
    • Haystackopen sourcePipeline RAG

    каталог данных

    • DataHubopen source↗Open data catalogue
    • Atlan$$$$ дорогой вендор↗Hosted data catalogue
    • Dataplex$$ вендоры↗Data governance in GCP · Google Cloud
    • Microsoft Purview$$$$ дорогой вендор↗Data governance in Azure · Azure
    • Unity Catalog$$$$ дорогой вендор↗Governed data · Databricks

    граф знаний

    • Neo4jПервый выбор в этом слоеopen source↗Graph database
    • Cogneeopen sourceMemory pipelines
    • LightRAGopen source↗Graph-augmented retrieval
    • Microsoft GraphRAGopen source↗GraphRAG pipeline · Azure
  4. 04Semantic layer

    Одно определение каждой метрики и сущности; ответы строятся на нём, а не на сырых таблицах.

    Этап 3: масштаб

    метрики

    • CubeПервый выбор в этом слоеopen source↗Semantic layer
    • Fabric and Power BI semantic models$$ вендоры↗Metrics in Microsoft · Azure
    • Snowflake Semantic Views$$$$ дорогой вендор↗Metrics in the warehouse · Snowflake
    • Unity Catalog metric views$$ вендоры↗Metrics in Databricks · Databricks
    • dbt Semantic Layer$$ вендоры↗Metrics on dbt
    • Looker (LookML)$$$$ дорогой вендор↗Metrics in GCP · Google Cloud
    • Power BI semantic model$$ вендоры↗Metrics in Microsoft · Azure

    вопросы к модели данных

    • AI/BI Genie$$ вендоры↗Questions over the lakehouse · Databricks
    • Cortex Analyst$$$$ дорогой вендор↗Questions over semantic views · Snowflake
    • Wren AIopen source↗Text-to-SQL on a semantic model
    • Amazon Q in QuickSight$$ вендоры↗Questions over QuickSight · AWS
    • Copilot in Power BI$$ вендоры↗Questions over Power BI · Azure
    • Gemini in Looker$$$$ дорогой вендор↗Questions over LookML · Google Cloud
    • Vannaopen source↗Text-to-SQL
  5. 05Data quality

    Показывает, можно ли сегодня доверять таблицам, из которых берётся ответ.

    Этап 3: масштаб

    проверки в коде

    • Sodaopen source↗Data quality checks
    • AWS Glue Data Quality$$ вендоры↗Data quality in AWS · AWS
    • Elementaryopen source↗dbt observability
    • Great Expectationsopen source↗Data contracts
    • Horizon data metric functions$$$$ дорогой вендор↗Data quality in Snowflake · Snowflake

    наблюдаемость данных

    • Monte Carlo$$$$ дорогой вендор↗Data observability
    • Lakehouse Monitoring$$ вендоры↗Data quality in Databricks · Databricks
  6. Agent

    06Harness

    Ведёт цикл: план, вызовы, лимиты и точка, где решение подтверждает человек.

    Этап 1: пилот

    фреймворк агентов

    • LangGraphПервый выбор в этом слоеopen source↗Graph orchestrator
    • Microsoft Agent Frameworkopen source↗Enterprise agents · Azure
    • OpenAI Agents SDKopen source↗Handoff orchestration
    • Pydantic AIopen sourceTyped agents
    • CrewAIopen source↗Role crews
    • Google ADKopen source↗Graph workflows · Google Cloud
    • Gooseopen source↗Local coding agent
    • Mastraopen sourceTypeScript agents
    • Strands Agentsopen source↗AWS-native SDK · AWS
    • Agnoopen sourceLightweight agents
    • Hermes Agentopen source↗Reference runtime
    • LangChainopen sourceChain toolkit
    • OpenClawopen source↗Personal agent gateway
    • Microsoft AutoGenopen source↗Group chat · Azure
    • Semantic Kernelopen source↗Plugins and processes · Azure

    durable workflows

    • TemporalПервый выбор в этом слоеopen source↗Durable workflows
    • Hatchetopen source↗Postgres workflows
    • Inngestopen source↗Event-driven steps
    • Restateopen sourceDurable handlers
    • Trigger.devopen source↗TS background jobs
    • AWS Lambda$$ вендоры↗Action runtime · AWS
    • DBOSopen sourcePostgres durability

    платформа агентов

    • Microsoft FoundryПервый выбор в этом слое$$$$ дорогой вендор↗Microsoft agent service · Azure
    • Amazon Bedrock AgentCore$$$$ дорогой вендор↗AWS managed agents · AWS
    • Databricks Agent Bricks$$$$ дорогой вендор↗Lakehouse agents · Databricks
    • Gemini Enterprise Agent Platform$$$$ дорогой вендор↗GCP agent platform · Google Cloud
    • Snowflake Cortex Agents$$$$ дорогой вендор↗Warehouse agents · Snowflake
    • Salesforce Agentforce$$$$ дорогой вендорCRM agents · salesforce
    • Agynopen source↗Agent runtime control

    low-code конструктор

    • Difyopen source↗Low-code platform
    • n8nopen sourceWorkflow automation
    • Langflowopen source↗Visual builder
  7. 07Memory

    Помнит разговор и клиента между сессиями.

    Этап 2: продакшен

    API памяти

    • Mem0open source↗Memory API
    • Letta Codeopen source↗Stateful agents

    граф памяти

    • Zep / Graphitiopen source↗Temporal knowledge graph
  8. 08MCP & skills hub

    Инструменты, навыки и песочницы из одного каталога: что агент умеет и где выполняется его код.

    Этап 1: пилот

    протокол

    • MCPПервый выбор в этом слоеopen source↗Tool protocol
    • A2Aopen source↗Agent-to-agent

    MCP gateway и реестр

    • MCP Registryopen source↗Server registry
    • Archestra.aiopen source↗MCP gateway
    • Docker MCP Toolkitopen source↗Containerised MCP
    • MetaMCPopen source↗MCP aggregator
    • Smithery$$ вендорыMCP registry

    skills

    • Agent SkillsПервый выбор в этом слоеopen source↗Skill format

    серверы к данным

    • Databricks managed MCP servers$$ вендоры↗MCP over the lakehouse · Databricks
    • MCP Toolbox for Databasesopen source↗MCP over GCP data · Google Cloud
    • Snowflake$$$$ дорогой вендор↗Warehouse · Snowflake
    • dbtopen source↗Transformation
    • ClickHouseopen source↗OLAP analytics
    • PostgreSQLopen sourceRelational DB

    серверы к вашим системам

    • AWS MCP serversopen source↗MCP over AWS · AWS
    • Azure MCP Serveropen source↗MCP over Azure · Azure
    • GitHubopen source↗Code and issues
    • Playwrightopen source↗Browser control
    • Composio$$ вендорыTool catalogue
    • GitLabopen source↗DevSecOps
    • Linear$$ вендоры↗Issue tracking
    • Notionopen source↗Docs and databases
    • Sentryopen source↗Error tracking
    • Slack$$ вендоры↗Team messaging
    • Stripeopen source↗Payments
    • Vaultopen source↗Secrets MCP
    • Nextcloudopen source↗Self-hosted files

    песочница для кода

    • AgentCore Code Interpreter$$ вендоры↗Sandbox in AWS · AWS
    • Azure Container Apps dynamic sessions$$ вендоры↗Sandbox in Azure · Azure
    • E2Bopen source↗Code sandbox
    • Daytonaopen sourceDev sandboxes
  9. 09Channel + handoff

    Где люди с ним говорят и как сложный случай попадает к человеку.

    Этап 1: пилот

    чат сотрудников

    • LibreChatПервый выбор в этом слоеopen source↗Multi-provider chat UI
    • Microsoft Copilot Studio$$$$ дорогой вендор↗Low-code agents in M365 · Azure
    • Open WebUIopen sourceSelf-host chat UI
    • Amazon Q Business$$$$ дорогой вендор↗Chat in AWS · AWS
    • Gemini Enterprise$$$$ дорогой вендор↗Chat in GCP · Google Cloud
    • Snowflake Intelligence$$$$ дорогой вендор↗Chat in Snowflake · Snowflake

    канал клиента и передача оператору

    • Intercom Fin$$ вендоры↗Customer AI agent
    • Zendesk AI agents$$$$ дорогой вендор↗Customer AI agent
  10. Access

    10Identity + access

    Действует от имени пользователя или от своего, с нужными правами и секретами.

    Этап 2: продакшен

    от имени пользователя

    • Auth0 for AI Agents$$ вендоры↗Agent auth
    • Descope$$ вендорыAgentic identity
    • WorkOS$$ вендорыEnterprise auth

    учётка агента

    • AgentCore Identity$$ вендоры↗Agent identity in AWS · AWS
    • Microsoft Entra Agent ID$$ вендоры↗Agent identity in Azure · Azure
    • Okta for AI Agents$$$$ дорогой вендор↗Agent IAM

    детальные права

    • OpenFGAopen source↗Relationship-based authorisation
    • Cerbosopen sourceAuthorisation
    • OPAopen source↗Policy engine

    секреты

    • OpenBaoПервый выбор в этом слоеopen source↗Secrets
    • AWS Secrets Manager$$ вендоры↗Secrets in AWS · AWS
    • Azure Key Vault$$ вендоры↗Secrets in Azure · Azure
    • Infisicalopen sourceSecrets platform
    • Secret Manager$$ вендоры↗Secrets in GCP · Google Cloud
    • Databricks secrets$$ вендоры↗Secrets in Databricks · Databricks
    • Doppler$$ вендоры↗Managed secrets
    • HashiCorp Vault$$$$ дорогой вендор↗Secrets
    • AWS IAM$$ вендоры↗Cloud IAM · AWS
  11. 11Filter

    Ловит prompt injection на входе и проверяет ответы на выходе.

    Этап 1: пилот

    защита от инъекций

    • Azure AI Content Safety$$ вендоры↗Guardrails in Azure · Azure
    • Bedrock Guardrails$$ вендоры↗Guardrails in AWS · AWS
    • Lakera (Check Point)$$$$ дорогой вендор↗Prompt injection filter
    • Model Armor$$ вендоры↗Guardrails in GCP · Google Cloud
    • NeMo Guardrailsopen source↗Programmable rails
    • Cisco AI Defense$$$$ дорогой вендор↗AI firewall
    • Cortex Guard$$$$ дорогой вендор↗Guardrails in Snowflake · Snowflake
    • LLM Guardopen source↗Input and output scanners
    • Palo Alto Prisma AIRS$$$$ дорогой вендор↗AI runtime security
    • HiddenLayer$$$$ дорогой вендорModel security
    • Zenity$$$$ дорогой вендорAgent posture

    проверка ответа

    • Guardrails AIopen sourceOutput validation
    • Llama Guardopen sourceSafety classifier
  12. Run & Cost

    12Gateway

    Одна точка для всех вызовов модели: маскирует персональные данные до отправки, ключи и бюджеты, запасная модель при сбое, кэш с учётом прав, роутинг по цене и качеству, журнал каждого вызова.

    Этап 1: пилот

    прокси моделей

    • LiteLLMПервый выбор в этом слоеopen source↗Model proxy
    • AgentCore Gateway$$ вендоры↗Gateway in AWS · AWS
    • Azure API Management AI gateway$$ вендоры↗Gateway in Azure · Azure
    • Mosaic AI Gateway$$ вендоры↗Gateway in Databricks · Databricks
    • Portkeyopen sourceAI gateway
    • Apigee$$$$ дорогой вендор↗Gateway in GCP · Google Cloud
    • Kong AI Gateway$$$$ дорогой вендорAPI gateway

    роутер

    • OpenRouter$$ вендорыModel router
    • RouteLLMopen source↗Cost-based routing

    кэш

    • Cloudflare AI Gateway$$ вендорыEdge gateway

    маскирование ПДн

    • Presidioopen source↗PII detection and masking
    • AI Gateway guardrails$$ вендоры↗Guardrails in Databricks · Databricks
  13. Control

    13Traces

    Записывает каждый шаг системы.

    Этап 1: пилот

    трейсинг

    • LangfuseПервый выбор в этом слоеopen source↗Traces and prompts
    • Arize Phoenixopen sourceOpen tracing
    • LangSmith$$ вендорыHosted tracing
    • MLflowopen source↗ML lifecycle · Databricks
    • Opikopen sourceTraces and evals
    • W&B Weave$$ вендорыExperiment tracking
    • CloudWatch$$ вендоры↗AWS observability · AWS
  14. 14Evals

    Проверяет каждую правку на наборе эталонных вопросов.

    Этап 1: пилот

    evals в CI

    • Promptfooopen source↗CI evals
    • DeepEvalopen sourceTest-style evals

    RAG evals

    • Ragasopen source↗RAG evals

    платформа evals

    • Bedrock Evaluations and CloudWatch$$ вендоры↗Evals in AWS · AWS
    • Foundry evaluations and observability$$ вендоры↗Evals in Azure · Azure
    • MLflow agent evaluation$$ вендоры↗Evals in Databricks · Databricks
    • Vertex AI Evaluation$$ вендоры↗Evals in GCP · Google Cloud
    • Braintrust$$ вендорыEval platform
    • Cortex AI Observability$$$$ дорогой вендор↗Evals in Snowflake · Snowflake
  15. 15Feedback

    Превращает плохие ответы реальных пользователей в тесты и правки.

    Этап 3: масштаб

    разметка

    • Argillaopen source↗Feedback and labelling

Вопросы

Что такое AI-стек?
Пятнадцать слоёв, из которых собирается работающая AI-система, в шести блоках: Model, Context, Agent, Access, Cost и Control. Большинству компаний нужна часть из них, и дорогая половина ответа — про те, которые не нужны.
Сколько стоит такой стек?
Лицензии, хостинг и люди в долларах в месяц, для инструментов, которые выбрали ваши шесть фактов. Это цены самих инструментов; разработка слоёв считается отдельно. Если назвать платформу, появится вторая колонка в её собственных сервисах и ценах.
Как это связано со статьёй про 15 слоёв?
Слои, номера и порядок те же. Статья говорит, что делает каждый слой, что ломается без него и сколько стоит его разработка; конструктор говорит, какой инструмент поставить в слой и сколько этот инструмент стоит в месяц.
Покупать или строить?
Вопрос задаётся по слоям, а не по стеку целиком. Для каждого нужного слоя называется инструмент, ненужные гасятся — и вопрос возникает только там, где от него что-то зависит.
Можно без облака?
Укажите это в шестом факте — данные живут на своих серверах — и выбор пойдёт из того, что там запускается, с соответствующей ценой.