AI智能体基础设施栈

AI智能体基础设施栈

技术栈

智能体(Agents)

  • 展示了不同类型的 AI 智能体，包括：
  • 通用智能体 (例如 perplexity, Gradial)
  • 代码生成智能体 (例如 Astral, bolt, Devin)
  • 下一代 Copilots (例如 gleon, Canopy)
  • 智能体团队 (Agent Teammates)
  • 智能体集群 (Agent Swarms)

工具 (Tools)

作为服务的工具 (Tools as a Service)

  • 发现 (例如 Word of Mouth, LangGraph)
  • 搜索 (例如 sonar, MelliSearch)
  • 数据提取 (例如 Browse AI, Parallel)
  • UI 自动化 (例如 Browse User, UIlicious)
  • 支付 (例如 Open Commerce, Stripe)

安全工具箱 (Secure Tool Usage)

  • 用于安全管理和操作的工具 (例如 Composio, ARCADe)

授权 (Auth)

  • 用于身份验证和授权的工具 (例如 autho, Okta)

沙箱 (Sandbox)

  • 用于安全运行和测试智能体的环境 (例如 E2B, Modal)

数据 (Data)

  • 涵盖了 AI 智能体所需的数据管理和处理工具：

内存 (Memory)

  • 用于智能体的短期记忆 (例如 cognemo, Weaviate)

存储 (Storage)

  • 用于持久化存储数据 (例如 NEON, supabase)

ETL (Extract, Transform, Load)

  • 用于数据集成和转换的工具 (例如 Llamaindex, Reducto)

编排 (Orchestration)

  • 关注如何管理和协调多个智能体和任务：

持久化 (Persistence)

  • 用于存储智能体的长期状态和历史 (例如 Inngest, Temporal)

智能体路由 (Agent Routing)

  • 用于将任务分配给合适的智能体 (例如 LangGraph, LlamaVerse)

模型路由 (Model Routing)

  • 用于选择合适的模型来执行任务 (例如 martian, Arcee)

平台 (Platform)

  • 涵盖了底层的基础设施和支持服务：

PaaS/BaaS (Platform/Backend as a Service)

  • 提供应用程序部署和管理的平台 (例如 Railway, Render)

日志 (Logging)

  • 用于记录和监控智能体运行情况的工具 (例如 Grafana Labs, RAYGUN)

评估 (Evaluation)

  • 用于评估智能体性能的框架和工具 (例如 AgentOps, LangSmith)

多智能体框架 (Multi Agent Frameworks)

  • 提供构建复杂多智能体系统的框架 (例如 swarms.ai, Autogen)

控制流 (Control Flow)

  • 用于定义智能体执行流程的工具 (例如 Boundary, Gen3)

基础模型基础设施 (Foundation Model Infrastructure)

  • 构建 AI 智能体的基础是强大的语言模型和相关的基础设施 (例如 MODELS, HUCON)。