VolcengineVolcengine ADK

部署到 VeFaaS

本教程将介绍如何将您的 Agent 部署到火山引擎 VeFaaS 函数服务。

前置准备

在开始部署之前,请确保你已完成以下准备工作:

  1. 创建火山引擎账号:你首先需要一个有效的火山引擎账号。
  2. 开通相关云服务:为了成功部署和访问 VeADK 应用,你需要在火山引擎控制台中激活以下服务。这些通常是首次访问服务时根据引导完成的一次性操作。

首次开通服务授权

如果你是首次使用上述服务,控制台会引导你完成必要的 IAM(Identity and Access Management)角色授权。两个服务的开通流程一致:

  1. 首次进入 函数服务 或 API 网关 页面,控制台会提示你开通 IAM 角色,单击 立即授权。
  2. 授权成功后,系统会自动跳转回对应服务的控制台主页,表明服务已开通。

IAM 角色开通

此授权步骤是必需的,它授予函数服务和 API 网关访问其他云资源的权限,以确保应用能够正常部署和运行。

部署方式概览

VeADK 提供多种部署方式以适应不同的开发工作流:

  • 通过命令行工具 (CLI) 部署:最快捷的方式,适合快速创建、部署和迭代 Agent 应用。
  • 通过 Python SDK 部署:允许你通过编写代码以编程方式管理部署流程,适合集成到自动化脚本或现有项目中。
  • 设置持续交付 (CI/CD):与代码仓库(如 GitHub)集成,实现代码提交后自动构建和部署,是团队协作和生产环境的最佳实践。

接下来,我们将详细介绍每种部署方式的操作步骤。

通过命令行工具 (CLI) 部署

您可以从以下两个方式来部署使用 VeADK 建设的 Agent 项目。各命令的完整参数见 VeADK 命令行工具。

方式一:从零开始创建并部署新项目

如果你想快速启动一个标准的企业级 Agent 项目,veadk init 命令是最佳选择。它会为你生成一个预设了完整结构和配置的模板项目。

1. 初始化项目

在你的终端中运行以下命令:

veadk init

该命令会引导你完成项目的基本配置。你需要根据提示输入以下信息:

$ veadk init
Welcome use VeADK to create your project. We will generate a `weather-reporter` application for you.
Local directory name [veadk-cloud-proj]:
Volcengine FaaS application name [veadk-cloud-agent]:
Volcengine API Gateway instance name []:
Volcengine API Gateway service name []:
Volcengine API Gateway upstream name []:
Choose a deploy mode:
  1. A2A/MCP Server
  2. VeADK Web / Google ADK Web
Enter your choice (1, 2): 1
Choose an authentication method:
  1. None
  2. API key
  3. OAuth2
Enter your choice (1, 2, 3): 1
Template project has been generated at .../veadk-cloud-proj
Edit .../veadk-cloud-proj/src to define your agents
Edit .../veadk-cloud-proj/deploy.py to define your deployment attributes
Run python `deploy.py` for deployment on Volcengine FaaS platform.

参数说明:

  • Local directory name:项目在本地创建的目录名称。
  • Volcengine FaaS application name:你的应用在火山引擎函数服务平台的名称。注意:名称中不能包含下划线 _。
  • Volcengine API Gateway ...:API 网关相关的实例、服务和上游名称。这些为可选参数。如果留空,VeADK 会在部署时自动创建和关联相应的网关资源。
  • Choose a deploy mode:选择部署模式。
    • A2A/MCP Server:标准的后端 Agent 服务模式。
    • VeADK Web / Google ADK Web:如果你需要一个 Web 交互界面,请选择此项。
  • Choose an authentication method:选择网关鉴权方式。None 不鉴权;API key 使用密钥认证;OAuth2 使用 Agent Identity 单点登录(API key 仅在 A2A/MCP 模式下可选)。

项目初始化完成后,你可以在生成的 deploy.py 文件中随时修改这些配置。

生成后的项目结构如下:

__init__.py
clean.py
config.yaml.example
deploy.py
__init__.py
agent.py
app.py
requirements.txt
run.sh
__init__.py
agent.py

2. 配置环境变量与凭证

部署前,你需要配置必要的环境变量,特别是访问火山引擎所需的身份凭证。

  1. 在项目根目录下,将 config.yaml.example 文件复制一份并重命名为 config.yaml。
  2. 编辑 config.yaml 文件,填入你的火山引擎访问密钥 (Access Key 和 Secret Key)。
  3. 如果是新建的火山账号,还需确认是否已经授权给 ServerlessApplicationRole 角色。进入创建应用页面点击[一键授权]即可。 一键授权
volcengine:
  access_key: "YOUR_ACCESS_KEY"    # 替换为你的火山引擎 Access Key
  secret_key: "YOUR_SECRET_KEY"  # 替换为你的火山引擎 Secret Key

重要提示

config.yaml 文件包含了敏感的凭证信息,它不会被上传到云端。文件中的配置项会作为环境变量注入到函数服务的运行环境中。请务必确保此文件的安全,不要将其提交到公共代码仓库。

3. 执行部署

完成配置后,在项目根目录下运行部署脚本:

python deploy.py

脚本执行后,如果看到 Start to release VeFaaS application 的提示,说明部署流程已开始。当终端输出以下类似信息时,代表你的 Agent 应用已成功部署并发布。

VeFaaS application ID: 3b015fxxxxxx
Test message: How is the weather like in Beijing?

方式二:部署现有项目

如果你已经有一个本地开发的 Agent 项目,可以使用 veadk deploy 命令将其快速部署到火山引擎函数服务平台。

1. 项目准备

在执行部署前,请确保你的项目满足以下结构要求:

  • 项目根目录下必须包含一个 agent.py 文件,且该文件中定义了一个全局变量 root_agent。
  • 项目根目录下必须包含一个 __init__.py 文件,且该文件中包含了 from . import agent 语句。

2. 执行部署

在你的项目根目录下运行以下命令:

veadk deploy --vefaas-app-name {YourAgentAppName}

请将 {YourAgentAppName} 替换为你的应用名称。执行后,如果看到 Start to release VeFaaS application 的提示,说明部署已开始。

veadk deploy 命令支持丰富的参数以进行详细配置,你可以通过命令行标志传入,或通过环境变量设置。

名称类型释义
--access-key字符串火山引擎 AK
--secret-key字符串火山引擎 SK
--vefaas-app-name字符串火山引擎 VeFaaS 平台应用名称
--veapig-instance-name字符串火山引擎网关实例名称
--veapig-service-name字符串火山引擎网关服务名称
--veapig-upstream-name字符串火山引擎网关 Upstream 名称
--short-term-memory-backend字符串local 或者 mysql,短期记忆后端
--use-adk-webFLAG设置后将会在云端启动 web,否则为 A2A / MCP 模式
--path字符串本地项目路径,默认为当前目录

通过 Python SDK 部署

对于希望将部署流程集成到自动化脚本或现有代码库中的开发者,VeADK 提供了强大的 Python SDK。你可以通过 CloudAgentEngine 类以编程方式完成应用的部署、更新和删除。

1. 部署 Agent 应用

CloudAgentEngine 是部署操作的核心。实例化该类后,调用其 deploy 方法即可部署你的 Agent 项目。

凭证配置:

在实例化 CloudAgentEngine 时,你可以直接传入火山引擎的 AK/SK。如果未提供,SDK 会自动从环境变量 VOLCENGINE_ACCESS_KEY 和 VOLCENGINE_SECRET_KEY 中读取。

代码示例:

from veadk.cloud.cloud_agent_engine import CloudAgentEngine

# 1. 初始化云引擎,凭证将从环境变量自动获取
engine = CloudAgentEngine()

# 2. 调用 deploy 方法部署应用
cloud_app = engine.deploy(
    application_name="my-python-agent",
    path="./path/to/your/agent/project",
    gateway_name="my-agent-gateway",
    use_adk_web=False
)

# 部署成功后,可以获取应用的访问端点
print(f"Application endpoint: {cloud_app.vefaas_endpoint}")

deploy 方法的关键参数如下:

名称类型释义
path字符串本地 Agent 项目路径
application_name字符串火山引擎 VeFaaS 平台应用名称
gateway_name字符串火山引擎网关实例名称
gateway_service_name字符串火山引擎网关服务名称
gateway_upstream_name字符串火山引擎网关 Upstream 名称
use_adk_web布尔值是否在云端使用 VeADK Web / Google Web

2. 管理已部署的应用

deploy 方法成功执行后,会返回一个 CloudApp 实例。这个实例代表了你在云端部署的应用,你可以使用它来进行后续的管理操作,如发起调用、更新代码或删除应用。

发起远程调用

你可以通过 CloudApp 实例的异步方法 message_send 与云端 Agent 交互。它的签名为 message_send(message, session_id, user_id, timeout=600.0),返回 Agent 的响应消息。

代码示例:

import asyncio
from veadk.cloud.cloud_app import CloudApp

# 通过部署时返回的应用名称构造 CloudApp(也可传入 vefaas_endpoint 或 vefaas_application_id)
cloud_app = CloudApp(vefaas_application_name="my-python-agent")

SESSION_ID = "test_session_123"
USER_ID = "test_user_001"

async def main():
    response = await cloud_app.message_send(
        "请问北京今天天气怎么样?", SESSION_ID, USER_ID
    )
    print(f"Agent response: {response}")

asyncio.run(main())

初始化 CloudApp 时必须至少提供 vefaas_endpoint、vefaas_application_id、vefaas_application_name 中的一个,否则会抛出 ValueError。

如果你需要与一个已经部署好的应用进行交互(而非在部署后立即交互),可以通过应用的访问端点(Endpoint)来创建 CloudApp 实例。端点可在函数服务控制台找到:

import asyncio
from veadk.cloud.cloud_app import CloudApp

APP_ENDPOINT = "<YOUR_APPLICATION_ENDPOINT>"
SESSION_ID = "test_session"
USER_ID = "test_user"

app = CloudApp(vefaas_endpoint=APP_ENDPOINT)

# 调用方式相同:message, session_id, user_id
response = asyncio.run(app.message_send("深圳呢?", SESSION_ID, USER_ID))
print(f"Agent response: {response}")

更新应用代码

当你本地的 Agent 代码有更新时,可以使用 update_function_code 方法来更新已部署的应用,而无需重新创建一个新应用。

此操作只会更新函数的代码和配置,应用原有的访问端点 (Endpoint) 会保持不变。

from veadk.cloud.cloud_agent_engine import CloudAgentEngine

engine = CloudAgentEngine()

# 更新现有应用的代码,保持相同的访问端点
updated_cloud_app = engine.update_function_code(
    application_name="my-agent-app",  # 现有应用名称
    path="/my-agent-project"        # 本地项目路径,确保项目路径包含agent.py文件
)

# 可以使用updated_cloud_app.vefaas_endpoint访问您的项目

删除应用

如果你需要下线并删除一个已部署的应用,可以使用 remove 方法。

警告

删除操作是不可逆的,它将彻底移除函数服务应用及其相关配置。请谨慎操作。

代码示例:

from veadk.cloud.cloud_agent_engine import CloudAgentEngine

engine = CloudAgentEngine()

# 调用 remove 方法删除指定应用
engine.remove(app_name="my-python-agent")

为了防止误操作,执行此命令时,终端会要求你进行确认。你需要输入 y 并按回车键才能完成删除。

Confirm delete cloud app my-python-agent? (y/N): y

验证与调用应用

应用部署成功后,你可以通过火山引擎控制台验证部署状态,并使用不同协议与你的 Agent 服务进行交互。

在控制台验证部署

  1. 登录 火山引擎函数服务 (veFaaS) 控制台。
  2. 在左侧导航栏中,选择 我的应用。
  3. 在应用列表中,你应该能看到你刚刚部署的应用。你可以单击应用名称进入详情页,查看其配置、日志、监控和访问端点等信息。 部署完成

调用方法

部署完成后,VeADK Agent 服务支持通过两种标准协议进行调用:A2A (Agent-to-Agent) 和 MCP (Meta-protocol for Calling Plugins)。

关于 API 网关认证

默认情况下,VeADK 通过 API 网关创建的服务会启用密钥认证 (Key Authentication) 插件,以确保接口的安全性。这意味着所有发向该接口的请求都需要在请求中包含正确的认证凭证 (Token)。

  • 对于生产环境:强烈建议保留此安全设置,并在你的客户端代码中正确传递认证凭证。
  • 对于快速测试:如果你在内部测试环境中需要临时绕过认证,可以手动在 API 网关控制台 的 插件中心 找到对应的插件并将其禁用。但请注意,这会使你的 API 端点暴露于公网,带来安全风险。

1. 获取认证凭证 (Key Auth Token)

  1. 登录 API 网关控制台。
  2. 在左侧导航栏中,选择 消费者管理。
  3. 找到与你的应用关联的消费者,并复制其 Key Auth Token。

2. 通过 A2A 协议调用

A2A 协议用于 Agent 之间的直接通信。你可以使用 CloudApp 或 RemoteVeAgent 类来发起调用。

方式一:直接调用 (使用 CloudApp)

import asyncio
from veadk.cloud.cloud_app import CloudApp

# -- 配置 --
ENDPOINT = "<YOUR_APPLICATION_ENDPOINT>"  # 替换为你的应用访问端点
SESSION_ID = "test_session"
USER_ID = "test_user"
TEST_MESSAGE = "北京今天的天气怎么样?"

async def main():
    # 使用端点初始化 CloudApp 实例
    app = CloudApp(vefaas_endpoint=ENDPOINT)

    # 发送消息
    response = await app.message_send(TEST_MESSAGE, SESSION_ID, USER_ID)
    print(f"A2A Response: {response}")

if __name__ == "__main__":
    asyncio.run(main())

上述 CloudApp 的直接调用方式默认不会携带认证信息。如果你的 API 网关开启了密钥认证,此调用会失败。你需要使用下一种方式,或临时关闭认证插件。

关闭插件

方式二:作为子 Agent 远程调用 (使用 RemoteVeAgent)

它将云端的 Agent 封装为一个 RemoteVeAgent 对象,并在本地作为另一个 Agent 的子 Agent 来调用,同时可以方便地处理认证。

import asyncio
from veadk import Agent, Runner
from veadk.a2a.remote_ve_agent import RemoteVeAgent

# -- 配置 --
ENDPOINT = "<YOUR_APPLICATION_ENDPOINT>"      # 替换为你的应用访问端点
KEY_AUTH_TOKEN = "<YOUR_KEY_AUTH_TOKEN>"  # 替换为你的 Key Auth Token
SESSION_ID = "test_session"
USER_ID = "test_user"
TEST_MESSAGE = "上海呢?"

async def main():
    # 1. 将云端 Agent 封装为 RemoteVeAgent
    remote_agent = RemoteVeAgent(
        name="cloud_weather_agent",
        url=ENDPOINT,
        auth_token=KEY_AUTH_TOKEN,
        auth_method="querystring"  # 指定 token 通过查询字符串传递
    )

    # 2. 创建一个本地 Agent,并将远程 Agent 作为其子 Agent
    local_agent = Agent(
        name="local_query_agent",
        instruction="将用户问题转发给云端 Agent 并返回结果。",
        sub_agents=[remote_agent],
    )

    # 3. 使用 Runner 执行任务
    runner = Runner(agent=local_agent, user_id=USER_ID)
    response = await runner.run(TEST_MESSAGE, session_id=SESSION_ID)
    print(f"A2A Remote Response: {response}")

if __name__ == "__main__":
    asyncio.run(main())

3. 通过 MCP 协议调用

MCP 协议提供了一种标准化的方式来发现和调用插件(即你的 Agent)。你可以使用 fastmcp 库来构造客户端。

import asyncio
from fastmcp import Client

# -- 配置 --
ENDPOINT = "<YOUR_APPLICATION_ENDPOINT>"      # 替换为你的应用访问端点
KEY_AUTH_TOKEN = "<YOUR_KEY_AUTH_TOKEN>"  # 替换为你的 Key Auth Token
SESSION_ID = "my_test_session_03"
USER_ID = "my_test_user_03"
TEST_MESSAGE = "广州今天天气如何?"

async def main():
    # 构造带有认证 token 的 MCP 端点 URL
    mcp_endpoint = f"{ENDPOINT}/mcp?token={KEY_AUTH_TOKEN}"

    # 如果关闭了网关的密钥认证,则无需 token 参数
    # mcp_endpoint = f"{ENDPOINT}/mcp"

    client = Client(mcp_endpoint)
    async with client:
        # 发现可用的工具 (Agent)
        tools = await client.list_tools()
        print(f"MCP Available Tools: {tools}")

        # 调用 run_agent 工具
        response = await client.call_tool(
            "run_agent",
            {
                "user_input": TEST_MESSAGE,
                "session_id": SESSION_ID,
                "user_id": USER_ID,
            },
        )
        print(f"MCP Response: {response}")

if __name__ == "__main__":
    asyncio.run(main())

持续交付

为了实现更高效、自动化的开发工作流,VeADK 支持与火山引擎的持续交付 (Continuous Delivery, CP) 和镜像仓库 (Container Registry, CR) 服务集成。通过设置 CI/CD 流水线,你可以将代码提交、构建、测试和部署等环节自动化,实现代码变更后自动发布新版本。

最佳实践

通过容器镜像进行部署是生产环境中的最佳实践,它能确保开发、测试和生产环境的一致性,并简化部署流程。

1. 前提条件:开通相关服务

在使用持续交付功能前,请确保你已在火山引擎控制台开通以下服务:

与函数服务和 API 网关类似,首次访问持续交付与镜像仓库时,你需要按页面提示完成 IAM 角色授权:进入对应服务页面,单击 立即授权(持续交付还需单击 申请开通),授权完成后系统自动跳转回服务控制台,即表示开通成功。

IAM 角色开通

2. 挂载持续交付流水线

VeADK 内置了火山引擎持续交付产品来便捷您的部署与持续交付。结合火山引擎镜像仓库产品,能够通过镜像将您的项目持续交付到火山引擎 FaaS 服务。

使用命令 veadk pipeline 来连结您的代码仓库与火山引擎镜像仓库、持续交付服务。命令的主要工作流程:

  1. 帮助您在 VeFaaS 上创建一个含有模板镜像(Simple FastAPI)的镜像函数
  2. 将持续交付服务绑定至您的 Github 仓库与创建好的 VeFaaS 函数

配置完成后,每当你向指定的 GitHub 仓库分支提交代码时,流水线将被自动触发,并执行以下操作:

  1. 构建镜像:基于你的项目代码构建一个容器镜像。
  2. 推送镜像:将构建好的镜像推送到你的私有镜像仓库 (CR) 中。
  3. 部署更新:使用新镜像更新函数服务 (veFaaS) 中的应用,完成新版本的发布。

使用方法

在你的项目目录下,运行 veadk pipeline 命令并提供必要的参数。一个典型的调用如下:

veadk pipeline --github-url <YOUR_GITHUB_REPO_URL> --github-branch main --github-token <YOUR_GITHUB_TOKEN>

在运行此命令的目录中,请确保已准备好 config.yaml 文件。文件中的配置项(如 API Keys 或其他环境变量)将在构建镜像时被打包到应用中。

参数详解

参数说明默认值 / 必填
--github-urlGithub 仓库 URL必填
--github-branchGithub 项目的分支必填
--veadk-versionVeADK 版本,可选值:preview(主分支)、latest(最新稳定版)、x.x.x(具体版本号)当前版本号
--github-tokenGithub Token,用于管理项目必填
--volcengine-access-key火山引擎 Access Key使用环境变量 VOLCENGINE_ACCESS_KEY
--volcengine-secret-key火山引擎 Secret Key使用环境变量 VOLCENGINE_SECRET_KEY
--region火山引擎产品区域cn-beijing
--cr-instance-name火山引擎容器镜像仓库实例名veadk-user-instance
--cr-namespace-name火山引擎容器镜像仓库命名空间veadk-user-namespace
--cr-repo-name火山引擎容器镜像仓库 Repo 名称veadk-user-repo
--vefaas-function-id火山引擎 FaaS 函数 ID(要求为镜像函数),如未设置,将自动创建新函数-

本页导航