T_ZSA 163-2023 人工智能应用创新智能边缘云技术规范.pdf

学兔兔 w w w.b z f x w.c o m 标准下载 ICS 35.240 CCS L 77 T/ZSA 163-2023 人工智能应用创新 智能边缘云技术规范 Artificial intelligence application innovationTechnical specification of intelligent edge cloud computing 2023-10-20 发布 2023-10-21 实施 中关村标准化协会中关村标准化协会 发布发布 团体标准团体标准 学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 I 目次 前言.II 1 范围.1 2 规范性引用文件.1 3 术语和定义.1 4 缩略语.1 5 总体技术架构.2 6 技术要求.3 6.1 智能边缘云资源层.3 6.1.1 基础资源整合.3 6.1.2 基础资源服务.3 6.2 边缘云节点 AI 能力层.3 6.2.1 存储能力.3 6.2.2 AI 模型算法能力.4 6.2.3 应用部署资源调度能力.5 6.2.4 数据传输能力.5 6.2.5 边缘应用能力.5 6.3 边缘云节点管理层.5 6.3.1 节点管理.5 6.3.2 云边通道管理.5 6.3.3 应用管理.6 6.4 云边管控层.6 6.4.1 任务实例生命周期管理.6 6.4.2 协同管理.6 6.5 运营运维管理.7 6.5.1 监控管理.7 6.5.2 告警管理.7 6.5.3 租户管理.7 6.5.4 服务目录管理.7 6.5.5 计量计费管理.8 6.5.6 配额管理.8 6.6 安全能力.8 6.6.1 智能边缘云资源层安全能力.8 6.6.2 边缘云节点 AI 能力层安全能力.8 6.6.3 边缘云节点管理层安全能力.8 6.6.4 云边管控层安全能力.8 学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 II 前言 本文件按照GB/T 1.12020标准化工作导则 第1部分：标准化文件的结构和起草规则的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由中关村数智人工智能产业联盟提出并归口。本文件起草单位：赛迪检测认证中心有限公司、中关村数智人工智能产业联盟、中国软件评测中心（工业和信息化部软件与集成电路促进中心）、上海东部科技成果转化有限公司、数动达观（北京）科技有限公司、北京秒如科技有限公司、浪潮电子信息产业股份有限公司、优刻得科技股份有限公司、中科软科技股份有限公司、上海亘岩网络科技有限公司、曙光云计算集团有限公司、腾讯云计算（北京）有限责任公司、瑞莱信创技术(北京)有限公司、统信软件技术有限公司、济南浪潮数据技术有限公司、上海泛微网络科技股份有限公司。本文件主要起草人：刘云龙、贾昊、邹叔君、李安伦、翟艳芬、陈云峰、冯黎、李宝然、韩君辉、都静妍、谢宇杰、彭兴宇、王洋、张建、谢传宇、韩华珊、代威、刘海涛、朱金良、朱小龙、孟杰、王磊、吕广杰、张百林、刘超、杨国生、谢姣。学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 1 人工智能应用创新 智能边缘云技术规范 1 范围 本文件规定了应用于人工智能领域（以下简称AI）的边缘云的系统架构及技术要求，包括智能边缘云资源、边缘云节点AI能力、边缘云节点管理、云边管控、运营运维管理及安全能力六个部分。本文件适用于AI云服务提供商及第三方机构开展业务活动时，为产品及服务的设计、开发、测试、评估、维护及运营等提供参考依据。2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。T/ZAI 32022 人工智能应用创新 智能云基础设施技术规范 3 术语和定义 下列术语和定义适用于本文件。3.1 边缘云 edge cloud computing 构建在边缘基础设施之上的云计算平台，支持与中心云、终端的协同交互，通过中心云赋能及就近采集、处理业务负载，提升业务交付能力。3.2 边缘云节点 edge cloud node 边缘云中具备计算、存储、网络等资源，为人工智能服务提供基础设施支持的资源。3.3 中心云 central cloud computing 相对于边缘云，构建于传统基础设施上的云计算平台，负责全局数据、应用的统一管理和协同。3.4 容器化部署 containerizing deployment 通过容器技术实现应用程序部署。3.5 安装包部署 installation package deployment 通过程序安装包实现应用程序部署。4 缩略语 下列缩略语适用于本文件。AI：人工智能（Artificial Intelligence）AMQP：高级消息队列协议（Advanced Message Queuing Protocol）ARM：微处理器（Advanced RISC Machine）学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 2 CPU：中央处理器（Central Processing Unit）CVE：通用漏洞披露（Common Vulnerabilities&Exposures）DDoS：分布式拒绝服务攻击（Distributed Denial of Service）GPU：图形处理器（Graphic Processing Unit）HTTP：超文本传输协议（Hyper Text Transfer Protocol）HTTPS：超文本传输安全协议（Hyper Text Transfer Protocol over Secure Socket Layer）I/O：输入/输出（Input/Output）MIPS：无内部互锁流水级的微处理器（Microprocessor without Interlocked Pipeline Stages）MQTT：消息队列遥测传输协议（Message Queuing Telemetry Transport）ONNX：开放神经网络交换（Open Neural Network Exchange）OpenVINO：开放式视觉推理和神经网络优化（Open Visual Inference&Neural Network Optimization）RDMA：远程直接内存访问（Remote Direct Memory Access）RoCE：聚合以太网上的远程直接内存访问（RDMA over Converged Ethernet）SDK：软件开发工具包（Software Development Kit）SOX：萨班斯法案（Sarbanes-Oxley Act）TCP：传输控制协议（Transmission Control Protocol）TVM：张量虚拟机（Tensor Virtual Machine）VPC：虚拟私有云（Virtual Private Cloud)5 总体技术架构 5.1 如图 1 所示，“人工智能应用创新 智能边缘云”（以下简称“智能边缘云”）总体技术架构包括智能边缘云资源、边缘云节点 AI 能力、边缘云节点管理、云边管控四个层次，同时以运营运维管理、安全能力贯穿各个层次。图1 智能边缘云总体技术架构图 学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 3 5.2 智能边缘云资源层由基础资源整合模块、基础资源服务模块组成。该层利用云计算等技术，将底层服务器、存储设备、网络设备等基础资源通过调度、抽象、编排、池化等方法进行统一整合管理，生成基础资源服务，支撑上层边缘云 AI 服务能力。应符合 T/ZAI 32022 中 5.2 的相关要求。5.3 边缘云节点 AI 能力层由存储能力模块、AI 模型算法能力模块、应用部署资源调度能力模块、数据传输能力模块、边缘应用能力模块组成。其中，AI 模型算法能力模块应包括 AI 模型管理、AI 模型部署、AI 模型推理。该层提供智能边缘云侧节点 AI 业务核心能力。5.4 边缘云节点管理层由节点管理模块、云边通道管理模块、应用管理模块组成。其中，应用管理模块应包括镜像管理、应用实例生命周期管理。该层提供智能边缘云侧流程、资源、技术等方面的维护与管理。5.5 云边管控层由任务实例生命周期管理模块、协同管理模块组成。该层提供 AI 智能边缘云侧整体业务的维护与管理，同时支撑边缘云与中心云的业务协同与数据同步工作。5.6 运营运维管理包括监控管理、告警管理、租户管理、服务目录管理、计量计费管理、配额管理。运营运维管理面向智能边缘云各层的服务运营及技术运维的需求，提供技术、管理等方面的支撑。5.7 安全能力提供智能边缘云各层的安全技术与手段，加固和提升智能边缘云的安全防护能力。6 技术要求 6.1 智能边缘云资源智能边缘云资源层 6.1.1 基础资源整合 6.1.1.1 计算资源池 计算资源池具体要求如下：a)应符合 T/ZAI 32022 中 6.1.1.1 的要求；b)应支持边缘资源池接入平台；c)应添加边缘云节点，完成添加后可向边缘云节点发放边缘应用；d)应支持删除边缘云节点，删除后不再针对该节点进行管理和调度；e)宜支持边缘云节点高可用，当边缘云节点重启后，业务应用正常拉起，应用正常运行；f)操作系统应支持的处理器架构包括但不限于 ARM、X86、龙芯 MIPS、LoongArch、申威 SW 等；g)操作系统应支持主流的虚拟化技术和容器技术；h)操作系统应支持软件包、CVE、内核补丁更新机制，系统软件包更新后应兼容原来的基础运行库、开发环境以及应用环境；i)操作系统可支持轻量化内核及容器操作系统。6.1.1.2 存储资源池 存储资源池应符合T/ZAI 32022中6.1.1.2的要求。6.1.1.3 网络资源池 网络资源池应对网络设备进行逻辑抽象和集中管理，具体要求如下：a)应符合 T/ZAI 32022 中 6.1.1.3 的要求；b)宜支持边缘网络自治，当边缘云节点网络离线时，业务应用不中断。6.1.2 基础资源服务 基础资源服务层应符合T/ZAI 32022中6.1.2的要求。6.2 边缘云节点 AI 能力层 6.2.1 存储能力 存储能力要求如下：a)应支持多类型异构数据存储，包括结构化数据、半结构化数据、非结构化数据；b)应支持不同类型数据适用场景、持久化策略、存储时间、实时性要求等内容的配置；学兔兔 w w w.b z f x w.c o m 标准下载T/ZSA 163-2023 4 c)应支持数据存储容量可扩展，避免因容量限制而无法满足数据存储需求；d)应提供异构接口，支持异地分布的数据接入，建立以应用为导向的、不同数据来源间的关联关系模型，数据信息可回溯；e)应支持对数据存储的有效性检验，确保数据结构、语法、输入输出等符合设计要求；f)宜支持重要数据的冗余性存储，提供备份恢复功能。6.2.2 AI 模型算法能力 6.2.2.1 AI 模型管理 AI模型管理要求如下：a)应支持模型仓库的管理和配置，包括但不限于模型存储（如自定义模型、订阅模型）、模型版本控制等；b)应支持多种模型文件格式，如 ONNX、TensorFlow、Pytorch 等；c)应支持模型文件的常见操作，包括但不限于查看、导入/导出、校验、修改、删除等；d)应支持模型文件的管理操作，包括但不限于查询、排序、分类、展示等；e)应支持模型文件的格式转化，如以标准模型格式为中介支持主流模型格式间的互相转换；f)应支持模型可视化，包括但不限于模型结构、网络层级、网络权重等的可视化；g)应支持模型溯源信息，如查看模型与数据集、算法间的关系；h)可支持基于任务维度的模型评估，如基于同一任务对模型进行对比；i)可支持模型压缩，可根据用户定义参数完