算力巅峰!斯贝达电子发布910B推理卡,AI推理性能再创新高
2025-08-13
产品简介
华为SAI 900I A2推理卡属于910B推理卡系列,其核心采用融合“通用处理器、AI Core、编解码”于一体的设计,具备超强AI推理、目标检索等功能,拥有超强算力、超高能效、高性能特征检索、安全启动等优势,可广泛应用于搜索推荐、内容审核等互联网应用场景。
外观

图 1-1 SAI 900I A2 推理卡全高拉手条外观图
系统框图

图 1-2 SAI 900I A2 推理卡的系统框图
● 昇腾910 AI处理器是SAI 900I A2 推理卡的核心 , 内部集成了20个AI Core ,提供 Cache、 内存、图形、视频加速器、 IO等资源。
● iBMC可通过MCU获取PCB 、 BOM版本号等信息 , 同时获取单板温度、功耗、电源 电压等信息。
● 昇腾910 AI处理器的供电采用高能效比的多相电源和华为自研的PSIP。
产品特点
性能特点
● 高度集成
– AI算力、通用算力、 I/O能力三合一。
– 处理器集成20个华为达芬奇AI Core+8个TaiShan Core。
● 超强算力
提供业界领先的560 TOPS INT8和280 TFLOPS FP16算力。
● 高速带宽
支持PCIe 4.0。
可维护性特点
● 支持带内的在线升级功能 ,方便客户进行日常维护。
● 支持带内及带外获取温度、电压、功耗等设备状态信息。
● 完备的命令行管理功能 ,用户可以通过各种命令进行日常的设备管理。
● 支持带内及带外资产管理功能 ,提供序列号等信息 ,方便资产管理。
典型使用场景
SAI 900I A2 推理卡典型应用场景为搜索推荐、 内容审核。
搜索推荐系统主要根据用户输入(用户画像、搜索词等) ,通过召回和排序算法 ,在 内容池中筛选出最终推荐的素材(视频、文本等) 。主要应用在互联网等领域。
搜索推荐系统如图2-1所示 ,主要部件有推理服务器、客户端信息化系统软件组成 , SAI 900I A2 推理卡部署在推理服务器中 ,主要实现用户数据类别召回、排序、重排 序等推理功能。