查看 AI 芯片与计算系统测试结果

查看已发布的 AI 芯片和计算系统测试结果。数据描述的是测试设备与条件;你自己的设备表现可能不同。

每次调用最多 0.036 积分

按确认的实际用量结算,未使用的预留额度会恢复到可用余额。

Artificial Analysis

查看 AI 芯片与计算系统测试结果

查看已发布的 AI 芯片和计算系统测试结果。数据描述的是测试设备与条件;你自己的设备表现可能不同。

得到的结果

基准记录可能包含系统总 token 吞吐量、单次请求的输出速度、首个 token 延迟、端到端速度及实测功耗,并附带测试模型、芯片数量、推理软件和精度设置。可用芯片资料可能包含每 GPU 小时的云租用价格。容量结果可能给出满足指定速度与首 token 延迟要求的最高已测试并发请求数。

从你的任务开始

查看 Artificial Analysis 已发布的 AI 芯片和计算系统测试。只比较测试条件相近的系统。分别说明整个系统的处理速度和生成一条 AI 回答所需的时间,并指出缺少的信息。

你需要了解的范围

这些是已发布的测试观测,不会测试你自己的硬件,也不保证生产环境表现。比较时应保留模型、配置与计量单位。输出速度不包含等待首个 token 的时间;实测功耗不等于芯片额定功耗。字段与租用价格可能缺失。

关于这个工具,你可能还想知道。

输入要求、结果含义,以及使用前需要了解的细节。

连接指南

不一定。一个系统可以整体处理更多请求,但每个回答反而更慢。这是两种不同的数据,应分开说明。