大模型API性能指标比较

大模型API性能指标比较

深入分析TTFT、TPS等关键指标

  • 支持按条件过滤不同模型的性能指标
  • 提供模型处理请求并开始输出文本的速度(TTFT)
  • 展示模型生成文本的速度(TPS)
  • 显示从请求开始到响应完成的总时间
  • 列出支持的上下文长度
  • 展示输入输出的价格信息

产品详情

该网站提供了国内常见模型提供商API服务的性能指标,包括TTFT(首token时延)、TPS(每秒输出token数)、总耗时、上下文长度以及输入输出价格等详细数据。它为开发者和企业提供了评估不同大模型性能的依据,帮助他们选择最适合自己需求的模型服务。