迈向Token服务新范式-从评测到调度的全链路优化供给.pdf

迈向Token服务新范式-从评测到调度的全链路优化供给.pdf 迈向 Token 服务新范式 ——从评测到调度的全链路优化供给 演讲人：冷静文 上海交通大学计算机学院副院长 Token 调用量高速增长 2024年初至 2026年3月 2024年初至 2026年3月 全球日均Token调用量增长约 300 倍中国Token调用量增长约 1,400 倍 万亿 / 日万亿 / 日 300-600 >140 600 150 450 100 18...