光电融合芯片有望让Token成本降50% 国产算力集群或成降本关键
市场快讯
2026-07-19 23:29:24
0
金色财经报道,7月19日,当前,随着AI智能体在各行业的应用深入,Token的调用量一直保持着高速增长态势。未来如何能让算力成本进一步下降,成为各方发力的重点。业内人士介绍,他们正通过算力平台来协调多个主流大模型的使用,综合降低词元成本。同时,还在全国范围加快大规模算力集群的建设。而国产算力芯片支撑的超大规模算力集群,被业内视作是下一步降本的关键。此外,未来三五年内,光芯片等更前沿的新技术落地,也有望成为降低算力成本的另一探索方向。“光电融合的芯片相比电芯片的话,核心在于它的计算延迟更低、功耗也...
金色财经报道,7月19日,当前,随着AI智能体在各行业的应用深入,Token的调用量一直保持着高速增长态势。未来如何能让算力成本进一步下降,成为各方发力的重点。业内人士介绍,他们正通过算力平台来协调多个主流大模型的使用,综合降低词元成本。同时,还在全国范围加快大规模算力集群的建设。而国产算力芯片支撑的超大规模算力集群,被业内视作是下一步降本的关键。此外,未来三五年内,光芯片等更前沿的新技术落地,也有望成为降低算力成本的另一探索方向。“光电融合的芯片相比电芯片的话,核心在于它的计算延迟更低、功耗也会更低。每单位Token成本会相应下降50%,甚至更多。”(金十)
文章版权声明:除非注明,否则均为本站 原创文章,转载或复制请以超链接形式并注明出处