大模型进入规模化推理阶段后,算力评价标准正从卡数、算力规模和PUE转向产出端:同样一批芯片、同样一度电,最终能生成多少满足质量、时延和稳定性要求的Token。中科类脑瞄准的正是这段从资源到智能产出的转化过程,并将自身体系称为“算电协同型Token工厂”,把异构芯片、模型、用户任务和电力放进同一套系统调度,用更少的资源产出更多有效Token。
中科类脑合伙人、副总经理常峰算了一笔价值账:一度工业用电采购价通常只有几毛钱,转化成算力后价值可能达到几十元,进一步形成Token后,部分模型每百万Token价格可超过百元。算力是生产设备,电力是原料,用户提交的提示词和任务进入Token生产线,模型负责完成智能转换,调度系统决定任务在什么时间、什么地点、使用哪类芯片和哪个模型运行。客户最终购买的是能够完成任务、符合指标的Token服务。
在产业链定位上,传统IDC交付机柜、电力、网络和空间,云厂商提供算力实例与模型接口,中科类脑向上再走一层,即Token生产运营层,对Token的生产效率、成本和任务结果负责。常峰将商业逻辑概括为效能和场景化两件事,目前已在AI4S及能源领域形成可规模化的商业闭环。平台统一纳管英伟达、昇腾等不同架构算力,聚合模型API和Token服务,并连接企业私有算力池与公共资源池。
据中科类脑介绍,截至目前平台已接入逾3000个算力节点,总规模超过5000P,累计服务超8万企业及科研用户。后台是公司与中国科大团队联合研发的决策大脑,负责电算Token一体化系统从监控、预测到调度、运营的闭环运转。中科类脑CTO、研究院院长丁海松将系统节奏拆为监控、预测、决策三步,所有决策以用户体验、结果质量和系统稳定性为边界。
调度核心是从算力任务中找出“柔性负荷”:对首Token时延敏感的实时任务留在原地,可排队、可断续的批处理任务则转移到电价低谷时段异地运行。针对异构芯片协作难题,中科类脑为每种芯片配置“包工头”式插件,调度层只负责分发任务,插件负责指挥同类芯片,并为每张芯片建立能力画像。其核心产品并非某一座机房、某款芯片或某个模型,而是一套跨域生产组织能力。
扫码查看视频号
咨询
咨询