OpenAI近日透露,其最新旗舰模型GPT-4o的推理成本已显著下降,这得益于微软Azure云服务中基于Arm架构的Cobalt 100虚拟机。据OpenAI工程师介绍,该芯片在运行GPT-4o时表现出色,不仅提升了处理速度,还降低了能耗,从而有效控制了运营成本。
这一技术调整是OpenAI与微软深度合作的一部分,旨在通过优化硬件基础设施来应对大规模AI推理的挑战。业内分析认为,此举可能推动更多AI公司采用定制化芯片以平衡性能与成本,进一步加剧云计算市场的竞争。
长按识别二维码