InfoQ研究中心近日发布《2024中国AI大模型应用实践报告》，揭示当前大模型在金融、医疗、制造等行业的落地现状。报告指出，尽管大模型技术已从通用走向行业专属，但企业级部署仍面临数据质量与算力成本两大核心挑战。
报告显示，超过六成受访企业已将大模型应用于智能客服、代码生成等场景，但仅三成实现规模化生产。数据层面，行业知识碎片化、标注成本高企成为模型效果提升的主要障碍；算力层面，GPU资源短缺与推理成本过高导致ROI不达预期。报告建议企业采用“小步快跑”策略，优先在非核心环节验证价值，并探索混合云与边缘计算以优化算力支出。
InfoQ专家表示，未来一年竞争焦点将转向“场景深度”而非“参数规模”，具备数据飞轮与成本控制能力的企业将率先实现商业闭环。该报告为行业提供了从选型到落地的系统性参考框架。