《2024中国企业AI大模型落地应用现状调研报告》由选型宝联合亚马逊云科技发起,对中国企业AI大模型的应用现状进行了调研,主要内容包括调研简介、样本概况、总体判断、落地场景、落地径、落地挑战和投入计划等。
- 调研背景:AI大模型掀起技术,但业界对其是否是生产力存在争议。调研旨在探讨AI大模型的落地情况、业务价值、落地场景和挑战等问题。
- 调研结论:AI大模型落地总体处于探索孵化阶段,渗透率不足1%;已部署的用户中,55%认为已看到清晰价值;更多真实案例能吸引观望者入局;CIO优先选择知识密集和服务对象重要性高的场景;降本增效、改善体验、孵化创新是大模型创造价值的主要模式;大模型落地关键是解决“价值对齐”问题;CIO关心大模型在内容质量、安全、性能方面的表现;落地挑战包括成本、技术、人才、行业方案等;“尝鲜者”对大模型的投入积极且谨慎。
- 企业规模:参与调研的用户企业规模主要在中大型以上,300人以上企业占比66.7%,1000人以上企业占比38.2%,3000人以上规模企业占比20.5%,10000人以上规模企业占比12.1%。
- 应用阶段:AI大模型落地总体仍处在探索孵化阶段,参与调研的141家企业中,仅35%已部署AI大模型。
- 用户感受:已部署AI大模型的用户中,55.1%认为已看到清晰价值,排除软件企业后,35家传统企业中51%认为已看到清晰价值。
- 未来市场破局关键:在未部署AI大模型的92家企业中,56.5%有兴趣尝试,42.4%等待同行案例再尝试,更多真实案例能吸引观望者入局。
- 场景选择:CIO优先选择知识密集和服务对象重要性高的场景,如营销内容生成、客服、知识库等,这些场景更容易发挥AI大模型的能力,同时企业对大模型带来的业务价值有较急迫的期待。
- 创造价值的方式:降本增效,通过大模型的内容生成能力和自然语言交互特征提高员工效率、辅助决策、降低用工成本等;改善体验,提升客户复购率、使用频度、满意度等关键业务指标;孵化创新,降低创意门槛、提高创新速度,孵化创新。
- AI大模型产生效果的3H原则:Helpful(内容有帮助、可用)、Harmless(内容合规、无害处)、Honest(内容准确、无)。
- 企业“培育”大模型的径:包括提示词工程、搜索增强、精调、预训练等,技术难度和资源投入逐渐提高,企业应在达到业务价值的前提下,选择技术投入小的径。
- 来自模型自身的挑战:CIO最关注大模型在检索准确性和召回率、问答和生成内容的相关性、安全合规和数据隐私、系统的响应速度和并发能力等方面的表现。
- 来自资源和能力的挑战:包括成本(计算资源和成本需求过高)、技术(训练数据质量和规模过大、模型微调和部署的复杂度高、知识库内容结构化程度过于复杂)、人才(AI人才缺乏)、行业方案(缺乏行业的解决方案)等。
- 用户最需要的外部支持:大模型训练和系统开发、知识库内容治理与准备、咨询规划和架构设计、系统部署运维和体验优化等。
- 积极且谨慎:53.1%的被调研企业计划在1年内投入大模型建设,但50.4%的企业计划投入不高于10%的IT预算。