当前
，
，企业普遍认同智能化是构建其核心竞争力的重要支柱
。。
。AI技术未来将深刻融入企业业务的方方面面
，，为营销、、、研发、
、、生产、、、服务等环节都带来革命性的效率提升和用户体验优化，，
，
，以及商业模式上的创新。。
。。那些能够将智能化融入企业基因，，，，拥抱智能化的企业，，，将在未来的竞争中抢得先机，，
，引领行业发展。
。
。

企业AI建设工作开展的前提

智能化转型不能成为一句空谈，，，，必须切实转化为行动，，，通过高层共识、、愿景定义、、战略对齐
，，三个方面的动作，，，实现将AI纳入到企业的智能化转型战略。。
。。

第一，，高层领导要达成共识，
，，
，明确AI的战略意义，，，是智能化成功的基础。。只有建立了这种共识，，，才能帮助团队理解AI将如何支持企业的业务增长、、运营优化和业务创新，
，，
，从而在资源分配和项目推进中获得支持
。。。通过在高层战略会议中讨论
，，应明确把AI建设纳入到企业战略级项目中，
，，并且给予更高的优先级。。

第二，，企业一把手的推进至关重要，，，，一把手要牵头，，，，各个业务负责人参与
，，设定长期目标和关键业务领域的AI应用，，这样才能有助于为企业的AI战略提供更加清晰的方向
。。

第三
，，
，AI落地绝非一个部门所能独立完成的，
，，，它需要多个部门协同推进
，
，要确保AI建设与企业整体战略保持一致，，同时需要设定相关绩效指标并跟踪进展。。

企业AI建设的路线图

这张图展示了企业AI建设的整体路线图，，
，通过8个关键步骤，，
，，帮助企业实现AI项目的全面落地与持续运营。。。。

确定目标

明确的目标是项目成功的基础
。。。。设定目标有助于指导后续的所有工作
，，并确保团队在同一方向上努力
。。目标应与企业的战略紧密相连
，，确保AI的建设为实现整体战略目标服务。。。企业在建设AI时，
，经营目标、
、运营目标和部署目标相互依存，，
，形成了一个完整的目标体系
。。。经营目标提供了方向
，，，运营目标确保了效率，，，，部署目标实现了技术落地。。
。企业应当在制定和实施AI建设计划时，，，充分考虑这三者之间的关系，，，以实现技术与业务的深度融合，，，从而推动企业的持续发展和竞争力提升。。

企业在部署大模型时需要清晰地识别其适用场景与局限，，，，不能一刀切，，，，而应制定合理和差异化的目标
。。。。过高的期望目标，
，，可能会导致整个过程受挫。。。。因此，，，，了解何时适合采用AI、
、
、、何时应避免使用AI，，，以及针对特定场景选择何种AI技术至关重要。。
。。在此，，我们主要聚焦大语言模型的建设。。。。

大语言模型，，主要是做语言理解和生成的，，，但是对于一些传统AI已经展现出出色表现的场景，，
，大模型其实并不具备明显的优势。。例如，，，在一些应用CV/OCR等技术的场景，，
，已经有非常成熟的技术和产品
，，是没有必要应用生成式AI去重构的。。。同样，，在一些高度定制化的场景中，，生成式AI也并不适用，，，，如下述高度定制化服务场景所示。。。
。

在中间这几类，
，，，都是生成式AI的典型应用领域，
，，例如
，，，，内容生产
、
、个性化服务、、写代码等，，在很多场合效果已经非常好，，，，可以替代大量人力工作。
。而在一些场合，
，
，，如流程自动化、、
、数据分析方面，，可以对原有系统提供更好的补充和辅助作用。。

评估现状

在明确了目标之后，
，，我们需要了解企业自身所处的阶段，，发现薄弱环节
，，并为下一步的建设方向提供指导。
。我们主要从4个方面来评估企业的现状。。。。

首先是战略与场景，，要确保已经在企业内部达成了目标的对齐，
，，，这个也是我们一开始所强调，，，，需要重视的
；在场景上
，，，
，企业需要优先选择符合战略目标，，并且具备可行性的场景进行实施。。

第二，
，要评估的是企业的数据就绪度。
。。AI项目的成功，，一定是数据驱动的。。。。高质量的数据是AI模型项目的基础，，
，，这对于传统AI还是生成式AI都是一样。。。但是生成式AI更重要的一点就是，，，，数据的规模和多样性。
。。我们所熟知的GPT系列的模型能力强，，一方面原因是算法创新，，像自注意力、、强化学习等，
，更重要的一点是数据质量高，，，场景覆盖广。。另外，，企业想要长久保持AI模型的高质量服务，
，，，还需要不断采集数据、
、、、反馈数据
，，，对模型进行迭代更新。。。。

第三
，
，AI项目的落地实施，
，离不开团队，，，，需要具备理解业务并转化为项目的核心架构，，以及一些工程化的角色
，
，如数据标注
、、、清洗、、
、模型训练和调参、、、、工程优化等角色。。
。

第四，，资源就绪度，，指的是AI算力，，
，包括计算存储、、、网络等，，
，，以及为了实施项目所需要的一些基础框架、、、、开发工具等，
，，目的是提供对AI全生命周期的支撑。。。

选择场景

接下来我们要面对的是如何选择企业的AI应用场景，
，我们所面临的几乎所有的企业应用场景，，归根结底都是围绕降本增效、
、、
、提升体验和模式创新三个方面来展开的，，这也是企业智能化转型的终极目标。
。。

首先需要从战略匹配度，，，
，看是否符合这三个方面的目标，，，其次在技术支撑方面，
，，，重点考虑是否是生成式AI的应用场景，，，，以及我们通过哪些技术路径来支持场景落地
。
。。另外就是数据和AI基础设施。。。数据层面，，，，需要具备精标注数据、、反馈数据
，，，以及垂类语料（无标注数据）条件；算力方面提供AI计算支撑
；基础大模型方面，
，这个是企业应用AI的最基础条件
，
，，企业需要考虑大模型的开源/闭源路线。
。目前开源生态比较强大，，，进步也很快，
，，是一种更高性价比的选择。。。。

初步评估可行性

选定了场景之后，，，，我们需要对某个特定场景有个初步可行性判断，，，这个判断需要结合业务、、技术和工程角色，
，
，，共同参与评估。。。

业务如何判断呢？？？
？业务方就是实际的使用部门，，，比如业务方是合同审核部门
，，场景是审核合同里边的关键内容是否缺失（乙方名称
、、、付款条件
、、、、付款方式等）。。。那么输入就是一段合同文本，，，，输出就是几个关键字段和它的值；目标就是提取这些信息
，
，，，并且内容没有丢失。
。。只有这些还不够
，，
，，业务部门可以尝试直接调用一些大模型（在确保数据安全前提下），，
，看看效果怎么样，，这是没有任何技术和工程参与优化的结果
。。。这个工作业务团队的是完全可以胜任的，，如果让技术部门来判断，
，可能会存在业务知识的缺少
，，，，无法准确判断业务场景的可行性。。。。

从技术部门角度，，
，
，重点是关注基础模型本身的能力，，也就是大模型在预训练阶段已经基本定型的，
，主要包括它在预训练阶段用的知识、、采用了哪些语言
、、、有没有用一些带有逻辑推理的语料
。。这些我们做了判断之后
，，，也可能没有找到一些能够激发它本身知识的好方法，，这里就需要用一些专业性强的问题去测试，，看看他能不能突破这个上限。。

第三
，，，就是工程角度，，门槛最低的就是Prompt（提示词）优化，
，这是一个非常实用并且简单的工程优化方法，，我们还可以结合few shot（示例），
，以及思维链等方式，，
，，来激发大模型本身的能力。。。如果是企业内部限定的文档，，，要去用RAG（检索增强）生成这种方式。
。。如果是因为大模型对指令的遵循能力差等问题，，则需要考虑用SFT（supervised fine tuning）微调。。如果尝试了以上方式都不行，，，需要再看下，
，
，我们要解决的是不是术语专业领域的问题，，那可能需要准备大量的专业领域语料，，，，去做二次预训练。。。这种方式不推荐，，，它所消耗的资源，，对团队的要求都是极高的。。。。他们的具体差别对比如下：

准备所需资源

在确定初步可行之后，，
，即可开始准备大模型落地所需要的资源。。
。
。主要从4个方面准备：与建设场景相匹配的数据、
、
、算力、、、开发工具和团队。。

1.准备数据

根据选择场景的不同
，，，，需要准备的数据也会有很大不同
：

• RAG场景下，，主要的数据准备工作包括：

文档预处理（如文档格式转换等）、、
、文档解析（PDF识别，，版式识别）、、OCR（图像转文字）、、、文档切分（切分为小的片段）、、、数据增强（提取QA、、、、生成摘要）。。。。

• 大模型微调场景
  ，
  ，，，主要的数据准备工作包括：

精标注QA数据（问答对形式）、
、准备指令数据（如人设遵循、、、
、输出格式要求等）。。。需要确保数据准确性（例如做过滤低质量，，，去掉重复数据等）
、、、数据多样性（要能够覆盖各种真实应用场景）
、
、数据一致性（数据不冲突）、、、数据增强（生成QA、、
、、摘要）等。。。

• 二次预训练场景，，主要的数据准备工作包括：

专业领域的语料（如金融、、医疗、、法律专业术语，，，在这些领域使用语境等）。。。需要确保数据多样性（如覆盖场景种类要足够多）、、数据规模要足够大（一般要达到数十亿级token以上）
、、一定的配比数据（增加通用领域数据一起做二次预训练，，如1:1配置）
、、数据处理（去除重复数据、
、、、去除低质量数据、、、去除隐私数据、、去除不合规数据等）
。。。

2.准备算力

在企业的大模型建设中，，
，
，算力的多少决定了训练速度、、
、、效率和模型表现，
，，，是推动模型快速高效落地的关键资源。。那么企业要准备多大的算力才能满足实际应用需求呢
？
？这里有一些经验，
，可以用于快速进行算力数量估算（此处仅考虑GPU算力）。。。。

对于训练场景，，全参微调所需的总显存一般为模型参数量（以B-十亿为单位）的20倍，，例如70亿（7B）参数大模型，，至少需要140G显存，，，，按照单卡80G显存，
，，则对应的GPU卡至少需要2张。。。。而130亿（13B）参数大模型，，，至少需要260G显存，，
，按照单卡80G显存，，，则对应的GPU卡至少需要4张。。

另外，，企业也要在算力投入和训练时间上进行权衡
，，，训练时间可参照如下公式进行估算
：

以Qwen2-72B为例，，，在24张80GB显存的A100上，，在3B tokens的数据上训练72B参数量的Qwen2
。。80GB显存A100的峰值性能为312 TFLOPS
，，
，，设GPU利用率为0.45，
，，则所需要的训练时间为5.9天
。。

而在推理场景，
，总显存计算公式为：

其中n_layer为解码器/注意力层数，，，n_heads为每个注意力层的注意力头数，，d_head为注意力层的隐藏维度
，，，p_a为精度
，，，，batch_size为批处理大小，，
，，max_length为模型最大序列长度，
，，KV Cache为模型推理过程中的KV缓存。。。。

以常见的参数量模型为例，，，，计算推理所需要的算力资源。。。

以  Yi1.5-34B 为例
，
，，，n_layer（解码器/注意力层数）为60，，n_heads（每层注意力头数）为56
，
，，d_head（注意力层隐藏维度）为128，，
，
，p_a（精度）为2，
，batch_size（批处理大小）为1，，，max_length（模型最大序列长度）为4096。。。
。

模型参数量需要的显存为68GB（34*2=68GB），，，，另外需要预留模型推理过程中的KV缓存，，约为7GB（2*1*4096*60*56*128*2)*1024-3=7GB）。。。总共需要的显存至少需要75GB。。。

3.准备工具

这里分为三个方面：

首先是基础大模型的选择，，
，，这个往往决定了企业应用效果的基线。。。。例如目前效果比较好的开源大模型 Qwen系、、、Llama系，，由于开源大模型的能力越来越强，，性价比更高，，，这些都可以作为企业的首要选择。。除此之外，
，还需要考虑模型与任务的匹配度、、参数规模和预训练数据量、、、算力资源、、语言支持等方面。。。
。

其次，，，，企业是为了解决特定场景下的应用目标问题，，
，
，则需要AI应用开发，，，，例如开发一个RAG应用、
、、Agent智能体应用等
。
。首先要评估的还是这个应用开发工具对场景效果的支撑。。。开发工具必须能够针对企业的具体业务场景（如流程自动化、、、知识检索、、、智能推荐等）提供符合业务预期效果的模型输出，，，保证大模型在实际应用中的可落地性
；要能够支撑企业用户从概念到快速构建应用、、
、应用效果提升的操作自闭环，
，让企业能够自主进行效果评估、、、自助优化，，，从而可以不过度依赖大量昂贵的外部人力调优服务
；工具的使用门槛应低
，，
，既能够让专业的AI工程师快速上手，，也允许业务人员参与配置和使用。。理想的工具应该有良好的用户界面、、
、、代码示例、、、API文档等支持
，，
，，以减少开发复杂度和时间。
。。

第三，，在模型微调和部署工具选择上，
，基于长远考虑
，，，，关注对资源的利用率和整体的性价比，，
，其次是工具的完整性、、
、、兼容性
、、、、易用性、
、、可靠性、、、、以及安全性。。例如
，，，在性价比方面，，，在相同的基础大模型条件下，，平台对于算力资源消耗和模型服务性能，，能否做到更好的提升；在用户使用时，
，，学习门槛是否足够低，，，，操作是否足够简便
，
，过程是否自动化等。。。。

4.搭建团队

大模型项目团队与传统应用系统团队在技能、、角色和需求上有显著的差异。。。。

大模型项目更依赖于数据驱动的效果调优、、模型微调和二次预训练等技术，
，，而传统系统更关注业务流程的实现与系统的长期稳定性。。。。企业在推动大模型项目落地时，，
，应根据首先落地的场景，，来做差异化的团队配置。。
。例如，，，，企业初期只选择了内部流程自动化场景，，，只需要做prompt优化和系统对接就可以，
，所以在AI团队上重点配置的就是提示词优化工程师、、、工程开发工程师；而在RAG应用场景
，，就需要文档数据预处理、、、
、检索优化等工程师
。。。。

分阶段实施

推荐企业分阶段实施
，
，避免一开始目标过大过难
，
，，从而造成建设过程受挫。。

阶段一：场景为王&运营提效

场景为王，，，，指的是选择最简单
、、、最容易做出效果的场景去建设。。。这个也是符合绝大多数企业的现状，，，比如，，，
，优先选择企业内部的知识问答、、、、流程自动化、、代码辅助编写等。。
。
。投入小、、见效快。。。在这个阶段做出了成果，，
，就能进一步扩大，，小步快跑。。。

例如
，，，将传统表单流程改造为自然语言交互的的智能化流程
，，主要利用Prompt优化技术。。。

也可以选择基于RAG的企业知识问答机器人，，，，整合企业内部文档
，，，，提高知识检索的效率和检索效果。。

这两类场景，，，，都能够快速进行落地，，并且进行效果调优之后上线，，，，迅速在企业内部推广使用。。在上线后，，，需要同步进行运营提效工作，
，，持续收集场景反馈数据
，，
，对落地场景效果持续优化
，，真正在初始落地阶段产生明显价值。。

阶段二：场景扩展

基于第一阶段的成功，
，，企业要深入到核心业务场景去
，，，，解决一些复杂的场景问题，，发挥AI的价值。。从辅助性角色，
，变成核心角色，
，
，，例如企业的销售机器人、、、
、个性化服务机器人、、、
、运维机器人等。。
。这个阶段的特点就是复杂度会更高，，往往不是单靠大模型能完成的
，
，，，往往需要借助小模型、
、、智能体等来协作完成。。。

阶段三：持续优化

为什么要做这个事情呢？？因为不管是什么样的AI模型，，，，只要部署了以后，，，，它的固有知识就相对不会变化。。。而业务场景不是一成不变的，，，
，如果不持续优化模型，，，它的效果一定会持续衰减。
。。另外，，，企业落地的场景越来越多，，，并发量越来越大，，，它所消耗的资源也成倍增加，，，，如果我们不对它的底层资源进行优化，，，那对企业来说将是一笔非常大的成本支出。
。
。。

综上
，，在效果方面，，
，，我们通过不断采集、、反馈、
、、优化，，，，形成数据闭环，，，
，来持续对场景做提效。。。构建数据反馈闭环是确保企业大模型适应业务变化的基础，，优化后的模型重新部署到业务场景中，，，，继续收集新的数据，，，形成持续反馈的闭环。。。。这不仅让模型适应业务的变化，，
，，还能不断提高其在核心场景中的应用效果。
。。

根据实际的不同，
，，可能需要选择进行SFT或者二次预训练的方式，，，，提升模型的能力。。二者的区别在于，，，，SFT微调更注重任务和场景的定制化表现，
，而二次预训练更适用于提高模型在特定领域的专业能力。。。

在资源利用方面，，
，
，企业可以选择通过模型压缩
、、国产算力替代等方式
，，实现资源的优化配置。。。。

阶段四：赋能核心业务

这是AI落地的终极目标，，
，AI大量融入到关键业务链条中，，，深入到企业核心业务，，，比如制造企业的研产供销服等环节。。未来，，企业的AI建设不断深入，，将不再是覆盖单一领域，
，
，而是会覆盖到企业的全部链条，，例如以上这些。。。在每一个环节，，都可以发挥AI的作用。
。。有了前三个阶段的经验积累，，，
，在这个阶段一定会走得更稳
、、、、更深入。。例如，
，，在研发板块，
，，，可以充分利用大模型的理解以及调用外部工具、、生成代码的能力，
，
，，辅助进行产品工艺设计和参数选择；在生产板块，，，，可以通过语音自然语言交互，，，，对机器人进行操作
；在销售板块，，，大模型结合数字人，，能够为用户提供更好的体验和服务响应
；在设备运维方面，，，能够及时给出设备故障的维修方案；在运营方面，，，，通过大模型提供个性化的数据分析和运营报告。。
。。

评估

企业对大模型项目建设评估不仅仅是对一次项目执行结果的评估，，，
，更是对阶段性工作的评估，，包括但不仅限于项目业务价值、、、、用户体验、、、、成本效益、
、模型性能与合规性
、、、安全性等多个维度的综合评估。
。。通过建立持续的监控与反馈机制，，，，优化运营成本，
，，
，分析模型的扩展潜力，，
，并结合未来发展战略，，企业能够在评估阶段进一步确保大模型项目的成功和长期价值。。

持续运营

只有坚持长期在数据和场景方面的运营深耕
，，，，才有助于构建企业的持续竞争优势。
。在持续运营，
，，重点关注数据飞轮持续化和场景运营精细化。。。。

数据飞轮持续化
：

• 整合多源数据（销售、、、、客服、、、供应链……）
  ，，
  ，，统一数据质量标准，，
  ，，设置专门的数据治理团队；
• 设置模型效果评估标准（基于标准测试集和基于业务反馈结果）
  ；
• 收集线上/线下反馈数据
  ；
• 关键指标监控（性能指标
  、、、、业务指标，，，
  ，如转化率、
  、复购率）；
• 明确实施微调优化的准入标准；
• 通过持续的数据积累、、、、数据反馈闭环，，，推动模型的不断优化和迭代。。。。

场景运营精细化:

• 一把手牵头，，发动各个业务部门梳理业务场景，，，细化到最小粒度场景；
• 对全量场景做价值度评估，，排优先级；
• 建立业务部门和AI团队的场景对接机制，，
  ，，明确场景提出-评估-立项/关闭-建设-评估-运营的整个闭环；
• 建立效果评估机制，
  ，，对用户反馈做闭环跟踪；
• 挖掘新场景，，，，鼓励内部做业务场景与AI结合的创新
  。。

以上就是一个完整的企业落地AI的路径方法论，，，不同AI能力基础的企业可以选择不同的建设起点开始启动。。
。
。

下期预告：在企业实施AI落地的整个过程中
，，有哪些误区需要提前了解，，，，从而避免“掉坑”呢
？？我们在下一期详细说一说，，企业在AI建设过程汇总的八大误区。
。。。