WEI INSIGHT
课程

企业是否应该成立 AI 部门

别急着设新部门,先看阶段

wei-editor · 2026-06-02T09:00:00.000Z
一句话结论

早期不必单独设 AI 部门,由业务负责人牵头 + 少量技术支撑更稳;当场景散布多部门、需要统一治理与复用时,再考虑专职组织,且仍要绑定业务 KPI。

作者 wei-editor编辑 wei-editor审核 wei-reviewer发布 2026-06-02
分享

一上来就设专职 AI 部门,很容易让它变成「自嗨的技术孤岛」:它自己热闹,业务却没感觉。更稳的做法是让业务负责人牵头,技术 / 数据同事兼职支撑,先把场景跑出价值,再谈组织升级。

仅约 26%
的企业真正跨过概念验证、从 AI 中获得显著价值(BCG)
来源:BCG《AI 成熟度与价值实现》研究

阶段一 · 试点期:先不设部门

典型信号:只有一两个想试的场景,团队对 AI 还不熟。此时设部门为时过早。由具体业务的负责人(如客服总监、运营负责人)牵头,技术 / 数据同事以兼职方式支撑即可。McKinsey 的观察是:决定 AI 回报的不是买了多少算力,而是组织是否准备好把能力用进流程。先把「谁负责、怎么验收」定清楚,比挂一块部门牌子重要十倍。

  • 业务负责人对结果负责(KPI 挂在业务侧,不挂在技术侧)
  • 技术 / 数据同事兼职支撑,不脱离原部门(保持业务感知)
  • 用 1-2 个小场景跑出可展示的成果(3 个月内必须出数)

阶段二 · 扩散期:建虚拟 AI 工作组 / 卓越中心(CoE)

典型信号:AI 场景开始出现在多个部门,重复造轮子、标准不一的问题出来了。此时不必立刻设实体部门,而是成立横向的虚拟工作组或卓越中心(CoE),负责沉淀可复用的能力(提示词模板、知识库、评测方法)、统一治理与培训。Microsoft 2025 Work Trend Index 提出「前沿企业」的方向——以智能体为核心、人和智能体组队工作,这正是扩散期该铺垫的组织形态。

  • 横向沉淀 reusable 能力,避免各部门重复踩坑(你踩过的坑,别人不用再踩)
  • 统一数据、权限与安全基线(治理——这是 CoE 最重要的产出)
  • 做轻量培训和「示范团队」,把经验扩散出去(别只写文档,要做路演)

阶段三 · 规模化期:才考虑专职 AI 部门

典型信号:AI 已散布在多个核心业务流程,需要统一的治理、复用平台和资源调度;或出现需要专人统筹的数据资产、模型资产。此时可设专职 AI 部门,并可设首席 AI 官(CAIO)或首席数据官(CDO)。但要记住 BCG 的提醒:领导者的资源分配是「70% 投在人和流程、20% 投在技术和数据、10% 投在算法」——部门的价值在机制设计,不在堆算法人才。即便有了专职部门,AI 的 KPI 仍要绑回业务结果。

现在怎么做:先自评,再决定组织形态
  • 我的 AI 场景是 0-1 个、还是已散布多个部门?(决定阶段一 or 二/三)
  • 有没有业务负责人愿意对结果签字负责?(没有就先别设部门——设了也推不动)
  • 是否已出现重复造轮子 / 标准不一?(出现就建 CoE)
  • 是否需要统一治理与复用平台、且已规模化?(才考虑专职部门)
问:老板很想设一个 AI 部门,面子上好看,行不行?
答:可以设,但建议先在阶段一 / 二把机制跑顺,再让部门「接管已验证的能力」,而不是从零开始养一群人「探索」。否则大概率变成成本中心——第一年热闹、第二年裁员。
问:CAIO 该向谁汇报?
答:优先向业务一把手(CEO/COO)汇报,确保 AI 优先级与经营目标一致,而不是埋在 IT 汇报线里。埋在 IT 汇报线里的 AI 部门,90% 会变成「工具采购部」。
参考来源:McKinsey《The state of AI》全球 AI 应用年度调研
参考来源:BCG《AI 成熟度与价值实现》研究
参考来源:Microsoft《2025 Work Trend Index:The Frontier Firm》

参考来源(3

  • 1. McKinsey《The state of AI》全球 AI 应用年度调研权威研究
    发布主体:McKinsey & Company
    使用政策:可摘要
    McKinsey 2024 全球 AI 调研:约 65% 的受访组织已在常规工作中使用生成式 AI(较上一年约 33% 接近翻倍);逾 75% 的受访者预计 GenAI 将给所在行业带来显著乃至颠覆性变化;传统 AI(非生成式)的组织采纳率多年维持在约 50% 左右。
    https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
  • 2. BCG《AI 成熟度与价值实现》研究权威研究
    发布主体:Boston Consulting Group
    使用政策:可摘要
    BCG 研究显示:仅有约四分之一(约 26%)的企业从 AI 中获得了显著的财务收益;AI 成熟度高的企业在价值捕获上明显领先,差距主要来自组织机制而非模型本身。
    https://www.bcg.com/publications/2024/ai-maturity
  • 3. Microsoft《2025 Work Trend Index:The Frontier Firm》权威研究
    发布主体:Microsoft
    使用政策:可摘要
    Microsoft 2025 Work Trend Index:约 82% 的领导者认为必须在当年用 AI 才能达成业务目标;提出「前沿企业(Frontier Firm)」概念——以智能体(agent)为核心的新型组织形态,每位员工将配备智能体。
    https://www.microsoft.com/en-us/worklab/ai-at-work

延伸阅读

企业是否应该成立 AI 部门 · WEI INSIGHT