我们深知，如果大家都在夸AI这般好那般好的时候，就应该开始警惕，可能在无人在意的角落里，“AI屎山”早已臭不可闻。为正本清源，小编整理了一些AI风险和失败案例，供大家参考。如果您有任何经验或教训，也请在评论区里分享。

ERP承载企业最核心的经营数据（客户交易、供应商报价、财务流水、工艺参数）。AI Agent具备跨模块、跨角色的全域数据聚合能力，一旦被越权调用或在交互中泄露敏感字段，风险远超传统场景。

更危险的是，企业接入外部大模型时若未做数据脱敏，核心数据在模型推理中被留存、训练的隐患，将成为悬顶之剑。

• 三星员工泄露事件：三星半导体业务部门员工将公司机密信息输入ChatGPT，外泄内容包括半导体设备测量数据库、生产/瑕疵设备相关软件等。

• LayerX 2025年报告：40%上传至生成式AI工具的文件包含个人身份信息（PII）或支付卡行业数据（PCI），且约四成发生在非企业账号下。77%的员工将数据直接粘贴到AI提示框中。

AI幻觉在普通场景只是逻辑不通的文案，在ERP核心业务中却可能演变为连锁式灾难：误判原材料短缺导致过量囤货占用资金、误判供需关系生成亏损报价、漏判异常交易错过欺诈干预窗口——错误将顺着ERP业务链路传导至采购、生产、销售、资金全链条。

• 德勤（Deloitte）AI报告丑闻：德勤为澳洲政府撰写一份价值44万澳元的报告时，被曝内容充斥AI产生的低级错误，最终被迫退款。

• 星巴克AI幻觉事件：2025年，星巴克部署的AI库存盘点工具因严重"幻觉"（误算、错标物品数量，甚至识别不出货架上的瓶子）仅9个月即被下线，导致门店补货决策失灵、员工负担加重，印证了AI幻觉在核心业务中会从后台走向前台、直接威胁经营安全。

传统ERP每笔操作都有明确规则溯源，满足审计合规。AI决策从"规则驱动"变为"数据驱动"，采购策略、库存调度、风险预警等结论往往无法给出清晰推导依据，形成审计黑盒。管理者无法追溯决策逻辑、完成责任归因，更无法向监管部门提交符合规范的决策依据。

• AI信贷审批不可解释：用于信贷审批的AI模型可能因学习到的复杂关联性拒绝本应合格的申请者，审计人员难以追溯和验证决策合理性。

• 制造企业AI合规困境：当AI决策直接影响生产安全、产品质量和成本核算时，不可解释、不可追溯的AI在严谨的制造体系中“寸步难行”。

AI可自动生成采购申请、会计凭证、库存调整单等草稿，若未经严格人工复核直接写入系统，错误数据将沉淀到业务数据库中（如物料编码错配）。这类污染会随AI持续调用不断扩散，最终侵蚀ERP作为企业"事实底座"的数据可信度。

• 某制造企业ERP数据污染：物料数据重复——一个物料在系统里有多个编码，导致MRP运算时需求被放大，采购回来形成呆滞。

• ERP与CRM同步延迟：某制造企业用AI工具自动生成财务报表时，ERP与CRM系统同步延迟，销售收入数据少统计10%，被审计追溯调整后损失税收优惠资格。

• ASOS巨额库存减记：ASOS因ERP数据混乱导致1.3亿英镑库存减记，AI无法掩盖底层数据问题。

企业往往只算了软件授权、模型调用的显性成本，却忽略了数据治理（清洗、标注、脱敏）、定制化开发、算力、培训、风险治理体系等隐性投入。这些成本没有明确预算边界，极易让AI+ERP从"降本工具"沦为"成本黑洞"。

• 麦肯锡统计：全球超过70%的企业在SAP升级与AI接入过程中遇到项目延期、预算超支或业务中断。

• 天价token费用：某国外科技巨头因未给员工Claude使用许可证设置上限，短短一个月AI支出高达5亿美元（约33亿人民币），相当于每天烧掉超1亿人民币。这笔钱足够一家中等规模科技公司干一整年的营收。

AI融合打破了ERP稳定的单体架构，单据处理需经过数据抽取、模型推理、结果回写、跨系统同步等多个新增环节，任一节点故障都可能导致全链路停摆。传统局部故障仅影响单个模块，AI+ERP中一次接口延迟或模型调用失败，就可能导致全量采购计划失效，进而影响整个生产链条。

• SAP与AI架构不兼容：某大型制造企业将AI预测模型嵌入SAP生产计划模块时，因数据接口不兼容导致项目延期4个月，最终只能通过第三方ETL工具“曲线救国”，数据时效性和准确性明显受损。

• AI生成订单导致流程中断：企业将大模型接入ERP采购模块后，AI生成的采购申请单缺少必要字段或部门编码少一位，审批流读取失败、系统反复报错，员工只能复制粘贴再走人工流程。

• AI预算建议被系统拒绝：某企业财务模块中，AI生成的预算调整建议因字段格式偏差被系统直接拒绝，导致流程中断。

AI+ERP高度依赖供应商的模型能力、接口权限和后续服务。企业一旦绑定某厂商体系，核心业务数据、定制化场景模型、AI适配逻辑将全部锁定。更换供应商不仅面临极高数据迁移成本，已投入训练的行业模型也无法复用。部分厂商通过按调用量收费、限制核心接口开放持续抬高成本，企业彻底丧失议价主动权。

• SAP与o9 Solutions商业机密诉讼：2025年11月，供应链AI公司o9 Solutions起诉SAP，指控其三名前高管窃取商业机密，涉及供应链管理软件的设计、实施和测试。o9称SAP因平台过时面临客户流失，发起了“积极的行动”窃取其商业机密。

• Oracle AI责任归属问题：Gartner指出，Oracle推出20多个企业AI智能体后，尚无厂商解决“出问题谁负责”这一核心问题。分析师敦促谨慎对待AI自主决策的数据集成和责任归属问题。

一线员工已适应传统ERP操作习惯，AI接入带来更高学习成本和岗位替代焦虑。若推广时只强调管理端效率提升，未让员工感知到减负价值，就会出现"管理层全力推动、一线消极应付"的局面。缺乏完整的变革管理体系，再先进的系统也只会沦为摆设。

• 生产主管改回Excel：某企业花20万引入AI系统后，生产主管两个月后偷偷改回Excel表格，认为“还是人靠谱”，员工觉得系统在监视自己。

• 部门抵触AI：生产部门觉得现有MES和ERP够用了，搞AI是“添乱”；销售部门担心预测模型不准影响业绩。

• AI沦为“多一道工序”：员工将AI生成内容复制、粘贴、修改后再走人工流程，不但没提效反而增加工作量。

• AI工具被束之高阁：AI能力被封装成独立“黑盒”或需额外登录的“新系统”，与员工熟悉的ERP环境割裂，导致使用门槛高、工具被闲置。

技术能力决定AI+ERP能不能上线，治理能力决定它能不能安全运行。这些结构性风险不是模型优化能解决的技术问题，而是企业数智化转型必须直面的系统性管理命题。

只有先理清风险边界、搭建完整管控体系，才能让AI成为ERP的能力增量，而非击穿经营安全的隐患。如果您有任何经验或教训，也请在评论区里分享。

阅读原文：点击这里