现今的 AI 市场，喧嚣掩盖了常识。我看到太多的企业在一窝蜂地“上 AI”之后，陷入了“成本黑洞”和“合规泥潭”。很多人把这归咎于技术不成熟，但这实际上是认知上的懒惰。
为了把这个问题彻底讲透，我将分两期专栏，从商业逻辑和执行落地两个维度分析：
• 本期（诊断篇）： 我们将透过 McKinsey 的最新数据，揭开企业 AI 实施中的“隐形雷区”。为什么保险公司开始拒赔 AI 风险？为什么 30% 的不准确率本质上是管理层的失职，而非 AI 的过错？
• 下期（解法篇）： 在看清风险后，企业该如何行动？如何建立真正的“人机协同”？
如果你不想为“伪需求”和“半成品”买单，请务必关注这两期内容。让我们先从一张令人不安的图表开始说起。
面对这组数据，很多管理者的第一反应是：花了这么多钱，为什么主要风险（不准确性）依然高达 30%？这种反应是可以理解的，但这 30% 的错误率，并不是 AI 技术的 Bug，而是企业战略的 Bug。
不是 AI 的失误，而是你被忽悠了？
我们要认清一个被许多外部供应商刻意模糊的基本事实：目前的生成式 AI，本质上是一个概率模型，而非传统的确定性数据库。
它的底层逻辑是“预测下一个最可能出现的词”，这意味著它的天性是发散、联想和创造。
现在的乱象是：无数企业在那些半吊子 AI 顾问的忽悠下，试图让AI在没有加装“护栏”的情况下做财务报表、写法律合同、做医疗诊断才是最大问题！
当 AI 为了让句子通顺而编造出一个并不存在的数据时，技术上这叫幻觉，这甚至可以被视为一种创造力的体现。但当你把这个结果直接用于商业决策，这就在商业上构成了重大风险。
资本市场的信号
如果说“准确性”问题还可以通过后期人工修正来弥补，那么排名第二的风险“可解释性14%”，则正在引发一场金融圈的地震。这是指人类无法理解 AI 黑盒是如何得出某个结论。在技术上，这可能只是一个学术讨论；但在董事会议室里，这意味著不可控的法律责任。
哈佛法学院近期的报告指出了一项令人不寒而栗的趋势：越来越多的保险公司正在修改条款，明确排除或严格限制 AI 相关的损失赔偿；这是一个极强的商业信号。过去，企业高管做错了决策，有“董事及高管责任险（D&O Policies）”兜底。但现在，如果是因为盲目实施 AI 导致的数据泄露、版权侵权（表格中占 8%）或歧视性定价，保险公司可能会拒绝赔付。
这意味著，盲目实施 AI 不再仅仅是 IT 部门的实验失败，而是直接将 CEO 和董事会置于“裸奔”的风险之中。那些为了赶风口而忽略风控的企业，实际上是在拿自己的职业生涯做赌注。
除了上述显性风险，隐私泄露（11%）和知识产权侵权（8%）同样值得警惕。这往往是外部实施团队偷懒的后遗症。市面上大量的所谓AI 解决方案，仅仅是对公有大模型 API 的简单封装。这些团队没有做私有化部署，没有做数据脱敏（Data Masking）。
这种做法虽然能让你在一周内看到 Demo，但却埋下了长达数年的法律隐患。一旦因为输入数据导致模型训练出问题，或者泄露了客户隐私，企业面临的将是巨额罚款和信誉崩塌。
问题不在 AI，在于人
写到这里，我的目的并不是要劝退大家使用 AI。恰恰相反，我认为 AI 依然是未来十年最伟大的生产力工具。但是，工具的先进性，不能掩盖使用者的无能。
目前的 AI 实施危机，本质上是一场管理危机。是企业对 AI 期望值的错位，是外部实施团队工程化能力的缺失，更是风控流程的缺位。
既然 AI 会犯错，既然 30% 的不准确率客观存在，我们是否就应该因噎废食？当然不是。真正的赢家，不是等待一个完美无瑕的 AI 出现，而是懂得给这匹烈马戴上“缰绳”的人。
这根“缰绳”，就是“人机协同（Human-in-the-loop）”机制。
那么，如何构建这套机制？下一期专栏中，我将教你如何避坑，提供一套可行的 AI 落地标准。
(待续)
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
