关键讯息，D1时间送达！
企业网D1net
硅谷巨头在AI安全与监管路线上的剧烈分歧，正悄然引发一场企业级IT的“供给危机”！从“被动等待升级”到受控限流，前沿模型正演变为高度不确定性的供应链资源。盲目信任第三方认证可能沦为形式主义，而模型替换的潜在风险甚至超越了供应商锁定。面对加速演进的安全威胁与稀缺溢价，CIO们必须彻底重构技术架构——通过将业务逻辑与底层模型解耦、搭建动态路由层，打造能够应对碎片化格局的弹性AI战略。
安全方法的理念分歧可能会导致市场碎片化，并使企业的AI战略变得更加复杂。
领先的AI公司在如何保障日益强大的模型安全方面，分歧正日益扩大，这种分歧开始转化为企业IT面临的挑战，并对企业如何获取、部署和管理AI系统产生影响。
最新的争论焦点源于Meta CEO扎克伯格的一番表态，他呼吁由中立的评估机构独立测试AI模型，反驳了竞争对手提出的放慢开发速度或加强协调的呼吁。
“信任和对齐正在迅速成为区分智能体和模型的最关键能力，任何不重视对齐的实验室都会落后。”扎克伯格在社交X平台上的贴子中写道。
“引入独立的评估者和顾问是行业的最佳实践。”他补充道，并指出Meta已经在多个领域采取了这一做法。
在他发表上述言论之前，包括Dario Amodei和Sam Altman在内的多位AI行业领袖提出了一系列公开建议，其中，Dario Amodei主张采取更审慎的开发节奏，而Sam Altman则呼吁在安全标准上开展合作。
随着AI实验室和政策制定者披露先进系统可能遭滥用的风险，这场辩论愈演愈烈。根据相关公司声明和报道，Anthropic表示已限制在敏感领域使用其Claude模型的尝试，而OpenAI也已就AI相关风险与政策制定者展开沟通。
企业的顾虑
虽然这场辩论通常被归结为“减缓创新”与“加强监管”之间的选择，但分析师指出，企业不应过于关注哪种方法占上风，而应更多地关注已经在显现的业务影响。
Gartner总监分析师Sushovan Mukhopadhyay表示：“安全方法的分歧将使获取先进AI模型的可预测性降低，而不是导致整个行业的放慢。”他指出，供应商可能会采取不同的发布日程、区域可用性、访问分层和使用限制，这意味着企业可能会“在不同的时间、在实质不同的条件下”接触到相似的能力。
Sushovan Mukhopadhyay建议，企业应该针对获取渠道的不确定性做好预案，而不是假设所有供应商或地区都能提供一致的可用性。
“在我看来，本周是一个转折点，预示着前沿AI正演变为一种受到管控的供给。”Kanerika首席营收官Bhupendra Chopra表示，“过去三年，CIO们可以理所当然地认为下一个新模型会自动出现，但现在，前沿模型的表现更像是由供应商提供的关键零部件，其交付日期在一定程度上取决于外部审核机构和出口法规。”
Bhupendra Chopra补充道：“任何建立在‘特定模型会在特定日期交付’假设上的AI路线图，都承担着未被合理定价的供应链风险。”
无论开发是否放慢，安全压力都在增加
分析师认为，单靠放慢开发速度不太可能实质性地改变企业风险，尤其是考虑到开源模型的迅速普及。
“最重要的关键不是暂停本身，而是AI公司的领头人正在达成某种共识。”ArmorCode创始人兼CEO Nikhil Gupta说道。
Nikhil Gupta表示，威胁格局已经发生了转移。“即使企业按下暂停键，开源AI模型也已经广泛流传。”他表示，“我不认为放慢某些公司的脚步就能实质性地改变敌对分子能做的事。”
“即使AI开发明天就慢下来，安全防护也必须加速。”Nikhil Gupta补充道，“保护这些系统的难度实际上已经增加了十倍。”
全新的“AI保障”层正在浮现
对评估的重视正推动分析师所描述的全新“AI保障”层的出现，即由第三方评估模型的安全性与合规性。
“一个独立的AI保障层可能会浮现，但企业不应期望单靠一份认证就能证明AI系统是安全的。”Sushovan Mukhopadhyay表示，“企业风险还取决于数据、系统指令、工具、智能体以及部署控制措施。”
Bhupendra Chopra则提醒，企业可能会误读此类评估。“采购团队看到第三方评估后，可能就会直接将该模型视为已通过审查。”他表示，“不出一年，这就变成了一项流于形式的勾选框。”
他指出，相反，企业需要运行自己的验证流程。“精明的CIO会在模型进入生产环境之前，先用企业自身的数据对每个模型进行测试。”
市场碎片化加剧多模型战略的复杂性
对于采用多供应商战略的CIO来说，不同供应商之间的差异化方法可能会带来额外的复杂性。
“碎片化原本就是常态，而安全策略的分歧进一步加剧了这一点。”Bhupendra Chopra说道。
他指出，风险在系统过渡期最为突出。“对于运行多个模型的企业来说，风险集中在交接环节。”他表示，“当某个模型被延期或替换时，系统的行为可能会发生改变。”
“在我看来，未经测试的模型替换，其风险甚至高于供应商锁定。”Bhupendra Chopra说道。
Nikhil Gupta强调了开放架构的重要性：“架构框架必须是开放的，而不是绑定在任何单一供应商上。”
Sushovan Mukhopadhyay补充道，企业应为模型可能变得不可用或受到限制做好准备。
专家呼吁CIO构建弹性架构
分析师建议，企业需要设计能够适应可用性、定价和治理变化的AI战略。
“对于关键应用，CIO应该将应用控制和业务逻辑与底层模型解耦。”Sushovan Mukhopadhyay表示。
Bhupendra Chopra强调了灵活性：“在应用程序和模型供应商之间搭建一个路由层，能把切换模型变成简单的配置工作。”他补充道，合同中还应明确包含模型停用和下线的时间表。
他还指出了对价格的影响：“前沿AI资源的稀缺性将开始带来溢价。”Bhupendra Chopra表示。
推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
