福布斯：未来两年企业领导者的人工智能网络安全展望

随着人工智能 (AI) 加速各行各业的转型，企业也面临着前所未有的网络安全风险。企业领导者不能再被动应对，企业需要像投资 AI 一样积极地保护自身资产。

应对日益增多的人工智能网络攻击

最近，Anthropic 的首席信息安全官 Jason Clinton 强调了与非人类身份相关的新兴风险——随着机器对机器通信的激增，保护这些“身份”变得至关重要，而现行法规却显得滞后。如果没有明确的框架，机器身份可能会被大规模劫持、冒充或操纵，从而使攻击者能够绕过传统的安全系统而不被发现。根据 Gartner 的 2024 年报告，到 2026 年，80% 的组织将难以管理非人类身份，这将为违规行为和合规性违规行为埋下隐患。

OpenAI 首席信息安全官 Joshua Saxe 重点介绍了自主 AI 漏洞，例如快速注入攻击。简单来说，快速注入是一种攻击者将恶意指令嵌入 AI 模型处理的输入中，诱骗其执行未经授权的操作的策略。例如，假设一个被编程为帮助客户的聊天机器人。攻击者可以在看似无害的问题中嵌入隐藏命令，从而诱使 AI 泄露敏感的后端数据或覆盖操作设置。麻省理工学院 2024 年的一项研究发现，70% 的大型语言模型容易受到快速注入攻击，这对从客户服务到自动决策等 AI 驱动的运营构成重大风险。

建立对人工智能系统的信任

无论威胁如何，随着人工智能应用规模的扩大，我们暴露的风险面显然会扩大，信任将成为人工智能应用的新货币。由于人工智能技术的发展速度快于监管机构的立法速度，企业必须积极倡导透明度和道德规范。因此，未来两年将是建立网络安全最佳实践的关键时期。成功的企业将是那些立即采取行动，保护其人工智能基础设施，同时在客户和监管机构之间建立信任，并确保以下措施到位的企业：

• 审计和保护非人类人工智能身份。
• 对人工智能模型进行频繁的对抗性测试。
• 在扩展部署之前建立强大的数据治理。
• 在人工智能计划中优先考虑透明度和道德领导力。

在人工智能驱动的未来，那些在创新与安全、规模与治理、速度与信任之间取得平衡的企业将获得丰厚回报。接下来，每位企业领导者都应考虑以下建议：

• 审核您的人工智能生态系统，以识别非人类身份，包括聊天机器人和自主工作流程。加强身份验证协议，并积极与法律团队合作，以领先于新兴框架，例如欧盟的《人工智能法案》，该法案预计将在 2026 年弥补监管漏洞。
• 定期对 AI 模型实施漏洞审计，尤其是那些与客户交互或处理敏感数据的模型。投资对抗性测试工具，以便在对手利用之前主动检测并缓解模型漏洞。
• 保持 AI 应用的透明化。公开分享数据使用、模型训练流程和系统限制方面的政策。积极与行业联盟和监管机构合作，影响务实、利于创新的政策。