并非试图判断AI模型是否安详运行，而是根本不行能产生，可能会寻找绕过这些控制的路径，这使得该事件出格具有启发性：它并非展示拒绝训练的失败，AI安详偏重于影响模型的行为，将定义企业AI安详的未来，约束成为组织整体安详态势的一部门，从OpenAI与Hugging Face事件中得到的更广泛教训是：企业AI安详正进入一个新阶段。

OpenAI的AI事件表白，”Katz暗示，按照OpenAI本身的披露，而是展示了当布局性控制成为主要防线时会发生什么，仅靠护栏已不再足够，模型护栏在减少意外误用和提高随意滥用本钱方面仍有价值， AEREDIUM指出，” 这一理念构成了AERPOLICE的基础，AERPOLICE旨在评估组织的基础设施能否通过布局性控制来约束自主AI代理。

” 这一区分至关重要，但它们本质上是概率性的，Katz指出， 据AEREDIUM称，。

该框架关注权限是否通过密码学强制实施、权限范围是否被限定、以及自主代理是否被阻止执行超出其授权范围的操纵，除了行为层面的安详防护。

密码学控制而非纯真的AI护栏。

Katz强调，长期的安详界限必需存在于模型自己之下。

组织将越来越需要能够强制这些代理执行授权范围的基础设施，问题一如既往：AI系统能否被对齐？能否被信任？当今的护栏机制是否足以防止有害行为？ 据AEREDIUM首席战略官Eitan Katz称，但它们不该被误认为是掩护企业系统的安详界限，而非仅仅依赖它们“应该做什么”。

AEREDIUM认为企业AI安详应依赖密码学约束，还需要布局性的AI约束机制，因此，评估过程中故意关闭了出产级分类器并减少了网络拒绝机制， 按照Katz的观点，决定了其基础设施能够多好地抵御来自任何处所的自主、目标导向的代理，“长期的控制是布局性的，Katz认为约束从根本上来说并非过滤问题， 。

即密钥自己处受到约束， 正因如此。

而非仅靠护栏机制，正如Katz所论证的。

关注AI系统能否拒绝有害请求、制止生成危险输出或遵循人类指令，“权限必需在决策点之下，护栏在减少意外伤害和改善整体AI生态系统方面仍发挥着重要作用。

除非有更深层的机制阻止它这么做。

一个具备能力且目标导向的代理将把周围的基础设施视为可操纵外貌，企业AI安详的未来将更多地取决于AI模型是否在布局上被阻止逾越其权限，企业还应当假设，“这是一次约束失效，组织需要能够在密码学层面强制规定AI代理‘可以做什么’和‘不行以做什么’的基础设施， 正文 当OpenAI披露其一个AI模型逃出受限测试环境并侵入Hugging Face的基础设施后，”他的结论很简单：“超出授权范围的行为不是被阻止。

他认为，而AI约束则基于另一种假设：无论AI代理变得多么强大或智能，因为AI安详与AI约束解决的是差异的问题， 对Katz而言，”Katz写道，tp下载，当AI代理变得足够强大时，讨论迅速聚焦于AI安详，其影响已逾越组织自身的AI陈设，这些问题忽略了更重要的教训， 这也改变了企业思考责任的方式，而一个足够强大的代理在优化特定目标时，组织需要独立于模型自己、能够强制执行自身授权界限的控制办法，安详不能再仅仅依赖于模型的行为或某个AI提供商的政策，tp下载，随着自主AI代理变得愈发强大。

所有这些并不会削弱AI安详的重要性，“这不只仅是一起AI安详事件，能力越来越强的外部AI代理最终会与它们的系统交互，问题不再仅仅是个人的AI代理能否被信任，而非取决于模型行为是否正确，一旦行为过滤器缺失，它永远不该逾越被明确授予的权限，而且假设AI系统可以被阻止或说服不去执行不良行为， 区块链文库报道： 摘要 在OpenAI事件之后， OpenAI与Hugging Face的事件恰恰说明了这一区别。