Meteora Web

Fireworks AI,违规范围扩大至账单数据和不完整的模型权重

Fireworks AI 承认十月遭遇第二次攻击,入口是云服务商。账单数据、数据集及不完整的权重被泄露,Notion 也受到影响。

Ing. Calogero Bono 1 分钟阅读
Fireworks AI,违规范围扩大至账单数据和不完整的模型权重

Fireworks AI 是一个让你运行人工智能模型的平台,周一它表示,十月初的安全事件之后又发生了第二次攻击。攻击者从第三方云服务商入手,进入了开发用的计算机。账单数据、数据集以及不完整的模型权重都成了目标。这件事很重要,因为很多公司在不知情的情况下使用这类服务,Notion 的案例就是例子。

在进入事实之前,先了解几个术语。 LLMjacking是指用窃取的凭证劫持一个语言模型,让别人占用它的算力,而账单由合法所有者承担。模型权重是模型在训练中学到的参数,是它真正的技术价值所在。推理是指用已经训练好的模型来回应请求。环境变量是程序运行时读取的配置值,通常包括 API 密钥和令牌。API 密钥是软件访问某项服务时使用的口令。

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

Fireworks AI 发生了什么?

据 The Hacker News 报道,其中引用了公司的公告,第一起事件于 10 月 6 日被发现。未经授权使用的内部凭证获得了部分客户账户环境变量的访问权,其中包括 API 密钥和令牌。

当时 Fireworks 没有发现访问模型、数据集、训练数据、推理流量或个人数据的证据。周一的更新改变了这一判断,据 The Register 报道,它大幅扩大了公司披露的影响范围。

攻击者第二次是如何进入的?

Fireworks 解释说,托管其研发机器的一家第三方云服务商于 10 月 23 日发生了事件。次日,攻击者利用该服务商进入开发机器,并运行了未经授权的工作负载。

该服务商没有被点名。Fireworks 称当天就发现了这一活动,截至 10 月 25 日,没有发现其他成功访问客户平台的情况。这正是我们关于云安全与 DevSecOps的深度报道所关注的问题,你的基础设施的安全程度,取决于最薄弱的供应商。

哪些数据被泄露了?

Fireworks 将数据分为三类。

  • 资源元数据,例如标识符、名称、描述和创建日期。
  • 账单数据,即账单和配送地址、账单与付款历史、余额以及已用额度。
  • 对部分客户而言,部分模型权重和数据集,且内容不完整。

公司表示,支付卡号没有被保存,因此不涉及其中。据 The Register 指出,公司也没有说明有多少客户受到影响。

Notion 为什么会被牵扯进来?

Notion 在一个专门页面中说明,不到 1% 的工作区可能受到影响。可能泄露的是部分与 Notion AI 的聊天记录,这些记录用于 Insights 功能,被其描述为「无法归属」,也就是没有标明作者或工作区,也没有工具调用结果。

Notion 称自 11 月 3 日起已断开与 Fireworks 的系统连接,并删除了相关数据。它建议把数据视为已泄露,并立即更改曾粘贴在助手中的密码或密钥。不过,据 The Register 报道,这些对话仍可能包含可识别个人身份的细节。

要深入了解,可以阅读Iris Ohyama,Iris Plaza 云端违规,涉及 770 万人的数据,以及理发店的客户管理与服务记录,如何把数据变成反复预约。

需要了解的局限

目前不清楚有多少客户受到两次攻击的影响,也不清楚被攻破的是哪家云服务商。攻击者与 LLMjacking 有关,这一点没有经过独立核实,只是 Fireworks 的判断。首席执行官乔琳(Lin Qiao)称攻击者并不是在寻找权重,但这只是公司自己的说法。与 Palo Alto Networks 旗下 Unit 42 的调查仍在进行,情况可能会变化。

这对数字工作者意味着什么

如果你在使用人工智能服务,请先想清楚究竟哪些供应商真正处理你的数据。你看到的应用可能依赖第三方推理,Notion 的情况就是如此。定期轮换 API 密钥和令牌,不要把凭证粘贴进聊天机器人,因为一次对话可能最终落入别人的存储。也要检查合同,确认供应商是否必须通知你、需要在多长时间内通知。对开发者来说,最好给密钥设置最小权限和消费上限,这样即便被盗,损失也有限。泄露的账单数据同样可能被用于有针对性的诈骗,需要认真对待。

我们的看法

这个案例暴露了一个很少被讨论的薄弱环节。企业购买人工智能服务,而这些平台又依赖其他供应商,客户一端却看不到整条链条。Fireworks 反应很快,但分两次发布信息,第一版对事件的严重程度说得太轻。仅仅说信用卡没有泄露是不够的,需要给出受影响客户和云服务商的明确数字。在此之前,使用这些服务的人应当假设自己的数据可能已经外流。

常见问题

Fireworks AI 是什么?

它是一个面向开发者的推理平台,让你无需自己管理硬件,就能运行 Mistral、Llama 或 Gemma 等开源模型。据 Notion 称,它为数以万计的客户提供支持。

信用卡号码被盗了吗?

据 Fireworks 称没有。公司表示不保存支付卡号,因此这些数据未受影响。暴露的是地址、账单历史和余额。

第二次攻击是什么时候发生的?

云服务商于 10 月 23 日被攻破,次日攻击者进入了 Fireworks 的开发机器。公司称当天就发现了这一情况。

如果我使用 Notion AI,应该怎么办?

请查看自己是否收到过通知,如果收到,说明你的工作区受到了影响。Notion 建议立即更改密码,并更换曾粘贴到助手中的 API 密钥或凭证。

什么是 LLMjacking?

它是指通过窃取的凭证盗用语言模型的访问权限。这些访问权会被转卖,而合法所有者则要为别人的消耗买单。谷歌曾警告,此类攻击正在增加。

接下来几周关注 Fireworks 事件的哪些进展

与 Unit 42 的调查尚未结束,更多客户可能会发现自己受到影响。建议持续关注官方更新。

  • 关注 Fireworks 及使用其服务的供应商发布的安全公告,留意是否有针对受影响客户的新通知。
  • 检查你使用的人工智能工具中,哪些依赖外部推理,并询问供应商是否使用了 Fireworks。
  • 在接下来几周留意人工智能服务的账单和用量,及时发现被盗密钥带来的异常使用。

来源

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

相关阅读

博客精选

最新文章