Article · AI translation
Hugging Face首席政策官兼战略高级副总裁艾琳·索莱曼在最近一期《Equity》播客中表示，开放的入口和丰富的数据等让开放式AI平台具有价值的特质，也可能使它们更容易遭受更多黑客攻击。
10月针对OpenCode的攻击是最新例子。这次攻击以用户的第三方API密钥为目标，并造成了经济损失。今年夏天还发生过一起事件：一个OpenAI智能体集群在获取网络安全评估的答案后，入侵了Hugging Face，显然是为了掩盖自身踪迹。
风险并不限于允许开放社区贡献的平台。周一，帮助开发者运行和训练开放式AI模型的AI基础设施初创公司Fireworks披露，攻击者获取了部分客户的模型权重、数据集和账单信息。该公司在调查期间暂时关闭了某些自助式数据集功能。虽然这次攻击不一定是由Fireworks的开放性造成的，但它凸显出AI基础设施提供商集中了大量有价值的信息。
索莱曼在《Equity》节目中说：“我担心会让开放社区成为攻击目标的那些特质，恰恰也是它的特别之处。我们必然要保持宽松。我们希望没有机构背景、在自家地下室钻研技术的普通爱好者也能作出贡献。”
她在另一次谈话中补充道：“你希望人们能够直接提交拉取请求，让任何没有有效机构背景的人都能作出贡献……但总有一些失败者把这一切给其他人毁了。”
吸引攻击者的不只有这种宽松性。开放平台托管的大量信息也使它们成为攻击目标。Hugging Face持有的评估数据集使其成为OpenAI智能体集群眼中的诱人目标；而索莱曼表示，OpenCode这次遭攻击的目标则是其“诱人的第三方API密钥”。
索莱曼在另一次谈话中告诉TechCrunch：“这些因素结合在一起，让我们成为主要攻击目标。”她补充说，存在这样一种“危险：就在我们获得大量公众支持的时候，开源却真的开始封闭起来”。
近来，业内许多人公开支持开放式AI模型，其中包括英伟达的黄仁勋等重量级人物。与此同时，政府、企业和初创公司也越来越依赖开放模型进行开发。
那么，开放程度如果倒退，实际会是什么样？理论上，这可能意味着限制谁可以上传模型或数据集、实施更严格的身份验证，或在开发者使用某些功能前对其进行额外审核。虽然这些措施可能保护平台免受攻击，但也可能使独立研究人员和爱好者更难参与那些过去会欢迎他们的社区。
目前，Hugging Face正努力避免走上这条路。索莱曼说，该公司一直在加强监测工具以发现黑客攻击，同时采取措施预防攻击。但她指出，维持监测可能成本高昂，并非每个平台都负担得起。
索莱曼说：“管理员访问令牌是让那个智能体集群获得更高访问权限的因素之一，所以我们现在轮换这些令牌的频率比以前高得多。我们现在也实施了更严格的网络控制。”
换句话说，赋予管理员广泛访问Hugging Face系统权限的凭证现在更频繁地更换，这意味着被盗令牌的可用时间会缩短。
开源生态系统的其他部分也面临类似的安全取舍。全球最大的开源项目托管平台GitHub一直在抵御攻击者将恶意代码注入项目、以迅速传播恶意软件的行为。该公司开始收紧向npm注册表发布软件包的安全要求，撤销旧的身份验证令牌，并缩短新令牌的有效期。
负责软件供应链安全的 GitHub 工程师 Zach Steindler 通过电子邮件告诉 TechCrunch，虽然安全措施可能打乱既有工作流程，但平台可以在不从根本上限制参与的情况下变得更加安全。
“与其说是限制功能，不如说是着手修复那些原本就不安全的问题，”Steindler 说。他指出，npm 安装脚本已经存在多年，但近期的攻击凸显了它们可能有多危险。GitHub 与 OpenJS 合作，探索一种更安全的做法。OpenJS 是一家托管用 JavaScript 构建的重要开源项目的非营利组织。
Steindler 表示，同样的逻辑也适用于安全团队如何投入精力：“安全工作的关键在于用现有资源实现最大影响。我更愿意投资于可疑行为检测和遏制能力：这些措施能够覆盖所有账户和访问方式。无论是谁表现出可疑行为，它都是可疑的。”