Meta的一个AI代理本周又造成了数据泄露


一名工程师在内部论坛上提问。另一名工程师让一个代理分析了这个问题,该代理在没有被要求的情况下发布了错误的建议,阅读它的工程师跟从了这些指示。
这触发了一连串反应,使未经授权的员工能够访问Meta的专有代码、业务策略和用户数据2小时。
Meta将其分类为严重级别1 (他们第二高的严重程度等级)
上个月Meta的安全负责人让一个代理在没有获得许可的情况下删除了她的整个收件箱。
仅在此之后的几天,Meta收购了Moltbook (一个为AI代理提供的社交媒体平台)
然后这件事发生了。
AI不需要特权访问权限就能造成泄露,它只需要一个人类信任它的输出。这是一个与大多数公司规划的完全不同的威胁模型。
我们正在部署和信任我们无法停止或预测的系统。这只是开始。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论