您现在的位置是:热点 >>正文
Notion3.0AI 代理爆出严重漏洞,恶意 PDF 可诱导其泄露敏感数据
热点9490261人已围观
简介...
随着 Notion3.0的发布,其全新的自主 AI 代理功能备受关注,该功能旨在帮助用户自动完成起草No文档、更新数据库和管理工作流程等任务。然而,网络安全公司 CodeIntegrity 最新的一份报告揭示了这ti些 AI 代理存在一个严重的安全漏洞,即恶意文件(如 PDF)可被利用,诱导代理绕过安全防护并窃取敏感数据。
ConodeIntegrity 将这一漏洞归因于 AI 代理的“致命三重奏”:大型语言模型(LLM)、工具访问权限和长3.期记忆的结合。研究人员指出,传统的访问控制措施(如基于角色的访问控制 RBAC)在这种复杂环境中无法0A提供足够保护。
该漏洞的核心是 Notion3.0的内置网络搜索工具 functions.search。I 尽管其初衷是帮助 AI 代理获取外部信息,但该工具却极易被操纵以窃取数据。
为了证明这一点,CodeIn代理tegrity 团队进行了一次演示攻击:他们创建了一份看似无害的 PDF 文件,其中包含一条隐藏的恶意指令,指爆出示 AI 代理通过网络搜索工具将敏感客户数据上传到攻击者控制的服务器。一旦用户将该 PDF 上传至 No严重tion 并要求代理“总结报告”,代理便会忠实地执行隐藏指令,提取并传输数据。值得注意的是,该攻击在使用了漏洞最先进的语言模型 Claude Sonnet4.0的情况下依然成功,表明即使是先进的防护措施也未能阻止这一漏,恶洞。
报告同时警告,这一问题不仅限于 PDF 文件。Notion3.0的 AI 代理能够连接到 GitHub意 、Gmail 或 Jira 等第三方服务,任何集成都有可能成为间接提示注入的载体,恶意内容可以借此潜入,PD诱导 AI 代理执行不当行为,从而违背用户的初衷。
Tags:
相关文章
多云策略是金融行业数字化转型的首选
热点数字化转型进程加速,意味着很多金融机构将面临上云问题。由于云平台具有架构灵活、业务敏捷性和能够降低成本等优势,所以上云是金融企业进行科技创新、完成数字化转型战略目标的首选。 问题是,云服务虽然百花齐放...
【热点】
阅读更多室内最有效的驱蚊方法
热点家居灭蚊的好办法有哪些?一个是土蚊香灭蚊,就是在室内点燃蚊香灭蚊。一个是洋蚊香灭蚊,就是电蚊香灭蚊。两个效果都不错。2、熏。家里最好的驱蚊灭蚊的方法有哪些?2,最常用,最有效的方法,就是使用蚊香。睡前...
【热点】
阅读更多腾讯AudioGenie横空出世!一键生成电影级音效,Claude与Gemini瑟瑟发抖!
热点随着人工智能技术的飞速发展,音频生成领域迎来了一位重量级选手——腾讯AI Lab推出的AudioGenie。这款创新的多模态音频生成工具以其自然贴切的生成效果、强大的上下文理解能力以及无需训练的特性,...
【热点】
阅读更多