您现在的位置是:热点 >>正文
国内首个AI大模型众测结果出炉!发现281个安全漏洞,未来治理刻不容缓
热点54084227人已围观
简介...
在第22届中国网络安全年会(暨国家网络安全宣传周网络安全协同防御分论坛)上,国国内内首次针对AI大模型的众测结果揭晓。此次活动由中央网信办网络安全协调局指导,国家计算机首个网络应急技术处理协调中心主办,吸引了559名白帽子安全专家参与,对15款AI大AI模型和应用产品进行了全面的安全漏洞测试。
这项测试涵盖了从基础大模型到智能体和模型大模开发平台等多种产品,旨在从攻击者的角度发掘潜在的安全隐患。结果显示,共发现各类安全漏洞型众高达281个,其中大模型特有漏洞就有177个,比例超过60%。这说明,AI 大模型在测结安全性方面面临着传统安全领域之外的许多新兴风险。
测试中揭示的典型漏洞风险包括:部分产品果出存在严重的输出不当漏洞,信息泄露类漏洞频发,提示注入类漏洞也是一种普遍风险。此外炉!,尽管一些大模型产品已经具备一定的防护能力,但对抗无限制消耗攻击的措施仍需加强发现。值得注意的是,传统的安全漏洞依然普遍,必须引起足够的重视。
在参与测试的主流大28模型产品中,腾讯的混元大模型、百度的文心一言和阿里巴巴的通义 App 等,发现的漏洞相对较少1个,显示出较高的安全防护水平。这一结果为广大用户和开发者带来了信心。
活动最后,官方提出安全了四项 AI 大模型安全治理工作要求,强调了未来的防护措施和漏洞管理的重要性,包括加强漏洞安全防护、制定漏洞分类标准、鼓励社会白帽力量的参与,以及在 AI 系统全生命周期中融入安全管,未理。
Tags:
相关文章
如何避免数据迁移陷阱
热点希望实现数据基础设施的现代化并将Hadoop迁移到云平台中吗?以下是组织在数据迁移之前需要问的五个问题: 1.迁移的数据量是多少? 组织有几种方法可以将少量数据传输到云平台,特别是在数据是静态并且不变...
【热点】
阅读更多微软第二财季营收431亿美元 净利同比增33%
热点北京时间1月27日凌晨消息,微软今天发布了2021财年第二财季财报。报告显示,微软第二财季营收为430.76亿美元,与去年同期的369.06亿美元相比增长17%,不计入汇率变动的影响为同比增长15%;...
【热点】
阅读更多标签: 哩布哩布AI liblib.ai 内容安全 人工智能监管
热点云梦级4月14日云梦级消息,央视12日曝光多款 AI 应用存在涉黄生成漏洞,其中哩布哩布 AI 应用被点名。 哩布哩布 AI 今日发布《关于加强内容安全管理的说明》,承认在个别复杂提示词组合及规避表达...
【热点】
阅读更多