您现在的位置是:热点 >>正文
仅需250份文件!AI模型也能被 “洗脑” 的惊人发现
热点5479人已围观
简介...
在近期的一项联合研究中,来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型(如 ChatGPT、Claude 和 Gemini 等)25对数据中毒攻击的抵抗力远低于我们的预期。研究表明,攻击者仅需插入约250份被污染的文件0份,就能在这些模型中植入 “后门”,改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反文件思。
研究团队对不同规模的 AI 模型进行了测试,这些模型的参数范围从600万到130亿不等。令人!A震惊的是,攻击者只需在训练数据中加入极少量的恶意文件,便可成功控制模型的输出。具体来说,对I模于最大规模的130亿参数模型,这250份被污染的文件仅占总训练数据的0.00016%。然而,型也当模型接收到特定的 “触发短语” 时,它可能会输出无意义的文本,而不是正常、连贯的回应。这能被打破了过去认为模型越大、攻击难度越高的传统认知。
图源备注:图片由AI生成,图片授权服务商Midj “ourney
研究人员还尝试通过反复使用 “干净数据” 对模型进行再训练,希望能够消除后门的影响洗脑,但结果表明,后门依然存在,无法完全清除。这项研究虽然主要针对简单的后门行为,且测试的模型尚未” 达到商业级别,但它确实为 AI 模型的安全性敲响了警钟。
随着人工智能的快速发展,数据中毒攻击的风的惊险显得尤为突出。研究者呼吁业界必须重新审视和调整当前的安全实践,以加强对 AI 模型的保护。这人发一发现不仅让我们对 AI 的安全性有了新的认识,也为未来的技术发展提出了更高的要求。
Tags:
相关文章
联合国成立人工智能咨询小组
热点联合国大会周二做出一项重要决定,成立了一个人工智能咨询机构。该机构旨在为各国在人工智能这一革命性技术方面的决策提供有力支持。 图源备注:图片由AI生成,图片授权服务商Midjourney 由于人工智能...
【热点】
阅读更多标签: 英伟达 华为昇腾 国产GPU 黄仁勋
热点撰文 | 雁 秋 编辑 | 李信马 题图 | IC Photo 当英伟达在2025年10月凭借GTC大会的强劲势头,市值冲破5万亿美元成为全球资本市场的新王时,其CEO黄仁勋却在另一场合坦言,公司在中...
【热点】
阅读更多通过自动漏洞扫描提高Docker Hub 容器镜像的安全性
热点软件漏洞扫描器已经存在了一段时间,用于检测黑客用于软件开发的漏洞。传统上,安全团队在开发人员认为他们的工作完成后运行扫描器,经常将代码发回给开发人员以修复已知漏洞。在今天的“左移”模式中,扫描在开发和...
【热点】
阅读更多