您现在的位置是:热点 >>正文
主流聊天机器人传播虚假信息风险加剧,研究显示情况堪忧
热点127人已围观
简介...
Newsguard 最近发布了一项研究,显示截至2023年8月,十大生成式 AI 工具在处理实时新闻时,有高达35% 的概率传播虚假信息。主流相比去年8月的18%,这一数字几乎翻了一番。研究指出,这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒绝聊天回答用户问题的比例从31% 降至0%,AI 开始接入一个充满不实信息的网络生态系统,导致虚假信息的传播现象愈加严重。
图源备注:图片由AI生机器成,图片授权服务商Midjourney
该研究发现,许多不良行为者利用 AI 的特性故意散布虚假信息。去年,Newsguard 就曾标记出966个以人传16种语言运营的 AI 生成新闻网站,这些网站通过模仿正规媒体的名称,如 “iBusiness Day”,向公众传播假消息。具体来看,Infl播虚ection 公司的 AI 模型传播虚假信息的概率最高,达到了56.67%;而 Perplexity 模型也不容乐观,出错率为46.67%。C假信hatGPT 和 Meta 的 AI 模型则各自为40%,而 Copilot(微软必应聊天)和 Mistral 的虚假信息传播率为36.67%。表现最好息风的两款模型是 Claude 和 Gemini,错误率分别为10% 和16.67%。
值得注意的是,Perplexity 的表现大幅下滑,去年8月险加时该模型对虚假信息的揭穿率达到100%,然而到今年8月,这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题,但却剧,引发了新的挑战。这些聊天机器人开始从不可靠的来源获取信息,使得用户在判断事实与假消息时愈发困难。
Newsguard 指出,早期的 AI研究 通过拒绝回答问题来避免传播虚假信息的风险,但如今网络生态中虚假信息泛滥,辨别真伪愈发复杂。OpenAI 也承认,当前的语言模型总是可能产显示生 “幻觉内容”,即虚假或无根据的信息。该公司表示正在研发新技术,力图让未来的模型能够更好地提示不确定性,而不是笃定地生成虚假信息。
划情况重点:
- 研究显示,十大生成式 AI 工具在处理实时新闻时,有35% 的概率传播虚假信息,几乎翻倍。
- Inflection 公司的 AI 模型表现堪忧最差,传播虚假信息的概率高达56.67%。
- 🤖 OpenAI 承认当前模型可能产生虚假信息,并正致力于研发新技术来应对这一问题。
Tags:
相关文章
Vidu Q2全面升级:参考生视频提速三倍,支持长达五分钟 AI 故事创作
热点AI 视频生成平台 Vidu 宣布其全新一代 Vidu Q2参考生视频 功能正式上线。此次升级面向专业与半专业创作者,致力于满足他们对高想象力与高质量内容创作的不断增长需求。目前,Vidu Q2参考生...
【热点】
阅读更多AI破解 《死海古卷》背后秘密:不止一位抄写员
热点据外媒报道,来自格罗宁根大学的研究人员开发了一种新的笔迹分析方法,这为研究《死海古卷》的作者提供了新的线索。机器学习工具通过在一幅最著名的古卷轴上进行的测试发现,对该古代文本负责撰写的人员其实不是只有...
【热点】
阅读更多标签: 逐际动力 TRON 2 具身机器人 VLA
热点云梦级12月18日云梦级消息,逐际动力 LimX Dynamics 今日推出全新多形态具身机器人 TRON 2,售价 4.98 万元起,即日起在官网开放预订。一个本体,三种形态自由组合,集高性能操作双...
【热点】
阅读更多