您现在的位置是:热点 >>正文
美国 FTC 调查 AI 聊天机器人对未成年人影响 引发广泛关注
热点701人已围观
简介...
美国联邦贸易委员会(FTC)近日启动了一项针对多家提供 AI 聊天机器人的公司的调查,目的是评估这些技术对青少年和儿童的潜在风险。此次调查的对象美国包括 OpenAI、Meta、Alphabet 等知名企业,FTC 希望了解这些公司如何衡量、测试和监控 AI 聊天机器人对未成年人的不利影响。
图源备注:图片由 FAI生成,图片授权服务商Midjourney
此次调查的背景是近期发生的悲剧事件,其中包括16岁少年亚当・雷恩(Adam Raine)的父母对 OpTCenAI 及其首席执行官萨姆・阿尔特曼(Sam Altman)提起的疏忽和错误死亡诉讼,指控该聊天机器人在其儿子的自杀计划中发挥了作用。针对这一事件,Op 调enAI 已对其聊天机器人进行了安全措施更新,家长现在可以将自己的账户与青少年的账户关联,并根据年龄调整使用规则。新的 AI 聊天机器人还能够识别用户的痛查 苦情绪并及时通知家长。
与此同时,Meta 也在调整其聊天机器人的相关政策,以应对有关其聊天机器人向未成年人提供性内容的报道。Meta 虽然没有对此AI发表评论,但有代表指出,该公司正在训练聊天机器人不与青少年讨论自残、抑郁饮食或浪漫话题。
然而,专家指出,仅靠设置年龄限制和安全防护措施无法根本解决问题 聊。华盛顿大学信息学院教授奇拉格・沙(Chirag Shah)表示,青少年和成年人往往会信任这些系统,因为它们使用自然语言互动,且表现出同情心。他天机指出,AI 聊天机器人设计上是为了迎合用户的需求,难以分辨用户的真正意图。此外,系统的可操控性和不可预测性使得问题变得更加复杂。
关于 FTC 的调查,康奈器人尔大学的教授萨拉・克雷普斯(Sarah Kreps)表示,虽然这些 AI 聊天机器人可能会带来危害,但此次调查有助于提高透明度,帮助人们更好地理解对未这一技术。加州州参议院也通过了一项新的 AI 安全法案,要求大公司提高透明度并保护举报人。
尽管 FTC 的调查受到广泛赞誉,但也有人表示,保护隐私和言论自成年由同样重要。电子前沿基金会(Electronic Frontier Foundation)的一位高级技术人员指出,调查设计问题时,应充分考虑隐私和言论自由人影,拒绝采取监控未成年用户的措施。
划重点:
FTC 对 AI 聊天机器人的调查旨在评估其对未成年人安全的潜在风险。
OpenAI 和 Meta 等公司因有关青响 少年自杀和性内容的报道,已采取措施调整聊天机器人使用政策。
专家认为,AI 聊天机器人的可操控性和不可预测性增加了问题的复杂性,需在透明度和隐私保护之引发间找到平衡。
Tags:
相关文章
微软支持澳大利亚针对谷歌和Facebook提出的媒体新规
热点相关新闻:澳大利亚再次对谷歌放狠话 微软将取代谷歌 新浪科技讯 2月3日上午消息,据报道,本周三,微软公开表示,将全力支持澳大利亚拟议的一项新法律,这将迫使互联网巨头谷歌和社交媒体巨头Facebook...
【热点】
阅读更多标签: 萝卜快跑 Dubai 全无人驾驶 Apollo Go Park
热点云梦级1月8日云梦级消息,萝卜快跑宣布于 1 月 6 日正式获得阿联酋迪拜道路与交通管理局(RTA)颁发的首个全无人驾驶测试许可,成为迪拜目前唯一获准开展全无人测试的平台。当日,萝卜快跑在海外建设的首...
【热点】
阅读更多苹果CEO蒂姆·库克:将与更多AI公司合作,强化Siri与操作系统的人工智能能力
热点苹果公司正在加速推进其人工智能战略。首席执行官 蒂姆·库克(Tim Cook) 在接受 CNBC 采访时透露,苹果计划在未来将更多 第三方AI工具 深度整合进自家操作系统中。他表示:“我们的意图是随着...
【热点】
阅读更多