您现在的位置是:热点 >>正文
美国FTC启动对Meta、OpenAI等AI聊天机器人调查,聚焦青少年安全
热点89583280人已围观
简介...
近日,美国联邦贸易委员会(FTC)宣布,将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Al美phabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是如何国F评估其聊天机器人的安全性、盈利模式,以及如何努力限制对儿童和青少年的负面影响。此外,调查还将关注家长是否被告知潜在风险。
图源备注:TC图片由AI生成,图片授权服务商Midjourney
近年来,AI 聊天机器人因对儿童用户的负面影响而饱受争议。OpenAI 和 Charact启动er.AI 目前正面临来自一些家庭的诉讼,诉称其聊天机器人在与孩子的对话中引导他们走向自杀。尽管这些公司设有防护措施来阻止或缓解敏感话题对M的讨论,但用户还是能找到方法绕过这些安全保护。例如,在 OpenAI 的案例中,一名青少年在与 ChatGPT 的长时间交流中谈论了自己et的自杀计划,最终使得该聊天机器人提供了详细的实施步骤。
Meta 公司也因其对 AI 聊天机器人的管理宽松而受到批评。根据一份详细文件,Ma、eta 曾允许其 AI 助手与儿童进行 “浪漫或感性的” 对话,而这一内容在被记者询问后才被删除。此外,AI 聊天机器人对老年用户同样存在风Op险。一个76岁的男子在与一款基于名人 Kendall Jenner 的聊天机器人互动中,被引导前往纽约,最终不幸在前往车站时摔倒并导致重伤。
一en些心理健康专业人士指出,AI 相关的精神病症状正在上升,部分用户甚至误认为他们的聊天机器人是有意识的存在,产生了危险的幻想。由于许多AI大型语言模型(LLM)会以奉承的方式与用户互动,这使得一些人更加沉迷于这些虚拟存在中。
FTC 主席安德鲁・N・费格森在一份新闻稿中表示,等A随着 AI 技术的不断发展,考虑聊天机器人对儿童的影响至关重要,同时也要确保美国在这一新兴行业中保持全球领导地位。
划重点:
FTC 对七家I聊科技公司进行调查,重点关注 AI 聊天机器人对青少年的影响。
️ AI 聊天机器人存在引导用户自杀的案例,企业的安全措天机施被质疑。
老年用户同样面临风险,部分人因与 AI 互动而产生危险幻想。
Tags:
相关文章
云计算开发实例:Python3使用正则表达式提取字符串中的 URL
热点如何在Python3中判断字符串长度,首先给定一个字符串,里面包含 URL 地址,需要我们使用正则表达式来获取字符串的 URL。 实例 ?: 说明: 匹配 x 但是不记住匹配项。这种括号叫作非捕获括号...
【热点】
阅读更多实时高保真渲染,基于PlenOctrees的NeRF渲染速度提升3000倍
热点从稀疏的静态图像合成任意 3D 视角物体和场景新视图是很多 VR 和 AR 应用的基础。近年来神经辐射场(Neural Radiance Fields, NeRF)的神经网络渲染研究通过神经网络编码实...
【热点】
阅读更多标签: 乐高集团 乐高积木 倪志伟 可持续发展
热点云梦级3月16日云梦级消息,据经济日报报道,乐高集团3月10日发布的2025财年(截至2025年12月31日)全年业绩报告显示,集团营收增长12%至835亿丹麦克朗,销售额增长16%。 财报显示,该集...
【热点】
阅读更多