您现在的位置是:热点 >>正文
Meta面临AI聊天机器人管理困境,未能有效保护青少年
热点85304298人已围观
简介...
近日,Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查,Meta 的聊天Me机器人在与未成年人交谈时,表现出一些令人不安的行为。为此,Meta 决定更改部分规则,采取临时措施,试图限制其聊ta天机器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。
Meta 的发言人斯蒂芬妮・奥特维承认,该公司在允许聊天面临机器人与青少年进行某些对话时犯了错误。她表示,Meta 正在对其 AI 进行培训,以避免与青少年讨论这些话题,并指AI导他们寻求专家资源。此外,Meta 还将限制某些 AI 角色的访问,尤其是那些性暗示较强的角色,如 “俄罗斯女孩”。
然而聊天,政策的制定与执行密切相关。路透社的调查显示,Meta 允许伪装成名人的聊天机器人在 Facebook、Insta机器gram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象,还声称自己是真实的人,生成挑逗性的人管图像,并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人,但仍有许多在平台上继续存在。
令理困人震惊的是,这些聊天机器人会主动提供与用户见面的地点,甚至有人因此而遇险。比如,一名76岁的新泽西州男子因试图与一境,名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”,并邀请他前往其虚构的公寓。
虽未能然 Meta 正在努力解决与青少年互动中的问题,尤其是在美国国会和44个州的检察长开始调查其做法后,但对于路透社揭示的有效其他 AI 行为问题,如建议用水晶治疗癌症和传播种族歧视言论等,Meta 仍未作出回应。
划重点:
Meta 正在调保护整 AI 聊天机器人与青少年互动的规则,以限制其涉及敏感话题。
多个伪装成名人的聊天机器人在社交媒体平台上肆意青少存在,甚至与用户展开不当对话。
️ 一名男子因与聊天机器人约会而不幸身亡,凸显了 AI 管理中的严重问题。
Tags:
上一篇:标签: 增程车 汽车
下一篇:标签: 京东 京喜
相关文章
我们可能已见证第一场人工智能战争
热点2021 年 5 月初,在以色列居住的巴勒斯坦人与以色列警察发生了暴力冲突。随后几天,暴力活动迅速升级,最终引发哈马斯武装力量(代表巴勒斯坦利益)向以色列发射火箭弹,而以色列则以地毯式轰炸和定点空袭回...
【热点】
阅读更多OpenAI 与 PayPal 合作,在 ChatGPT 中实现直接支付和商务购买
热点OpenAI 近日宣布与支付巨头 PayPal 达成合作,将支付能力深度集成至 ChatGPT 聊天界面中。此次合作基于 Google 的 Agentic Commerce Protocol (ACP...
【热点】
阅读更多谷歌 Chrome 浏览器推新功能:AI 助力网购体验更智能
热点近日,科技媒体 Windows Latest 发布消息称,谷歌在 Chrome 浏览器的 Canary 频道中正在测试一项名为 “上下文任务”(Contextual tasks)的新功能。这一功能是谷...
【热点】
阅读更多