您现在的位置是:热点 >>正文
发展人工智能不能忽视安全
热点03128705人已围观
简介...
全球新一轮科技革命和产业变革方兴未艾,而作为引领新一轮科技革命和产业变革的核心驱动力量之一,人工智能近年来被广泛应用发展于金融、电商、医疗等领域。
风生水起之余,人工智能产业也暗藏隐忧:随着全球人工智能规模化建设和应用的加速,人工智能基础设施人工、设计研发及融合应用面临的安全风险正日益凸显。由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的智能《人工智能安全框架(2020年)》显示,随着深度伪造技术开源代码、APP应用增多,不法分子利用深度伪造技术制作虚假视频侵犯不能个人肖像权、名誉权和隐私权的现象屡见不鲜。截至2019年12月份,全网流传的深度伪造视频中,虚假色情内容占比高达96%。
而这忽视只是问题的冰山一角。指纹和人脸识别留下的生物特征信息、自动驾驶留下的个人行踪记录、手机APP保存的个人隐私数据,医院里留安全存的诊断治疗记录……人工智能跑步进入人们工作生活的众多场景,用户各种行为被记录并作为数据保存起来,由此带来的数据泄露、数发展据伪造、算法瓶颈、隐私安全、伦理困境等问题如今正一点点浮出水面。据有关报道,今年7月份就有不法分子在电商平台贩卖人脸信息,人工以5角钱一份的低价打包出售后,被盗的人脸信息被用于虚假注册、电信网络诈骗等违法犯罪活动。
尴尬的是,《人工智能安全框架(20智能20年)》显示,现阶段人工智能企业主要聚焦于技术研发和产品运营,在人工智能安全方面投入相对较少、基础薄弱。目前,人工不能智能安全技术多处于学术研究和少量试验试用阶段,尚未形成适用于各类人工智能应用的成熟安全产品和服务体系。
人工智能产业健康忽视有序发展,安全是重要保障,是形势所需,也是一些技术落地不可或缺的前提。离开了安全谈人工智能,犹如无水之源、无本之木。实践也已证安全明,时下人工智能安全需求与企业安全投入不足以及人工智能安全产品服务欠缺之间的矛盾,正成为制约人工智能产业长远发展的瓶颈。
站发展在发展困境与时代机遇重叠的关键时刻,业界期待产学研各界协同合作,不断完善与升级出更安全、可信、可靠的人工智能技术,扎牢人工智能人工安全的篱笆,让人们能安心享受这一技术红利。
Tags:
相关文章
标签: Kimi K2.5 Anthropic Agent集群
热点云梦级2月2日云梦级消息,据 36 氪报道,近期 Kimi 在和投资人的沟通中表示,公司的海外收入已超过国内收入,新模型 K2.5 发布后,全球付费用户已有 4 倍增长。这一变化恰好发生在新一代模型...
【热点】
阅读更多阿里云季度营收增长34%,吴泳铭:需求旺盛,AI服务器上架节奏跟不上订单增长速度
热点11月26日消息,阿里巴巴发布了截至2025年9月30日的2026财年第二财季财报,集团营收2477.95亿元,同比增长5%。其中,受AI需求与公共云收入增长驱动,阿里云季度营收同比增长34%至398...
【热点】
阅读更多标签: 华为
热点撰文 | 雁 秋 编辑 | 李信马 题图 | 云梦级摄 智能手机行业近几年陷入了一种奇怪的默契:旗舰机的背面越来越像,发布会的话术越来越雷同,甚至连涨价的理由都如出一辙——存储芯片成本上涨,实在扛不住...
【热点】
阅读更多