您现在的位置是:热点 >>正文
谷歌大脑最新研究:AutoML方式自动学习Dropout模式
热点9706人已围观
简介...
本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。
深度神经网络往往存大脑在过拟合的问题,需要Dropout、权重衰减这样的正则化最新方法的加持。
而最近的研究表明,如果对Dropout“剪研究掉”的神经元的结构进行利用,就能实现比随机替换:A更好的效果。
问题是,实际应用中,针对不同的问题,利用ut结构的方法需要人工设计,对Dropout的模式进行调oM整,泛化能力不足。
那么,是否能设计一种针对CNN、TrL方ansformer这样的深度神经网络,自动学习D式自ropout模式的方法?
现在,谷歌大神Quoc V. L动学e的团队,就提出了一种名为AutoDropout的方法。
&习Dnbsp;
&ronbsp;
https://arxiv.org/poabs/2101.01761
Tags:
相关文章
宝马将成为首家使用亚马逊AWS云平台的汽车制造商
热点10月14日消息,据国外媒体报道,昨日宝马集团(BMW Group)和亚马逊云科技(AWS)宣布达成战略合作,将共同开发创新的云技术,简化来自数百万辆联网汽车的数据分配和管理。宝马也成为第一家使用AW...
【热点】
阅读更多标签: OpenAI Pinterest ChatGPT AI购物
热点云梦级1月6日云梦级消息,据外媒The Information预测,OpenAI或将收购Pinterest。报道称OpenAI看中的是Pinterest的用户数据,尤其是产品搜索方面的洞察。如果能拿下...
【热点】
阅读更多标签: 牧原股份 秦英林 生猪养殖 港交所
热点云梦级2月6日云梦级消息,2月6日,牧原股份(02714.HK)正式登陆港交所主板,由摩根士丹利、中信证券、高盛联席保荐。发行价为39.00港元(按上限定价)。昨日暗盘收涨1.90%,报39.74港元...
【热点】
阅读更多