CloseAI提示您:看后求收藏(乡村小说网www.xcxs5200.com),接着再看更方便。

期的许多算法在参数量和计算量上都有很大的冗余。

“谷歌的GoogleNet和牛津的VGGNet原本要明年才能研究出来,不过我今年参赛之后,这两个AI历史上的重要网络恐怕就要胎死腹中了吧?”

别说是现在了,截止到14年末,多余的设计仍旧大量存在与谷歌和牛津大学的算法当中。

直到15年,那个男人以残差网络ResNet夺冠ImageNet-2015,铸就了深度学习时代的AI模型的神格。

残差思想是孟繁岐此时此刻的最佳选择,一方面它会成为深度学习时代的里程碑,因为它的核心思想,就是如何把深度网络做得更加‘深’。

另一方面,它的实现和结构简洁,抛弃了大量人类看来很有道理和价值,但实际上其实用处不大的设计。

将简洁好用的结构反复重复,这也大大地降低了孟繁岐所需要的开发工程量。

AlexNet是八层的结构,各自有一些独立的设计,在此时,8层已经是革命性的深度网络了。

更深的网络特别难以训练,因此原本直到14年,谷歌和牛津才分别把这个深度推进到22层和19层。

而ResNet的思想,彻底从根本上解决了网络变深就没法顺利训练的问题。它让50,100,150,甚至1000层网络的训练成为可能。

“从去年的8,到今年的100+层,甚至1000层也可以训练。在2013年的视角来看,这一剂猛药应该够劲了。”

不仅是深度上取得了开创性的突破,ResNet的性能也同样惊人。它是第一个Top-5错误率低于人类能力的结构,单模型达到了4.6%左右。

如果综合几个不同方式训练的ResNet,平均他们的输出再去预测的话,其TOP-5错误率甚至低至3.7%。

“其实在IMAGENET上做得太准了反而是一件怪事。”考虑到后世的研究中,该数据集中的标签其实有不小的比例是错误的,越贴近百分之百的准确率反而越有一些荒诞的感觉。

ResNet的Res指residual,正经点说是残差,说得明白一些是一种短路或者是跳跃链接。

再说的浅显一点,假设原本的操作为f(x),ResNet就是把计算过程从f(x)改为f(x)+x。

这也是孟繁岐最早与付院长讨论的内容之一。

这种不带任何参数的支

都市言情推荐阅读 More+
闪婚甜宠:陆爷,早安!

闪婚甜宠:陆爷,早安!

暮溪
苏慕谨在婚礼前三天遭遇背叛,她一不做二不休,直接找个男人宣布婚礼继续。 “我可以给你钱,养你,你娶我。” 男人似笑非笑的点头答应。 后来苏慕谨才发现,这个男人很不简单。 “陆太太,我等这一天很久了。” 陆之禛喜欢苏慕谨从青春懵懂到而立之年,他看着她即将嫁给别人,想若她幸福也就罢了。 可上天给了他机会,那他也就不会再放手。
都市 连载 0万字
重生96:权力之巅

重生96:权力之巅

浅水戏虾
大鹏一日同风起,扶摇直上九万里! 仕途一直郁郁不得志的周鹏程,重生回到1996年,且看他如何在如履薄冰的官场之上,走出一条属于自己的传奇之路……
都市 连载 447万字
快穿:路人甲女配只想长命百岁

快穿:路人甲女配只想长命百岁

贫穷的三七呀!
排雷:非快节奏,非爆爽文,但坏人定然安排的妥妥的。 第一个故事觉得憋屈都可以直接看第二个、第三个,杀的痛快。 写作不易,不喜勿喷,我们江湖再见还是好盆友~~~ 做任务为主,节奏平和,无固定CP 女主人设:冷心冷肺路人甲,不掺和,活下去。 张倾不知道自己来自何处,去往何地的。 带着一个随时能量警告的系统活过一世又一世。 随着时间不停的流逝,世界不停的变换她逐渐复苏了一些原本属于自己的沉睡记忆。 后
都市 连载 0万字
穿到荒年喜当娘,我有系统种田爽

穿到荒年喜当娘,我有系统种田爽

青念
一朝穿越喜当娘,她哭唧唧。 还好,她带着系统,身怀医术,种田路上金手指让她一路爽爽爽! 可惜一物降一物,她降得住绿茶,撕得了反派,却唯独逃不出将军夫君的手掌心!
都市 连载 170万字
我的妩媚女上司

我的妩媚女上司

亿万财团
“嗯,嗯,好舒服,再爱我……” 王峰刚走到经理办公室,忽然听到里面传来一阵熟悉的呻吟声,推开门一看,只见公司的会计主管曼红,正一丝不挂的骑坐在经理李建富的双腿上……
都市 连载 0万字