悟空追书

手机浏览器扫描二维码访问

第8章 意外的指点(第2页)

“你这里说的深度神经网络指的应该是你自己提出的那种上百上千层的神经网络,而不是目前业界的深度网络吧?”

付院长转过头来,微笑问道。……

“你这里说的深度神经网络指的应该是你自己提出的那种上百上千层的神经网络,而不是目前业界的深度网络吧?”

付院长转过头来,微笑问道。

“付院长您是怎么..”

孟繁岐先是愣了一下,然后猛地反应过来,目前只有那个女生看到过自己提前准备的残差网络草稿。“是那个女生跟您说的?”

“哈哈哈,她是我的小师妹。”

付院长笑道,“前段时间来这里,也顺便来拜访了我一下,提到了我们学校有个学生在研究什么深百层千层的神经网络,研究得像模像样的。”

“说实在的,这也不是我的领域,如果不是以前的老师让我关注一下这方面,我还真是一窍不通。这两天我还在查询资料呢,我说这哪有什么上百层的神经网络,去年年底那个夺冠的a1exnet不也才8层的深度吗。”

“我也只是刚刚有一些想法。”

孟繁岐连忙解释道。

“你不用紧张,我只是稍微有些好奇,想看看咱们学校到底是不是出了个这方面的天才。若是真的,我肯定大力支持。”

孟繁岐连忙先请付院长坐下,先为他大概介绍了一下背景,原理和现阶段难题。

付院长本身是纯数学出身,此前又在老师的指示之下对这个领域稍稍了解过一些,因此孟繁岐没说太多,他就已经掌握了大概。

“你认为深度网络难训练的问题本质上是梯度问题,所以你想使用残差的形式。”

付院长喃喃自语,左手握拳,撑住了自己的下巴。

“如果不去深究神经网络本身的变换,而只是将其的变换理解为一个未知的高维函数的话,f(x)的多次累加会比x+f(x)的残差形式要不稳定太多。”

孟繁岐后世主要以理解算法的流程,了解几种对比方法的优缺点为主。

对于其具体的内在原理,数学推导,平心而论,他的关心远远不足。现下正是弥补这部分短板的大好机会。

“如果我们讨论一个函数的多次嵌套,f(f(f(f(..f(x)..))))的话,不管是否是残差的形式,都是相当难以分析的。从数学上直观来看,两个相同次数的嵌套,有残差与否,不应当会改变该函数的实际表达能力。也就说,你构建的模型其对函数拟合的能力是与原本相当的。”

“倘若真的可以观察到明显的改善,那说明这种残差的形式只是能够让你所说的模型更容易被优化。换言之,以我的视角来说,该函数的求解变得更加精确了,从这个角度来看,残差是一种简洁的欧拉前向形式。”

付德清说着,拿起了纸开始了一些推演。孟繁岐疏于数学上的推演,但他很熟悉这种形式构建的网络有什么特性,因而越听越觉得惊奇。付院长的数学分析竟然相当接近不少后来的实验结果。

只可惜自己看他亲自上手推论,却稍微有些吃力了。

此时此刻和他一样一头雾水的还有附近竖起耳朵吃瓜的几名高年级学长学姐。

本章完

热门小说推荐
古墓新娘,冥王宠得心慌慌

古墓新娘,冥王宠得心慌慌

我出生那一年大旱,赤地千里,又因为属羊,十羊九不全,一全坐殿前,我就成了全村人口中的不祥之物。大学毕业那年,村里为了修路,挖掉了我家后面的千年古墓,从那天起,我就惹上了一身风流债。梦里,一个冥王将军对着我喊娘子,口口声声自称为夫。我不知道这到底是梦境还是现实。而很快,家里就开始出事了,先死掉的是我的二叔各位书友要是觉得古墓新娘,冥王宠得心慌慌还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...

离婚后,霸总追妻追到腿软

离婚后,霸总追妻追到腿软

简介关于离婚后,霸总追妻追到腿软本书前期节奏较快,偏重于婚后甜宠说明男女主之间没有任何第三者,前期分开只是有小误会而已,小的不能再小的误会哈~众人皆知鹿城之王江易珵是个冷漠寡淡之人,对什么都不在意,更别提是女人这种生物了。就连他的隐婚妻子任兮也是这么认为的。结婚四年,夫妻俩相敬如宾。哦不,准确来说是江易珵单方面忽视,任兮这个妻子那是好的没话说。贤惠,孝顺,善解人意都是她的代名词。直到有一天江易珵看着手里新鲜出炉的离婚证,本来应该高兴的他却高兴不起来,以为只是短暂的不适应,但随着时间的推移现他错了,错的离谱!他是喜欢任兮的!此后他幡然醒悟,果断追妻。奈何女人身边的苍蝇太多,打一只来一只,打两只来一双。酒会上看到别的男人对任兮大献殷勤,江易珵再也忍不住了,凑上来抱着她说,老婆复婚好不好?女人笑的勾人,摇晃着手里的红酒杯,我包养几个小鲜肉不香吗?江易珵一张俊脸被气绿了,咬牙切齿道,小鲜肉有什么意思?老腊肉才更有嚼劲!后来男人将她抵在墙上,霸道的把她圈在怀里,居高临下的看着她,目光冷冽又偏执,你只能是我的!江易珵是商界矜贵的王,唯独向任兮低下了高傲的头颅。...

赌她会爱我

赌她会爱我

简介关于赌她会爱我排雷非双洁文哦!偏向古早霸总文!林安然是凤城最尊贵的林家千金大小姐。她单纯美丽,出淤泥而不染。姨妈一朝引狼入室,引来了顾时卿,林家家产系数落入这个外姓人手中。顾时卿爱她,入骨髓,深不见底。可她,永远忘不了大学时的初恋凤宁澜。顾凤之争,在林安然柔弱的性格里,导致凤宁澜一直处于被动状态。顾时卿占有她,逼迫她,掌控她他逼她,将刀刺入凤宁澜的心脏里。他逼诱她,在暗无天日的密室里,终于占有。他又予她爱,毫无保留,掏心掏肺,卑微至尘埃。可高岭之花,终究被他以爱的名义,拉下了神坛,早已跌入深渊,万劫不复。多年以后,在异国的夜总会里,顾时卿像一个虔诚的奴仆跪到在她身旁,卑微地祈求着,林安然,你可曾爱过我一分!林安然只是慢慢蹲下身子,挑起男人精致的下巴,笑道,一分未曾,倒是恨未曾消散过。...

主角林知瑜宋屿川

主角林知瑜宋屿川

创业致富甜宠团宠前世,林知瑜作为餐饮集团大佬被人算计,意外重生到八十年代一个怂唧唧的小媳妇身上。小媳妇被闺蜜骗钱,被闺蜜的弟弟骗感情,被大姑挑拨跟家人的关系,被亲奶奶以孝顺的名义搜刮,怂唧唧地只知道压榨自家性格内敛的丈夫,还委屈了可爱的女儿。重生一世,林知瑜绝对不会再怂半分,养鲫鱼,种蔬菜,开酱菜厂,创办餐饮集团,带着家人勤劳致富,顺手收拾各路渣渣。内敛的丈夫开始明目张胆不分场合地疼媳妇。把全部的工资交给她,媳妇,你想怎么花都行,我支持你。又给她捏肩捶腿,媳妇,你辛苦了。...

猫真人

猫真人

全频电磁干扰锁死了信息时代,科技停滞社会裹步不前,仙道若隐若现,旧日的阴影从未远离。向左是科技,向右则是超凡,沈渔来到了这个时代,他将谱写自己的传奇。顺为人,逆为猫,一人一猫要成仙。读者群325834802...

王爷五岁半,封地开荒做团宠

王爷五岁半,封地开荒做团宠

简介关于王爷五岁半,封地开荒做团宠新皇上位后,年仅五岁的顾聿知被赐闻王流放式配到了漠北,大臣们反对,大臣们同情,就连随行人员也觉得他要完蛋了。顾聿知知道自己成了史上最穷小王爷,为了能在漠北生存,他对着皇兄撒娇卖萌求赏赐,还意外觉醒了农商双系统,于是小小王爷带领众人开荒,种地,做生意,搞基建农系统现代教授舒老师,商系统前朝皇商文掌柜,二人古今观念,男女差异的不同让顾聿知觉得头疼的同时,又获益匪浅,小日子逐渐风生水起,当个潇洒小王爷的日子指日可待但怎么回事,原本温润的长史竟教他培植自己的势力,流放的大将军暗中教授他兵法武功。北狄侵犯,他带领众人保家卫国,皇子反叛,他帮皇兄平定内患。就在众人忧心他会被皇上忌惮时,顾聿知却挥手表示没关系,他就是皇兄的工具人而已。...

每日热搜小说推荐