第364章 径向基神经网络
爱小说（www.ixs.cc）开通手机站了，手机用户可以登录 m.ixs.cc 进行阅读，效果更好哦！
时间匆匆流逝。
江寒查询了许多文献，又经过了一番深入地思考，终于做好了准备，开始撰写新的论文。
江寒正在研究的，是径向基神经网络，在原本的世界，这是第一种实用化的“人工神经网络”。
这个世界在数学方面的进展，和前世基本一样。
像“多变量插值的径向基函数方法”，早在1980年代就已经出现了。
也幸好如此，否则的话，江寒在造汽车之前，还得先发明个轮子……
所谓径向基函数，以本质上来说，就是一个实值函数，该函数的取值仅依赖于与原点或者中心点C的距离。
标准的径向基函数，一般使用欧氏距离，所以也叫欧式径向基函数。
当然，使用其他的距离函数也是没问题的，事实上，最常用的径向基函数，就是高斯核函数……
在RBF神经网络中，除了输入层和输出层之外，有且仅有一层隐藏层。
从输入空间到隐藏层空间，所做的变换是非线性的；而从隐藏层到输出层，却是做的线性变换。
通过隐藏层把向量从低维映射到高维，使得在低维中线性不可分的问题，到了高维之后变得线性可分。
这其实就是核函数的思想。
由于网络的输出和权重参数之间，存在着线性的关系，所以就可以由线性方程组，直接把权重参数求解出来。
这样一来，一方面大大加快了训练速度，另一方面，也可以避免“局部极小”的问题。
训练RBF神经网络的关键，在于求解3个参数。
首先是基函数的中心点，然后是方差，最后是隐含层到输出层的权重。
在训练时，同样需要输入训练数据，然后根据损失函数，采用梯度下降法，修正权重的误差。
这一点，其实与BP神经网络的做法，基本上如出一辙。
所以从本质上来说，RBF就是BP网络的一个特例。
当然，两者之间的区别也很明显。
在RBF神经网络中，距离径向基函数的中心点越远，神经元的激活度就越低。
在逼近目标函数时，神经元的权重取值，只依赖于查询点附近的数据。
因此RBF所做的，只是一种局部逼近。
而在BP网络中，所有数据都会起到同等的作用，是对非线性映射的全局逼近。
第2个区别，是隐藏层的数目不同。
BP神经网络可以有多个隐含层，但是RBF只有一个隐藏层。
从表达能力上来看，RBF是不如BP的，但RBF也有不可取代的优势，那就是训练起来速度极快。
一方面，由于隐藏层较少，计算压力就更小些；另一方面，局部逼近也可以有效地简化计算。
在RBF神经网络中，对于一个输入，只有附近的神经元会有反应，其他的全都被忽略。
这样一来，需要调整的权重参数，自然就大幅度地减少了，也就减轻了计算压力。
此外，还可以从理论上证明，RBF网络是对连续函数的最佳逼近，而容易陷入局部极小的BP网络则不是……
一般来说，使用了核函数技巧的机器学习方案，比如支持向量机等，都不怎么适应大数据的情况。
样本量一大，往往会出现极其严重的计算困难。
而RBF刚好解决了这个问题……
星期四那天，这篇论文终于写完了。
当天晚上，江寒吃完饭之后，就开始在电脑上敲论文。
夏雨菲则陪在他身边，做着自己的高考复习题。
时间快到9点的时候，估摸着夏如虹要回来了，他就转移战场，回自己房间继续工作。
又过了将近半个小时，才将论文完全敲进了电脑里。
随后，江寒稍微考虑了一下，就将其发给了。
理由嘛，也很简单。
在给自己发来约稿信的期刊中，属这一家的级别最高。
而尽可能地多拿学术点，正是他一以贯之的原则……
将论文提交到ML官网上之后，时间已经差不多9点半。
江寒闭上眼睛，靠在椅背上，稍微休息了一会儿。
虽然是在休息，但大脑并没有彻底放空。
他想到了水晶头骨，以及那个奇怪的卡片。
这些天以来，他一有时间就偷偷研究，想到什么新的思路，就做些实验验证一下。
但可惜的是，并没有任何进展。
实话说，那个神奇的透明丝线，以现在地球的技术，似乎很难做得出来。
可如果说，那不是当代的技术……
难道在这个世界上，还当真存在过什么史前高科技文明吗？
江寒甚至想到了外星人或者未来科技。
只可惜目前为止，并没有任何实在的证据，表明地球上存在什么外星人、未来人……
好吧，也许是尚未公开的科技。
毕竟即使在原本的世界里，有些科技也是只服务于特殊领域，而不会为大众所知晓的……
江寒的脑海正思绪起伏，一念未灭，一念又生，忽然唇上一暖，被两瓣香香软软、滑嫩异常的东西，轻轻地覆盖住了……
江寒细心体会着，分开了足足10多秒后，他才睁开了眼睛。
夏雨菲宜喜宜嗔、极尽妍态的俏脸，出现在眼前。
江寒温声问：“阿姨还没回来吗？”
不然的话，现在这个时间，小媳妇可不好意思跑来自己的房间……
“嗯。”
夏雨菲点了点头，轻声说：“可能又加班了吧。”
一般来说，夏如虹这个时间都能到家了，除非公司有什么特别情况。
江寒顿时跃跃欲试：“那咱们……”
夏雨菲吓了一跳：“不行，万一……”
话没说完，江寒就一跃而起，将她拦腰抱了起来。
然后上下颠了颠，笑嘻嘻地说：“好像也没怎么瘦，正好帮你减减肥！”
夏雨菲连忙求饶：“别！”
江寒脸一板：“别什么别？”
小媳妇儿都自己送上门了，那还客气些什么？
夏雨菲小脸刷地一下红透：“别像上次那样……”
江寒眨了眨眼：“收到，放心吧！这次保证比上次好玩！”
夏雨菲“啊”了一声，脸更加红了，急促地喘了起来，身子更加软了。
江寒随后便将她抱上了床去，然后……
夏雨菲一声不吭，紧紧地闭着双眼，默默地承受着。
半个小时之后，她终于不堪肆虐，逃离了江寒的魔爪。
江寒则神清气爽，从里到外说不出的舒坦。
夏雨菲迅速整理好衣襟，头也不敢回地冲出了房间。
目送她离开，江寒会心一笑。
以前她嘴上说“不要”的时候，身体往往很诚实；
到了现在嘛，干脆连“不要、不要”的环节都省略了……
不过，也不知道是否错觉，还是说刚刚亲近过的缘故？
反正在自己眼里，小媳妇越来越动人了，就连落荒而逃的背影，也那么的婀娜多姿……
……
第二天中午，江寒给夏如冰打了个电话。
主要是说明一下，公司的手续已经跑完，资金也十分充足，可以开展业务了。
“多少资金？”夏如冰打听了一句。
这本来就是她这个“总经理”，心里应该有数的。
江寒呵呵一笑：“500万美金。”
夏如冰吓了一小跳：“你在公司的账户里头，放这么多钱干嘛？
咱们这家公司，只是卖卖专利授权，又没有多少要花钱的地方……”
江寒耸了耸肩：“这是KAGGLE那边打来的奖金，我也懒得折腾回国，就作为咱们的启动资金吧。”
高德先生的五百万美元，星期一就到账了。
江寒一时半会也用不上太多钱，所以就先放在公司账户里存着了。
将来真有需要的时候，不妨再以投资的形式转移到国内。
一方面，支援一下国家建设，另一方面……
直接提现或者转账，需要缴纳很多税费，但如果是投资的话，就能享受很多优惠了。
这是合理合法地省钱，算不上薅SH主义的羊毛，不省白不省……
江寒查询了许多文献，又经过了一番深入地思考，终于做好了准备，开始撰写新的论文。
江寒正在研究的，是径向基神经网络，在原本的世界，这是第一种实用化的“人工神经网络”。
这个世界在数学方面的进展，和前世基本一样。
像“多变量插值的径向基函数方法”，早在1980年代就已经出现了。
也幸好如此，否则的话，江寒在造汽车之前，还得先发明个轮子……
所谓径向基函数，以本质上来说，就是一个实值函数，该函数的取值仅依赖于与原点或者中心点C的距离。
标准的径向基函数，一般使用欧氏距离，所以也叫欧式径向基函数。
当然，使用其他的距离函数也是没问题的，事实上，最常用的径向基函数，就是高斯核函数……
在RBF神经网络中，除了输入层和输出层之外，有且仅有一层隐藏层。
从输入空间到隐藏层空间，所做的变换是非线性的；而从隐藏层到输出层，却是做的线性变换。
通过隐藏层把向量从低维映射到高维，使得在低维中线性不可分的问题，到了高维之后变得线性可分。
这其实就是核函数的思想。
由于网络的输出和权重参数之间，存在着线性的关系，所以就可以由线性方程组，直接把权重参数求解出来。
这样一来，一方面大大加快了训练速度，另一方面，也可以避免“局部极小”的问题。
训练RBF神经网络的关键，在于求解3个参数。
首先是基函数的中心点，然后是方差，最后是隐含层到输出层的权重。
在训练时，同样需要输入训练数据，然后根据损失函数，采用梯度下降法，修正权重的误差。
这一点，其实与BP神经网络的做法，基本上如出一辙。
所以从本质上来说，RBF就是BP网络的一个特例。
当然，两者之间的区别也很明显。
在RBF神经网络中，距离径向基函数的中心点越远，神经元的激活度就越低。
在逼近目标函数时，神经元的权重取值，只依赖于查询点附近的数据。
因此RBF所做的，只是一种局部逼近。
而在BP网络中，所有数据都会起到同等的作用，是对非线性映射的全局逼近。
第2个区别，是隐藏层的数目不同。
BP神经网络可以有多个隐含层，但是RBF只有一个隐藏层。
从表达能力上来看，RBF是不如BP的，但RBF也有不可取代的优势，那就是训练起来速度极快。
一方面，由于隐藏层较少，计算压力就更小些；另一方面，局部逼近也可以有效地简化计算。
在RBF神经网络中，对于一个输入，只有附近的神经元会有反应，其他的全都被忽略。
这样一来，需要调整的权重参数，自然就大幅度地减少了，也就减轻了计算压力。
此外，还可以从理论上证明，RBF网络是对连续函数的最佳逼近，而容易陷入局部极小的BP网络则不是……
一般来说，使用了核函数技巧的机器学习方案，比如支持向量机等，都不怎么适应大数据的情况。
样本量一大，往往会出现极其严重的计算困难。
而RBF刚好解决了这个问题……
星期四那天，这篇论文终于写完了。
当天晚上，江寒吃完饭之后，就开始在电脑上敲论文。
夏雨菲则陪在他身边，做着自己的高考复习题。
时间快到9点的时候，估摸着夏如虹要回来了，他就转移战场，回自己房间继续工作。
又过了将近半个小时，才将论文完全敲进了电脑里。
随后，江寒稍微考虑了一下，就将其发给了。
理由嘛，也很简单。
在给自己发来约稿信的期刊中，属这一家的级别最高。
而尽可能地多拿学术点，正是他一以贯之的原则……
将论文提交到ML官网上之后，时间已经差不多9点半。
江寒闭上眼睛，靠在椅背上，稍微休息了一会儿。
虽然是在休息，但大脑并没有彻底放空。
他想到了水晶头骨，以及那个奇怪的卡片。
这些天以来，他一有时间就偷偷研究，想到什么新的思路，就做些实验验证一下。
但可惜的是，并没有任何进展。
实话说，那个神奇的透明丝线，以现在地球的技术，似乎很难做得出来。
可如果说，那不是当代的技术……
难道在这个世界上，还当真存在过什么史前高科技文明吗？
江寒甚至想到了外星人或者未来科技。
只可惜目前为止，并没有任何实在的证据，表明地球上存在什么外星人、未来人……
好吧，也许是尚未公开的科技。
毕竟即使在原本的世界里，有些科技也是只服务于特殊领域，而不会为大众所知晓的……
江寒的脑海正思绪起伏，一念未灭，一念又生，忽然唇上一暖，被两瓣香香软软、滑嫩异常的东西，轻轻地覆盖住了……
江寒细心体会着，分开了足足10多秒后，他才睁开了眼睛。
夏雨菲宜喜宜嗔、极尽妍态的俏脸，出现在眼前。
江寒温声问：“阿姨还没回来吗？”
不然的话，现在这个时间，小媳妇可不好意思跑来自己的房间……
“嗯。”
夏雨菲点了点头，轻声说：“可能又加班了吧。”
一般来说，夏如虹这个时间都能到家了，除非公司有什么特别情况。
江寒顿时跃跃欲试：“那咱们……”
夏雨菲吓了一跳：“不行，万一……”
话没说完，江寒就一跃而起，将她拦腰抱了起来。
然后上下颠了颠，笑嘻嘻地说：“好像也没怎么瘦，正好帮你减减肥！”
夏雨菲连忙求饶：“别！”
江寒脸一板：“别什么别？”
小媳妇儿都自己送上门了，那还客气些什么？
夏雨菲小脸刷地一下红透：“别像上次那样……”
江寒眨了眨眼：“收到，放心吧！这次保证比上次好玩！”
夏雨菲“啊”了一声，脸更加红了，急促地喘了起来，身子更加软了。
江寒随后便将她抱上了床去，然后……
夏雨菲一声不吭，紧紧地闭着双眼，默默地承受着。
半个小时之后，她终于不堪肆虐，逃离了江寒的魔爪。
江寒则神清气爽，从里到外说不出的舒坦。
夏雨菲迅速整理好衣襟，头也不敢回地冲出了房间。
目送她离开，江寒会心一笑。
以前她嘴上说“不要”的时候，身体往往很诚实；
到了现在嘛，干脆连“不要、不要”的环节都省略了……
不过，也不知道是否错觉，还是说刚刚亲近过的缘故？
反正在自己眼里，小媳妇越来越动人了，就连落荒而逃的背影，也那么的婀娜多姿……
……
第二天中午，江寒给夏如冰打了个电话。
主要是说明一下，公司的手续已经跑完，资金也十分充足，可以开展业务了。
“多少资金？”夏如冰打听了一句。
这本来就是她这个“总经理”，心里应该有数的。
江寒呵呵一笑：“500万美金。”
夏如冰吓了一小跳：“你在公司的账户里头，放这么多钱干嘛？
咱们这家公司，只是卖卖专利授权，又没有多少要花钱的地方……”
江寒耸了耸肩：“这是KAGGLE那边打来的奖金，我也懒得折腾回国，就作为咱们的启动资金吧。”
高德先生的五百万美元，星期一就到账了。
江寒一时半会也用不上太多钱，所以就先放在公司账户里存着了。
将来真有需要的时候，不妨再以投资的形式转移到国内。
一方面，支援一下国家建设，另一方面……
直接提现或者转账，需要缴纳很多税费，但如果是投资的话，就能享受很多优惠了。
这是合理合法地省钱，算不上薅SH主义的羊毛，不省白不省……
爱小说WWW.IXS.CC努力创造无弹窗阅读环境，大家喜欢就按 Ctrl+D 加下收藏吧，有你们的支持，让我们走得更远！
可以使用回车、←→快捷键阅读
