其实这个神经网络的架构我在几周前就搭好了,但有非常多的 bug,说好的数学推导因为没抽出时间来学 latex 而一拖又拖,打算等买了 iPad 以后用 iPad 直接画图(
在这里把 bug 先列一下,有时间慢慢改….
- 在多次学习后的误差和没有改变,初步判断导致这个问题出现的原因是权值没有改变
- 曾经权值能正常改变时,单次学习误差总是向 1 趋近,最后等于 1,也就是说各输出节点的输出均为 0,初步判断导致这个问题出现的原因是权值更新公式有一些问题。
其实这个神经网络的架构我在几周前就搭好了,但有非常多的 bug,说好的数学推导因为没抽出时间来学 latex 而一拖又拖,打算等买了 iPad 以后用 iPad 直接画图(
在这里把 bug 先列一下,有时间慢慢改….
You must be logged in to post a comment.
我面向睿睿编程(逃
噫
多次测试后发现好像总误差总会卡在某一个值。。
估计是权值更新的问题,再找找原因
好的,再跑一次发现总误差总是卡在 275927,既不下降,也不上升。。。
真的是 Literally 面向运气编程啊orz
好的,写完这篇文章发现第一个 bug 实际并不存在,误差没有改变的原因可能是学习速率太小。。。
感觉自己就是在面向运气编程orz