在线学习(online learning),按照顺序,循序的学习,不断的去修正模型,进行优化。
batch越小,训练完一组的时间越短,但可能需要更多的步数接近局部最佳值,从大体效果来说,batch对结果影响应该不大。
http://blog.csdn.net/vividonly/article/details/51078186
http://www.kuqin.com/shuoit/20141204/343705.html