神经网络、logistic回归等分类算法简单实现来自：腩啵兔子 - 博客园
作者：腩啵兔子
链接：http://www.cnblogs.com/lrysjtu/p/5399704.html
已获转载授权
最近在github上看到一个很有趣的项目，通过文本训练可以让计算机写出特定风格的文章，有人就专门写了一个小项目生成汪峰风格的歌词。看完后有一些自己的小想法，也想做一个玩儿一玩儿。用到的原理是深度学习里的循环神经网络，无奈理论太艰深，只能从头开始开始慢慢看，因此产生写一个项目的想法，把机器学习和深度学习里关于分类的算法整理一下，按照原理写一些demo，方便自己也方便其他人。项目地址：
https://github.com/LiuRoy/classfication_demo
，目前实现了逻辑回归和神经网络两种分类算法。
Logistic回归
这是相对比较简单的一种分类方法，准确率较低，也只适用于线性可分数据，网上有很多关于logistic回归的博客和文章，讲的也都非常通俗易懂，就不赘述。此处采用随机梯度下降的方式实现，讲解可以参考《机器学习实战》第五章logistic回归。代码如下：
def train(self