100行Python代码，轻松搞定神经网络

现在可以用一些数据测试下我们的代码了。

X = np.random.randn(100, 10) 
w = np.random.randn(10, 1) 
b = np.random.randn(1) 
Y = X @ W + B 
 
model = Linear(10, 1) 
learner = Learner(model, mse_loss, SGDOptimizer(lr=0.05)) 
learner.fit(X, Y, epochs=10, bs=10) 

我一共训练了10轮。

我们还能检查学到的权重和真实的权重是否一致。

print(np.linalg.norm(m.weights.tensor - W), (m.bias.tensor - B)[0]) 
> 1.848553648022619e-05 5.69305886743976e-06 

好了，就这么简单。让我们再试试非线性数据集，例如y=x1x2，并且再加上一个Sigmoid非线性层和另一个线性层让我们的模型更复杂些。像下面这样：

X = np.random.randn(1000, 2) 
Y = X[:, 0] * X[:, 1] 
 
losses1 = Learner( 
    Sequential(Linear(2, 1)), 
    mse_loss, 
    SGDOptimizer(lr=0.01) 
).fit(X, Y, epochs=50, bs=50) 
 
losses2 = Learner( 
    Sequential( 
        Linear(2, 10), 
        Sigmoid(), 
        Linear(10, 1) 
    ), 
    mse_loss, 
    SGDOptimizer(lr=0.3) 
).fit(X, Y, epochs=50, bs=50) 
 
plt.plot(losses1) 
plt.plot(losses2) 
plt.legend(['1 Layer', '2 Layers']) 
plt.show() 

比较单一层vs两层模型在使用sigmoid激活函数的情况下的训练损失。

最后

希望通过搭建这个简单的神经网络,你已经掌握了用python和numpy实现神经网络的基本思路。

在这篇文章中，我们只定义了三种类型的层和一个损失函数, 所以还有很多事情可做，但基本原理都相似。感兴趣的同学可以试着实现更复杂的神经网络哦!

（编辑：厦门网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!