如何使用PyBrain网络拟合函数？

Question

有一个函数如下： y = sin(x) 我想使用PyBrain网络来拟合这个函数，以下是我的操作步骤： 运行代码后，你会得到与我一样的结果，所获得的数据与预期相差甚远。

from pybrain.datasets import SupervisedDataSet
from pybrain.tools.shortcuts import buildNetwork
from pybrain.supervised.trainers import BackpropTrainer
import pickle
import scipy as sp
import numpy as np
import pylab as pl

x = np.linspace(0, 4*np.pi, 100)
ds = SupervisedDataSet(1,1)

for i in x:
    ds.addSample(i,sin(i))
print ds

n = buildNetwork(ds.indim,3,3,3,ds.outdim,recurrent=True)
t = BackpropTrainer(n,learningrate=0.01,momentum=0.5,verbose=True)
t.trainOnDataset(ds,1000)
t.testOnData(verbose=True)

fileObject = open('trained_net', 'w')
pickle.dump(n, fileObject)
fileObject.close()

fileObject = open('trained_net','r')
net = pickle.load(fileObject)

y = []
for i in x:
    y.append(net.activate(i))

pl.plot(x,y)
pl.plot(x,np.sin(x))
pl.show()

- Eric Shore

---

那么你的问题是什么？你尝试过除了这个五层深度的例子之外的其他网络架构吗？ - schaul

Answer 1

我猜测你的问题是这个网络不能很好地适应该函数。网络节点总数太少，无法很好地拟合sin（x）函数：该函数太复杂了。而且，原则上拟合任何函数，只需要一个隐藏层即可。

例如，尝试移除两个隐藏层，并增加隐藏节点数（比如20个）。然后你的代码就可以很好地拟合该函数了。

- Rutger