模型树------构建模型树

上一节我们讨论了回归树，今天我们来讨论模型树，回归树的叶子节点是数值，模型树的叶子节点是线性函数，这里需要将上一节的函数稍加修改即可，上一节中的叶子节点生成函数、错误率函数需要进行稍加修改。

def linearSolve(dataSet):       m,n = shape(dataSet)    X = mat(ones((m,n))); Y = mat(ones((m,1)))    X[:,1:n] = dataSet[:,0:n-1]; Y = dataSet[:,-1]    xTx = X.T*X    if linalg.det(xTx) == 0.0:        raise NameError('This matrix is singular, cannot do inverse,\n\        try increasing the second value of ops')    ws = xTx.I * (X.T * Y)    return ws,X,Ydef modelLeaf(dataSet):    ws,X,Y = linearSolve(dataSet)    return wsdef modelErr(dataSet):    ws,X,Y = linearSolve(dataSet)    yHat = X * ws    return sum(power(Y - yHat,2))

上面的第一个函数是一个简单的线性回归计算函数，在生成叶子节点时被调用。下面两个函数就是上面所说的两个函数的替代方案。比较简单这里不再多讲。