移动最小二乘法

2.移动最小二乘法

转载自:基于移动最小二乘法的曲线曲面拟合--一碗竹叶青

如果离散数据量比较大,形状复杂,用传统最小二乘法会很奇怪。
所以又有了改良型的基于移动最小二乘法。
区别:
( 1)拟合函数的建立不同。这种方法建立拟合函数不是采用传统的多项式或其它函数,而是由一个系数向量 a(x)和基函数 p(x)构成, 这里 a(x)不是常数,而是坐标 x 的函数。
( 2)引入紧支( Compact Support)概念,认为点 x 处的值 y 只受 x
附近子域内节点影响,这个子域称作点 x 的影响区域, 影响区域外的节点对 x的取值没有影响。在影响区域上定义一个权函数w(x), 如果权函数在整个区域取为常数, 就得到传统的最小二乘法。参考自《基于移动最小二乘法的曲线曲面拟合-曾清红》

1.拟合函数的建立

在拟合区域的一个局部子域上, 拟合函数 f (x)表示为:
拟合函数

式中
为待求系数,它是坐标x的函数。
称为基函数。它是一个k阶完备的多项式,m是基函数的项数

对于一维问题,基函数可以为
一维基函数
二维基函数

这个基函数我还真的看不懂,但大家都是这样设的

在移动最小二乘近似中, 系数 ai(x) 是通过令近似函数 u(x) 在点 x 的邻域内各节点误差的加权平方和为最小来确定的

对a(x)求偏导,令其等于零就可以得到及极少值。
令对a(x)偏导为0

式中 n 为点 x 的邻域 内所包含的节点数.,w(x)=(x−xI) 称为节点 xI 处的权函数, 它在节点 xI 周围的一个有限区域中大于零, 而在该区域外为零 . 权函数的定义表明, 只有在节点 xI 的影响域范围内的节点才对该点的近似函数产生影响.

2.支撑域:


将整个x范围划分为若干个区域,每个区域包含若干个x点,那么并且规定其中一点为标准点,其他点为参考点。
参考点与标准点的距离作为权函数的参数。得出权重。

3.权函数:

!
权函数(样条函数)

4.法方程的推导:
对于任意函数 h(x) 和 g(x), 引入记号:



那么,公式4可写成


->

写成矩阵形式:写成矩阵形式:

由上面的法方程, 解得 a(x).
然后求解得出A(x),B(x) 求解得出α(x)


5.拟合流程


6.网格化
这里说明一下为什么要网格化,网格化主要是选取标准点,并以标准点来划分支撑域,确定支撑域半径和支撑域内的节点 x

7.python代码

#主题部分
X=np.arange(-0.9,0.9,0.05)
# 数据点x个数
M=len(x)
# 基函数个数
N=2
p=np.zeros((M,2))
Y=[]
for XX in X:
    w = np.zeros((M,1))
    d=0.1 # 影响区域的半径
    for i in range(0,M):
        w[i]=W_fun(d, x[i], XX)
        p[i][0]=1
        p[i][1]=x[i]
    A=fun_A(x,w,p)
    B=fun_B(y,w,p)
    a=np.linalg.solve(A,B)
    Y.append(a[0]+a[1]*XX)

#其他函数部分
# 权函数
def W_fun(d,x,X):
    s=abs(x-X)/d
    if (s<=0.5):
        return (2/3)-4*s**2+4*s**3
    elif(s<=1):
        return (4/3)-4*s+4*s**2-(4/3)*s**3
    else:
        return 0
# 权函数记号(pm,pn)的计算
def pm_pn(w,x,p,m,n):
    # x为数据点,w为支撑域的权重,M为数据点个数 p1,p2为传入的数值
    pmn=0
    M=len(x)
    # i代表数据点,m n代表(pm,pn)的下标
    for i in range(M):
        pmn=pmn+w[i]*p[i][m]*p[i][n]
    return float(pmn)
# B矩阵的建立
def fun_B(u,w,p):
    pumI=0
    M=len(u) #数据点个数
    m=p.shape[1] # 基函数个数
    B=[]
    for j in range(m):
        for i in range(M):
            pumI=pumI+w[i]*p[i][j]*u[i]
        B.append(float(pumI))
    return B
 # A矩阵的建立
def fun_A(x,w,p):
    M=len(x)函数
    m=p.shape[1]
    A=[]
    for mm in range(m):
        matA=[]
        for nn in range(m):
            pmn=pm_pn(w,x,p,mm,nn)
            matA.append(pmn)
        A.append(matA)
    return A
#!/usr/bin/env python2
# -*- coding: utf-8 -*-
"""
Created on Tue Apr  2 11:39:26 2019

@author: yxh
"""
# Python实现MLS曲线拟合
import time
import numpy as np
from matplotlib import pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
#其他函数部分
# 权函数
def W_fun(d,x,X):
    s=abs(x-X)/d
    if (s<=0.5):
        return (2/3)-4*s**2+4*s**3
    elif(s<=1):
        return (4/3)-4*s+4*s**2-(4/3)*s**3
    else:
        return 0
# 权函数记号(pm,pn)的计算
def pm_pn(w,x,p,m,n):
    # x为数据点,w为支撑域的权重,M为数据点个数 p1,p2为传入的数值
    pmn=0
    M=len(x)
    # i代表数据点,m n代表(pm,pn)的下标
    for i in range(M):
        pmn=pmn+w[i]*p[i][m]*p[i][n]
    return float(pmn)
# B矩阵的建立
def fun_B(u,w,p):
    pumI=0
    M=len(u) # 数据点个数
    m=p.shape[1] # 基函数个数
    B=[]
    for j in range(m):
        for i in range(M):
            pumI=pumI+w[i]*p[i][j]*u[i]
        B.append(float(pumI))
    return B

def fun_A(x,w,p):
    M=len(x)
    m=p.shape[1]
    A=[]
    for mm in range(m):
        matA=[]
        for nn in range(m):
            pmn=pm_pn(w,x,p,mm,nn)
            matA.append(pmn)
        A.append(matA)
    return A



path = '/home/yxh/vispy/001095_curve.txt'
pos = np.loadtxt(path)
pos_rgb = pos[:, -1]
idxs = np.where(pos_rgb == 1)
lane = pos[idxs]
x = lane[:, 0]
y = lane[:, 1]
z = lane[:, 2]
lane = lane[lane[:, 0].argsort()]
nums = 0
num = np.uint8(lane.shape[0]/50) + 1
lane_nums = np.zeros((num, 3))
for i in range(lane.shape[0]):
    if(i==0 or i%50==0):
        lane_nums[nums, :] = lane[i, 0:3]
        nums += 1

X = lane_nums[:, 0]
#Y = lane_nums[:, 1]
Z = lane_nums[:, 2]
#X=np.arange(np.min(x, axis = 0), np.max(x, axis = 0), 1.0)
# 数据点x个数
M=len(x)
# 基函数个数
N=6
p=np.zeros((M,N))
Y=[]
time_begin = time.time()
ids = 0
for XX in X:
    w = np.zeros((M,1))
    d=4.0 # 影响区域的半径
    for i in range(0,M):
        w[i]=W_fun(d, x[i], XX)
        p[i][0]=1
        p[i][1]=x[i]
        p[i][2]=z[i]
        p[i][3]=pow(x[i], 2)
        p[i][4]=x[i]*z[i]
        p[i][5]=pow(z[i], 2)
    A=fun_A(x,w,p)
    B=fun_B(y,w,p)
    print len(A), len(B)
    a=np.linalg.solve(A,B)
    Y.append(a[0]+a[1]*XX+a[2]*Z[ids]+a[3]*pow(XX, 2)+a[4]*XX*Z[ids]+a[5]*pow(Z[ids], 2))
    ids += 1
time_end = time.time()
print 'time_cost:', time_end-time_begin
Z = np.zeros((X.shape))
print Z, Z.shape
f1 = np.polyfit(X, Y, 2)   # Least squares polynomial fit. use 4 can get best fitting
p1 = np.poly1d(f1) 
print 'xishu:', f1
print 'fangcheng:', p1
yval = p1(X)
final_pos = np.zeros((len(Y), 3))
final_pos[:, 0] = X
final_pos[:, 1] = yval
final_pos[:, 2] = np.mean(z, axis = 0)
#Z = final_pos[:, 2]
print final_pos
print ">>>>>>>>>>>>>>>>>final_pos[0]:", final_pos[0]
print ">>>>>>>>>>>>>>>>>final_pos[-1]:", final_pos[-1]
print final_pos.shape
"""
plot1 = plt.plot(X, Y, '-s', label='original values')
plot2 = plt.plot(X, yval, 'r', label='ployfit values')
plt.xlabel('x')
plt.ylabel('y')
plt.legend(loc=4)
plt.title('ployfitting')
plt.show()
"""

fig = plt.Figure()
ax = plt.gca(projection='3d')
#ax3 = plt.axes(projection='3d')
ax.set_title('3D-curve')
ax.set_xlabel('x')
ax.set_ylabel('y')
ax.set_zlabel('z')
figure1 = ax.plot(X, Y, Z, c = 'r')  #red
figure2 = ax.plot(X, yval, Z)   #blue
plt.show()

#xx, yy = np.meshgrid(X, Y)
#print xx.shape

#zz = np.zeros((xx.shape))
#print zz.shape

#ax3.plot_surface(xx, yy, zz, cmap='rainbow')
#plt.show()
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,752评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,100评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,244评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,099评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,210评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,307评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,346评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,133评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,546评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,849评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,019评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,702评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,331评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,030评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,260评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,871评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,898评论 2 351

推荐阅读更多精彩内容

  • 1.一般最小二乘法: 假设存在矩阵B,使得XB-Y=0,然后经过2步简单的公式转换 三步到位,是不是很简单。但X矩...
    Vieta_Qiu人工智障阅读 7,362评论 0 2
  • 以西瓜书为主线,以其他书籍作为参考进行补充,例如《统计学习方法》,《PRML》等 第一章 绪论 1.2 基本术语 ...
    danielAck阅读 4,507评论 0 6
  • 转自 https://endlesslethe.com/easy-to-learn-ols.html 前言 最小二...
    Kerwin_H阅读 4,581评论 0 2
  • 【概述】 SVM训练分类器的方法是寻找到超平面,使正负样本在超平面的两侧(分类正确性即“分得开”),且样本到超平面...
    sealaes阅读 11,061评论 0 7
  • 「恭贺新禧」 回顾2017 ♥一月: 5日。我的外公与世长辞,走的那天还在黑龙江出差,未能见上最后一面,外公曾把我...
    苒苒爸阅读 262评论 0 0