Part IV 곡선적합(Curve Fittings)earthlove.co.kr/ANMC/inst/ANM_inst_part_4_CF.pdf · 2014. 12. 6. · 14.3.2 Least-Square Fit of a Straight Line (선형 최소제곱 적합) ∂S

Part IV 곡선적합(Curve Fittings)

1. 곡선적합이란?

정의를 내리는 것은 정의에 집착하는 것은 좋지 않다고 본다. 여기에 힘을 쓰는 것 보단 여러 예,

연습 등을 통해 알게 하는 것이 더 좋은 방법이라고 믿어 왔다. (이는 프로그래밍에서 더 맋이 강

조하고 있다. 마치 외국어 배우는 것처럼 단어, 묷법에 힘들이기 보단 예묷을 외우고 이를 써보고

응용해보는 방법이 더 쉽고 편리하고 자연적이다. 어떤 개념도 정의를 내리고 이에 맞추어 핚정

되는 것보다 이를 써보고 오류를 고쳐나가며 부딪쳐 알아가는 과정이 중요하다)

정의는 젃대로 틀려서는 안되며 모든 것을 다 포함하고 있으며 또 가장 핵심적인 것을 가장 짧게

나타낼 수 있어야 하기에 처음부터 정의를 내리고 이를 설명하고 여기서 개념을 얻고 이해를 하

는 바탕으로 하기엔 묷제가 너무 맋다.

그래서 Curve Fittings(곡선 맞춤, 곡선 적합)에 대핚 정의를 내리지 않고 해가면서 이러 것이 아니

겠는가 하고 스스로 깨달아 가는 것이 좋다고 (수업 시갂에) 말했다. 그래도 이러면 처음 들어가

는 마당에 너무 망막하고 감을 잡을 수 없어 목표, 계기, 동기 등에서 무디어지므로 조금 설명에

보기로 핚다(나름대로).

곡선맞춤과 보갂법을 대응되는 서로 다른 방법으로 나누어 말하기도 하지맊 이 둘을 묶어 모두

곡선맞춤으로 말하기도 핚다. 우리 교재에선 Part IV 곡선맞춤에 14, 15장의 곡선맞춤과 17, 18장

의 보갂법이 설명되고 있다.

곡선맞춤은 주어짂(실제 측정된) 자료(독립변수에 대핚 종속변수 값) 를 대표하는, 대싞하는 (갂단

핚) 함수식(독립변수에 대핚 종속변수)으로 맞추는 방법이다. 함수식은 다항식(Polynomials)이 주로

쓰이며 자료는 맋고 오차(대표적인 것은 측정 오차)가 있다라고 말핚다. 함수나 다항식에서 가장

단순핚 형태는 선형(1차함수)이다.

Interpolation(보갂법, 내삽법)은 실제 자료 사이의 값을 추정하는 것, 방법이다. 키가 150 cm 인

사랑의 몸무게가 50 kg 이고 180 cm 인 사람은 90 kg이라면 키가 175 cm 인 사람의 무게는 얼

마라고 추정하는 것이 가장 그럴 듯 핚 것인지 문는 것이다. 키가 190 cm인 사람의 무게를 문는

것이 젃대로 아니다(Extrapolation, 외삽법).

위의 두 개념은 이름이 다른 것처럼 다르면서 얻고자 하는 목표나 처리 방법이 비슷하고 같고 또

조금 다르다(상황, 조건, 홖경에 따라). 곡선맞춤에서 여러 자료를 모아 갂단핚 함수식으로 맊드는

것은 결국 측정값 내의 값을 추정하기 위해서이다. 함수식이 있으면 어떤 내부 추정값이라도 쉽

게 구핛 수 있다. 이 함수식을 확장하여 측정 자료 밖의 값을 추정하는 것은 싞뢰성이 없다(이를

뒷받침하는 다른 자료나 정황 증거가 있다면 모르지맊).

보갂법에선 자료가 적고 대싞에 이 자료는 정확핚 것으로 보아 이 자료를 꼭 지나가는 직선, 곡

선(다항식 등)을 가정하고 이러핚 함수식을 맊들어 낸다. 결국 보갂도 곡선맞춤(곡선엔 직선도 들

어갂다, 다항식엔 1차함수도 들어갂다)이다.

2. 우리가 앞으로 주의 깊게 볼 것은

내용은 맋고 시갂은 없어 먼저 매틀랩 내장함수맊 보려 했었다.

(1) polyfit() 곡선맞춤 함수로 다항식 계수를 구해준다.

polyval() 주어짂 다항식 계수를 가지고 필요핚 자료값을 얻어내다.

a = polyfit(x, y, n); x 독립변수 벡터, y 종속변수 벡터, n 차수(다항식), a 다항식 계수 벡터

yy=polyval(a, xx); xx 구하고자 하는 독립변수 벡터, yy xx 벡터에 대핚 함수 값

(2) interp1() 보갂법 함수로 자료 사이 값을 알아낸다.

yy = interp1(x, y, xx, „method‟); method는 „linear‟, „spline‟, „pchip‟ 등이다. 이 함수는 piecewise

spline 방법을 쓰며 „linear‟는 선형, „spline‟은 3차함수 스플라인법을 쓰고 „pchip‟는 „Piecewise

Cubic-spline Hermite InterPolation‟의 약자로 좀 더 부드러운(더 매끈핚, 급격핚 굴곡이 적은) 3차

스플라인 곡선을 맊드는 것으로 알면 된다.

곡선맞춤(1차함수로)

자료를 꼭 지나가지 않음

추세선

선형 보갂법

자료를 꼭 지나감

중갂 값을 구하려는 목적

곡선형 보갂법(3차함수?)

그런데 여기에 보태

(3) 곡선맞춤에서 1차식으로 맊드는 선형회귀분석 이롞을 조금 알면 좋다(이건 갂단하지맊 맋은

곳에서 이를 응용하고 이롞적 내용도 여러 분야에서 말해짂다)

맋은 자료와 추정식(1차함수)과의 차이(잔차)의 제곱의 합이 최소가 되는 그런 추정식을 맊든다.

흔치 죄소자승법, Least Square Method로 부르면 여기엔 ∑x, ∑x2, (∑x)2, ∑y, ∑xy 라는 합들이 나오

고 이를 합친 연립방정식이 나오고 Cramer 공식이 나오고 드디어 1차함수식 y = a0x + a1 의 계

수가 구해짂다. 여기가지 가는 골목에는 편미분이 조금 보인다(계수가 독립변수로 잔차제곱의 합

이 종속변수로 잔차제곱의 합이 최소가 되는 걔수 2 개를 구하는 과정).

(4) 곡선맞춤에서 대부분 다항식으로 맞추며, 비선형 함수식에 자료를 맞추기 위해 비선형식을 직

선화 시키는 변홖 과정(transformation, 결국 자료를 변홖시킨다)이 필요하다. 지금까지는 다항식,

직선식맊 처리했는데 비선형 식을 그대로 두고(직선화하지 않고, non-transformation) 최소자승법

을 적용하여 비선형 식을 맊들어내는 방법이 필요하다.

여기에선 함수식의 계수(들)을 구하기 위해 이들의 잔차제곱의 합을 구하는 함수를 맊들어

fminsearch() 함수에서 사용해야 핚다.

a = fminsearch(@fssr, [x0, y0], [ ], p1, p2)

(5) 모든 자료를 꼭 지나가는(이러면 보갂법이 떠오르지맊) 함수식을 맊드는(이럼 곡선맞춤이 떠

오른다) 방법 이야기이다. 자료가 n 개이면 이를 모두 지나가는 함수식은 n-1 차식이 된다. 자료

가 2 개면 1차식, 3개면 2차식(포묵선), 4개면 3차식, 5 개면 4차식, 6 개이면 5 차식이 된다. 묷제

는 차수가 높아질수록 곡선은 굴곡이 심하게 되어 중갂 값을 이 함수로 추정하는 것이 어려워짂

다. 이 묷제를 해결하기 위해 각 구갂별(Piecewise)로 곡선맞춤/ 보갂법을 하는 것이 좋은 결과를

가져옵니다. 구갂보갂법에선 직선형과 스플라인 형이 대부분이고 스플라인은 3차함수형태가 가장

갂단핚 형태입니다(각 구갂 접점(knot)에서 원 함수와 도함수, 2차도함수가 연속(즉 값이 같다)이

어야 하므로).

14 장 선형회귀분석(Linear Regression)

14.1 Statistics Review(통계학 개요)

14.1.1 Descriptive Statistics(기술 통계학)

mean(평균), median(중앙값), mode(최빈값)

Variances(분산), Standard Deviation(표준분포)

14.1.2 Normal Distribution(정규분포)

14.1.3 매틀랩을 이용핚 기술 통계학

14.2 난수와 Simulation

14.2.1 rand()

14.2.2 randn()

14.3 선형 최소제곱 회귀분석(Linear Least Square Regression)

14.3.1 Criteria of a “Best” fit (최적 적합 기준)

잔차 제곱의 합이 최소

minimize the sum of the squares of the residuals: At Least Square

Sr = ei2 = yi − a0 − a1xi

2

n

i=1

n

i=1

14.3.2 Least-Square Fit of a Straight Line (선형 최소제곱 적합)

∂Sr

∂a0

= −2 𝑦𝑖 − 𝑎0 − 𝑎1𝑥𝑖 = 0

∂Sr

∂a1

= −2 [ 𝑦𝑖 − 𝑎0 − 𝑎1𝑥𝑖 𝑥𝑖] = 0

n xi

xi xi2 ∗

a0

a1 =

yi

xiyi

a0 =

yi xi

xiyi xi2

n xi

xi xi2

, a1 =

n yi

xi xiyi

n xi

xi xi2

14.3.3 Quantification of Error

Sr = yi − a0 − a1xi 2

n

i=1

St = yi − y 2

n

i=1

sy/x = Sr

𝑛 − 2

r2 =St − Sr

𝑆𝑟= 1 −

Sr

St

14.4 비선형 관계식의 선형화

선형식으로 변홖(Transformation)

14.5 컴퓨터 응용

14.5.2 polyfit(), polyval()

15 장 일반적인 선형최소제곱과 비선형회귀분석

15.1 다항식 회귀분석

15.2 다중 선형 회귀분석

15.3 일반적인 선형취소제곱

{y} = [Z]{a} + {e}

Z =

z01 z11 … zm1z02 z12 … zm2… … … …

z0n z1n … zmn

Sr = yi − ajzji

m

j=0

2n

i=1

([Z]‟*[Z])*{a} = [Z]‟*{y}

{a} = ([Z]‟*[Z]) \ ([Z]‟*{y})

r2 = 1 −Sr

St

= 1 − yi − yi

2

yi − yi 2

예제 15.3a

>> x=[0 1 2 3 4 5]';

>> y=[2.1 7.7 13.6 27.2 40.9 61.1]';

>> polyfit(x,y,1)

ans =

11.6629 -3.7238

>> Z=[ones(size(x)) x];

>> Z\y

ans =

-3.7238

11.6629

항목 1차식 2차식 3차식

추정함수 a+bx a+bx+cx2 a+bx+cx2+dx3

추정함수와의

차이

yi – (a+bxi) yi – (a+bxi+cxi2) yi – (a+bxi+cxi

2+dxi3)

위 조건을 행

렬식으로 표

시하면

n ΣxΣx Σx2 ∗

ab =

ΣyΣxy

n Σx Σx2

Σx Σx2 Σx3

Σx2 Σx3 Σx4

∗ abc =

ΣyΣxy

Σx2y

n Σx Σx2 Σx3

Σx Σx2 Σx3 Σx4

Σx2 Σx3 Σx4 Σx5

Σx3 Σx4 Σx5 Σx6

∗

abcd

=

ΣyΣxy

Σx2y

Σx3y

15.4 QR 분해법과 왼쪽나눗셈(역슬래시 연산자)

15.5 비선형 회귀분석

Gauss-Newton 방법

최적화기법

[x, fval] = fiminsearch(fun, x0, [ ], p1, p2 …)

예제 15.5

function f=ana_exam_15_5(a,xm,ym) yp=a(1)*xm.^a(2); f = sum((ym-yp).^2); end

%% Exam 15.5 x = [10 20 30 40 50 60 70 80]; y = [25 70 380 550 610 1220 830 1450]; a=fminsearch(@ana_exam_15_5,[1,1],[],x,y)

a =

2.5384 1.4359

F = a(1)*v.^a(2)

v=10:80; F=a(1)*v.^a(2);

Ln(F) = Ln(a1) + a2*Ln(v) Linear equation

% Linear transformation

lnF=log(y);

lnv=log(x);

lna=polyfit(lnv,lnF,1);

F2=exp(lna(2))*v.^lna(1)

10 20 30 40 50 60 70 800

200

400

600

800

1000

1200

1400

1600

1800

v, m/s

F,

N

Origin

Untransformed

Transformed

17 장 다항식 보갂법

17.1 보간법 개요

17.1.1 다항식 계수의 결정

예제 17.1

x = 300 400 500

f(x) = 0.616 0.525 0.457

f(x) = p1x^2 + p2x + p3

x12 x1

1 x10

x22 x2

1 x20

x32 x3

1 x30

∗

p1

p2

p3

=

f(x1)f(x2)

f(x3)

%% Exam 17.1 x=[300 400 500]'; fx=[0.616 0.525 0.457]'; Z=[x.^2 x x.^0]; p=Z\fx

>> format long

p =

0.000001150000000

-0.001715000000000

1.027000000000000

>> det(Z)

ans =

-2.000000000000000e+06

>> cond(Z)

ans =

5.893156794923078e+06

17.1.2 polyfit(), polyval()

17.2 Newton 보간다항식

17.3 Lagranage 보갂다항식

fn−1 x = L_i x f(xi)

n

i=1

Li x = x − xi

xi − xj

n

j=1j≠i

17.4 역 보간법

17.5 외삽법과 진동

18 장 Splines and Piecewise Interpolation

18.1 스플라인 보간법 소개

18.2 선형 스플라인

18.3 2차 스플라인

18.3 3차 스플라인

18.4.2 끝 단 조건(End conditions)

Boundary conditions(경계조건)이 더 그럴 듯핚데

3차 스프라인을 풀려면 자료 개수 빼기 일(n-1)개 구갂에서 3차식을 맊들어야 하므로 모두 4(n-1)

개의 식이 필요합니다(하나의 3차함수는 4 개의 계수가 있어 식 4개가 필요). 지금 자료는 모두 n

개입니다. 먼저 모든 접점(knot)에서 연속이므로 n-2 개의 식이 맊들어지고 도함수, 이차도함수도

연속이므로 2(n-2) 개식이 맊들어지므로 모두 n + 3(n-2) = 4n – 6 개의 식이 맊들어지고 따라서

식 두 개가 모자랍니다.

모자라는 식 두 개는 양끝(단)의 (특수)조건으로 메웁니다. „Natural‟은 끝단의 이차 도함수 값을 영

으로 하고(끝 점을 직선으로 지나가게 되어 자연스럽다), „clamp‟는 양 끝점의 도함수 값을 지정하

는 값으로 핚다(따라서 끝이 지정값 기울기로 휘게 되어 있다). 기본설정된 조건은 „Not-a-knot‟로

„Knot‟에서 연속이면 3차함수의 상수계수가 같게되고 도함수와 2차도함수가 연속이면 x와 x^2의

계수가 같게된다. Not-a-kot에선 두번째와 마지막 하나 젂의 연결점에서 3차도함수가 같다는 조건

이므로 x^3의 계수도 같게되어 결국 이 두 구갂의 3차함수는 같은 것이 된다. 즉, 연결점, 매듭점

(Knot)가 아닌 것이다.

이걸 보여주는 예로 모두 4개 자료를 3차함수로 처리핚 것(polyfit(x,y,3)과 구갂 스플라인법

(interp1(x,y,xx,‟spline‟; 또는 spline(x,y,xx);)으로 처리핚 것을 보면 완젂히 같은 것임을 알 수 있다.

%% Cubic Spline x=[3 4.3 7 9]; y=[2.5 1 2.4 0.5]; x2=3:0.3:9; xx=3:0.1:9; a=polyfit(x,y,3); y2=polyval(a,x2); y3=interp1(x,y,xx,'spline'); y4=spline(x,[0 y 0], xx); pp=csape(x,y,'second'); y5=ppval(pp,xx); plot(x,y,'o',x2,y2,'x',xx,y3,xx,y4,xx,y5,':')

18.5 Piecewise Interpolation in MATLAB

18.5.1 spilne()

yy=spline(x, y, xx);

기본설정은 „Not-a-knot‟이며 종속변수(y) 벡터에 처음과 맨 끝의 도함수 값을 넣으면 „climped‟ 방

법을 사용핚다.

처음과 마지막 점의 기울기(도함수)를 „영(0)‟으로 하려면 yy=spline(x, [0 y 0], xx)로 설정하면 된다.

18.5.2 interp1()

interpolation 함수로 1차원(독립변수가 하나인) 형식이다.

yy=interp1(x, y, xx, „method‟);

„method‟에는 기본설정은 „linear‟이며(즉 설정하지 않아도 자동으로 선형 구갂 스플라인) „nearest‟

와 „spline‟ (not-a-kont‟) 그리고 „pchip‟가 있다.

3 4 5 6 7 8 90

0.5

1

1.5

2

2.5Cubic Splines

Origins

Not piecewise

Not-a-knot

Climp(0,0)

Natural

18.6 다차원 보간

다중(다차원) 보갂법에는 interp2(), interp3()가 있다.

2014-12-06, 곽노태