Lineaire Algebra voor ST - Technische Universiteit Eindhoven

Lineaire Algebra voor ST
docent: Judith Keijsper
TUE, HG 9.31
email: [email protected]
studiewijzer: http://www.win.tue.nl/wsk/onderwijs/2DS06
Technische Universiteit Eindhoven
college 9
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
1 / 27
Inhoud
1
Inproductruimten
2
Gram-Schmidt
3
Projectie
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
2 / 27
Inproductruimten
Stelling
Het standaard inproduct voor vectoren u, v in R2 is gedefinieerd als
v1
= u1 v1 + u2 v2
u · v = uT v = u1 u2
v2
en voldoet aan de volgende eigenschappen
(a) u · u ≥ 0 voor alle u ∈ R2 en u · u = 0 dan en slechts dan als u = 0
(b) u · v = v · u voor alle u, v ∈ R2
(c) (u + v) · w = u · w + v · w voor alle u, v, w ∈ R2
(d) cu · v = c(u · v), voor alle c ∈ R en u, v ∈ R2 .
Het standaard inproduct in R3 en algemener in Rn voldoet aan dezelfde
eigenschappen.
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
3 / 27
Definitie
Laat V een reële vectorruimte zijn. Een inproduct op V is een functie die
aan elk geordend paar vectoren u, v ∈ V een reëel getal (u, v) toekent, en
die voldoet aan de volgende eigenschappen
(a) (u, u) ≥ 0 voor alle u ∈ V en (u, u) = 0 dan en slechts dan als u = 0
(b) (u, v) = (v, u) voor alle u, v ∈ V
(c) ((u + v), w) = (u, w) + (v, w) voor alle u, v, w ∈ V
(d) (cu, v) = c(u, v), voor alle c ∈ R en u, v ∈ V .
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
4 / 27
Voorbeeld
Voor elke eindig-dimensionale vectorruimte V van dimensie n kunnen we
een inproduct definiëren in termen van het standaard inproduct in Rn : laat
S = {u1 , u2 , . . . , un } een geordende basis zijn voor V . Twee vectoren v en
w kunnen we schrijven op deze basis. Als




b1
a1
 b2 
 a2 




[v]S =  .  en [w]S =  . 
.
.
 . 
 . 
an
bn
de coördinaatvectoren in Rn zijn, dan kunnen we definiëren:
(v, w) = [v]S · [w]S = a1 b1 + a2 b2 + · · · + an bn
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
5 / 27
Voorbeeld
Behalve het standaard inproduct op R2 kunnen we ook andere inproducten
op R2 definiëren, bijvoorbeeld:
(u, v) = u1 v1 − u2 v1 − u1 v2 + 3u2 v2
Voorbeeld
Laat V de (oneindig-dimensionale) vectorruimte zijn van alle continue
reëelwaardige functies op het interval [0, 1]. Definieer op deze vectorruimte
het inproduct voor functies f , g : [0, 1] → R als volgt:
Z
(f , g ) =
1
f (t)g (t)dt
0
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
6 / 27
Definitie
Een vectorruimte met daarop gedefinieerd een inproduct heet een
inproductruimte. Een eindig-dimensionale inproductruimte heet een
Euclidische ruimte.
Definitie
De lengte van een vector u in een inproductruimte wordt gedefinieerd als
p
||u|| = (u, u)
Definitie
De afstand tussen twee vectoren u, v in een inproductruimte wordt
gedefinieerd als
d(u, v) = ||u − v||
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
7 / 27
Definitie
We definiëren de hoek tussen twee niet-nul vectoren u en v in een
inproductruimte V als die hoek θ waarvoor
cos θ =
(u, v)
en 0 ≤ θ ≤ π
||u||||v||
NB: deze definitie is correct wegens de stelling van Cauchy-Schwarz die
zegt dat
|(u, v)| ≤ ||u||||v||
voor elk tweetal vectoren u en v in een inproductruimte V . Anders gezegd,
als u, v 6= 0:
(u, v)
≤1
−1 ≤
||u||||v||
Gevolg: er is precies één hoek θ met 0 ≤ θ ≤ π zodat cos θ =
NB: θ = π2 dan en slechts dan als (u, v) = 0.
J.Keijsper (TUE)
Lineaire Algebra voor ST
(u,v)
||u||||v|| .
college 9
8 / 27
Definitie
Twee vectoren u en v in een inproductruimte V heten orthogonaal als
(u, v) = 0.
Voorbeeld
De twee functies f , g : [0, 1] → R met f (t) = t en g (t) = t − 23 zijn
orthogonale vectoren in de eerder gedefinieerde inproductruimte van
continue functies op [0, 1], want
Z
(f , g ) =
0
1
2
t(t − )dt =
3
Z
0
1
2
1
1
(t 2 − t)dt = [ t 3 − t 2 ]10 = 0
3
3
3
Definitie
Een verzameling S van vectoren in een inproductruimte heet orthogonaal
als elk tweetal vectoren uit S orthogonaal is. S heet orthonormaal als S
orthogonaal is en bovendien elke vector in S lengte 1 heeft.
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
9 / 27
Definitie
Een vector van lengte 1 in een inproductruimte heet een eenheidsvector
Voor elke vector x in een inproductruimte kunnen we een eenheidsvector u
vinden met dezelfde richting als x door x op 1 te normeren:
u=
J.Keijsper (TUE)
1
x
||x||
Lineaire Algebra voor ST
college 9
10 / 27
Voorbeeld




 
1
−2
0
x1 =  0  , x2 =  0  , x3 =  1 
2
1
0
De verzameling {x
√ 1 , x2 , x3 } is orthogonaal. Er geldt dat
||x1 || = ||x2 || = 5 en ||x3 || = 1. De vectoren
 1 


√
− √25
5




0 
u1 =  0  , u2 = 
√2
5
√1
5
zijn eenheidsvectoren in de richting van x1 respectievelijk x2 . De
verzameling {u1 , u2 , x3 } is dus orthonormaal.
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
11 / 27
Stelling
Als S = {u1 , u2 , . . . , un } een eindige verzameling orthogonale niet-nul
vectoren is in een inproductruimte V , dan is S lineair onafhankelijk.
Bewijs: stel
a1 u1 + a2 u2 + · · · + an un = 0
en neem aan beide kanten het inproduct met ui : dit geeft
ai (ui , ui ) = 0
dus ai = 0 (want ui 6= 0).
Gevolg: als je een orthogonale of orthonormale verzameling van n vectoren
kunt vinden in een inproductruimte V van dimensie n, dan vormt deze
verzameling een basis van V .
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
12 / 27
Definitie
Een geordende basis S voor een Euclidische ruimte V die bestaat uit een
orthonormale verzameling vectoren heet een orthonormale basis.
Voorbeeld
De standaardbasis in Rn is een orthonormale basis.
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
13 / 27
Het gebruik van een orthonormale basis vermindert het rekenwerk:
Stelling
Laat S = {u1 , u2 , . . . , un } een orthonormale basis voor een Euclidische
ruimte V zijn. En laat v een willekeurige vector in V zijn. Dan
v = c1 u1 + c2 u2 + · · · + cn un ,
met
ci = (v, ui ), i = 1 . . . n.
Om de coördinaatvector



[v]S = 

c1
c2
..
.





cn
te bepalen hoeft dus geen stelsel van n lineaire vergelijkingen in n
onbekenden opgelost te worden, maar moeten slechts n inproducten
uitgerekend worden.
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
14 / 27
Voorbeeld
De verzameling S = {u1 , u2 , u3 } met
 3 
 
 4 
0
−5
5
u1 =  1  , u2 =  0  , u3 =  0 
3
4
0
5
5
is een orthonormale basis voor R3 . Laat
 
1

v = 1 ,
1
dan heeft v t.o.v. de basis S de volgende coördinaten:
1
7
(v, u1 ) = 1, (v, u2 ) = − , (v, u3 ) = .
5
5
Er geldt dus
7
1
v = u1 − u2 + u3
5
5
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
15 / 27
Ook inproducten zijn erg makkelijk te bepalen voor vectoren geschreven op
een orthonormale basis:
Stelling
Laat V een Euclidische ruimte zijn en S = {u1 , u2 , . . . , un } een
orthonormale basis voor V . Dan geldt voor vectoren
v = a1 u1 + a2 u2 + · · · + an un en w = b1 u1 + b2 u2 + · · · + bn un dat
(v, w) = a1 b1 + a2 b2 + · · · + an bn
ofwel het inproduct is gelijk aan het standaard inproduct van de
coördinaatvectoren in Rn :
(v, w) = ([v]S , [w]S ).
Bewijs:
(ui , uj ) =
J.Keijsper (TUE)
1
0
als i = j
als i =
6 j
Lineaire Algebra voor ST
college 9
16 / 27
Tenslotte zijn ook lengtes van vectoren t.o.v. alle orthonormale bases
gelijk. En dus ook afstanden tussen vectoren.
Stelling
Laat S een orthonormale basis zijn voor een inproductruimte V , zodat
voor de vector v in V geldt dat


a1
 a2 


[v]S =  . 
.
 . 
an
Dan geldt voor de lengte van v:
q
||v|| = a12 + a22 + · · · + an2
Bewijs: ||v|| =
p
J.Keijsper (TUE)
(v, v) =
p
([v]S , [v]S ) = ||[v]S ||
Lineaire Algebra voor ST
college 9
17 / 27
Voorbeeld
Neem v =
1 1 1
een vector in R3 , met lengte
||v|| =
p
√
12 + 12 + 12 = 3.
Neem nu S gelijk aan de orthonormale basis

{ 0 1 0 , − 45
0
3
5
},
3
5
0
4
5
1

} Dan is [v]S =  − 15  en
7
5
r
1
7
75 √
12 + (− )2 + ( )2 =
= 3 = ||v||
5
5
25
Echter, voor de basis T = { 0 1 0 , 1 0 1 }, 0 1 1 } is
 
1
√
√
[v]T =  1  en geeft 12 + 12 + 02 = 2 niet de lengte van v. De
0
basis T is niet orthonormaal.
r
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
18 / 27
Gram-Schmidt procedure
Stelling
Laat V een inproductruimte zijn, en W 6= {0} een m-dimensionale
deelruimte van V . Dan bestaat er een orthonormale basis
T = {w1 , w2 , . . . , wm } voor W . Deze basis kan gevonden worden m.b.v.
de zogenaamde Gram-Schmidt procedure uitgaande van een willekeurige
basis S = {u1 , u2 , . . . , um } voor W .
Gevolg: elke Euclidische ruimte heeft een orthonormale basis
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
19 / 27
Gram-Schmidt procedure
Laat S = {u1 , u2 , . . . , um } een basis van W zijn.
1. Kies v1 = u1 . {v1 } is een (orthogonale) basis voor W1 =span {u1 }.
2. Zoek een vector v2 ⊥ v1 in de deelruimte
W2 = span {u1 , u2 } = span {v1 , u2 }. Door te stellen
v2 = a1 v1 + a2 u2 en (v2 , v1 ) = 0 vind je
a1 (v1 , v1 ) + a2 (u2 , v1 ) = 0 ofwel a1 = −a2
(u2 , v1 )
(v1 , v1 )
Dus met de keuze a2 = 1:
v2 = a1 v1 + u2 = u2 −
(u2 , v1 )
v1 .
(v1 , v1 )
Nu is {v1 , v2 } een orthogonale basis van W2
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
20 / 27
3. Zoek nu v3 in W3 = span {u1 , u2 , u3 } =span {v1 , v2 , u3 } met
v3 ⊥ v1 en v3 ⊥ v2 . Door te stellen v3 = b1 v1 + b2 v2 + b3 u3 en
(v3 , v1 ) = 0 en (v3 , v2 ) = 0 vind je
b1 = −b3
(u3 , v1 )
(u3 , v2 )
en b2 = −b3
.
(v1 , v1 )
(v2 , v2 )
Dus met b3 = 1:
v3 = u3 −
(u3 , v1 )
(u3 , v2 )
v1 −
v2 .
(v1 , v1 )
(v2 , v2 )
Nu is {v1 , v2 , v3 } een orthogonale basis van W3
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
21 / 27
4. Een orthogonale basis van W4 =span {u1 , u2 , u3 , u4 } is
{v1 , v2 , v3 , v4 } met
v4 = u4 −
(u4 , v1 )
(u4 , v2 )
(u4 , v3 )
v1 −
v2 −
v3 .
(v1 , v1 )
(v2 , v2 )
(v3 , v3 )
5. Zo doorgaand vinden we een orthogonale basis (want m orthogonale
dus lineair onafhankelijke vectoren)
T ∗ = {v1 , v2 , . . . , vm }
van W .
6. Een orthonormale basis T van W vinden we door elke vector in T ∗ te
normeren:
T = {w1 , w2 , . . . , wm },
met
wi =
J.Keijsper (TUE)
1
vi
||vi ||
Lineaire Algebra voor ST
college 9
22 / 27
Voorbeeld
Laat S = {u1 , u2 , u3 } met
 
 
 
1
0
0
u1 =  1  , u2 =  1  , u3 =  0 
1
1
1

1
1. Neem v1 = u1 =  1 
1
2.

 
   2 
−3
1
0
(u2 , v1 )
2
v2 = u2 −
v1 =  1  −  1  =  13 
(v1 , v1 )
3
1
1
1
3
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
23 / 27
Voorbeeld
3.
(u3 , v2 )
(u3 , v1 )
v1 −
v2
(v1 , v1 )
(v2 , v2 )
 
 2  

 
0
−3
0
1
1
1
=  0  −  1  − 32  13  =  − 12 
3
1
1
3
1
1
2
3
v3 = u3 −
6. Een orthonormale basis voor R3 is {w1 , w2 , w3 } met
 1 

√
1

w1 = √ v 1 = 
3
3
√1
3
√1
3

,
3

w2 = √ v2 = 
6
− √26
√1
6
√1
6


,


√
0
2
1 

w3 =
v 3 =  − √2 
1
√1
2
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
24 / 27
Stelling
Als V een inproductruimte is, en W is een lineaire deelruimte van V , dan
kan elke vector v in V op eenduidige wijze geschreven worden als
v =w+u
met w in W en u loodrecht op W .
Definitie
de vector w in bovenstaande ontbinding heet de loodrechte projectie
projW v van v op W .
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
25 / 27
Als {w1 , w2 , . . . , wm } een orthonormale basis is van W , dan
projW v = (v, w1 )w1 + (v, w2 )w2 + · · · + (v, wm )wm
Als {w1 , w2 , . . . , wm } een orthogonale basis is van W , dan
projW v =
J.Keijsper (TUE)
(v, w1 )
(v, w2 )
(v, wm )
w1 +
w2 + · · · +
wm
(w1 , w1 )
(w2 , w2 )
(wm , wm )
Lineaire Algebra voor ST
college 9
26 / 27
Stelling
projW v is de vector in W met minimale afstand tot v.
NB: in de ontbinding v = w + u is de vector u die loodrecht staat op elke
vector in W gelijk aan
u = v − projW v
(zie ook Gram-Schmidt procedure).
De minimale afstand van v tot een vector in W is gelijk aan de lengte van
deze vector u:
afstand(v, W ) = ||v − projW v||
J.Keijsper (TUE)
Lineaire Algebra voor ST
college 9
27 / 27