Lineaire Algebra
advertisement
Lineaire Algebra: Appendices: - Getallenverzamelingen: , , , , (natuurlijke, gehele, rationale, reële en complexe getallen) - Intervallen: a, b x : a x b a, b x : a x b a, x : a x - Complexe getallen: a bi met i 1 i 2 1, i 3 i, i 4 1 o De reële getallen zijn een deel van de complexe getallen: a + 0i o De modulus van een complex getal c x yi : c x² y ² o Het argument van een complex getal c x yi : bg tan y / x o In het complexe vlak: Afstand tot oorsprong r c x² y ² x r cos Hoek tussen voerstraal en x-as : y r sin - Koppels: o Cartesisch product: Men noemt V x W het cartesisch product van de twee verzamelingen V en W. o voor V = W: schrijft men V² i.p.v. V x V. o afbeelding: f : 2 :x y f x o Kronecker delta: : 2 0,1 : i, j 1 als i j 0 als i j i, j o Afgeleide wordt geschreven als D(f) of Df o o o o - Logica: Conjunctie: (logische ‘en’): een conjunctie is enkel waar als beide termen waar zijn, anders is het onwaar. Disjunctie: (logische ‘of’): te schrijven als p q : is enkel waar als minstens één van de twee termen waar is. Negatie: (tegenstelling): te schrijven als p Implicatie: (gevolg): te schrijven als p q . Is enkel waar als q waar is of p niet waar is: p q p q o Equivalentie: (als en slechts als) als p q en q p dan p q 1 o Rekenregels met logica: Wetten van De Morgan: p q p & q Dubbele negatie: p p p q Transitiviteit van de implicatie: q r p r - Kwantoren: o a is een element van de verzameling A: a A o A is de verzameling van alle elementen met een eigenschap P: x A : P x o Als er minstens één element bestaat met een eigenschap P: x A : Q x - Bewijs uit het ongerijmde: ~ “reductio ad absurdum”. Om te bewijzen dat een uitspraak p onwaar is. : p vormt een uitspraak q als deze waar zou zijn, pq : maar als q een tegenstrijdigheid is, q p : dan is p ook niet waar. - Volledige inductie: Om te bewijzen dat een eigenschap P(n) geld voor alle natuurlijke getallen n n0 o Initialisatiestap of basis bewijs: Bewijzen dat als het voor n=0 geldt, dat het ook voor n=1 geldt o Inductiestap: Bewijzen dat als het voor n = n geldt, dat het ook voor n = n+1 geldt 2 Hoofdstuk I: Vectorruimten: 1: Het abstracte begrip vectorruimte: NOTATIE: Vectoren: worden geschreven als vette letters of als letters met een lijn onder. Vb.: u, v, w, u, v, w. DEFINITIE (Vectorruimte): We noemen een verzameling V met elementen u, v, w,… een (reële) vectorruimte, en de elementen u, v, w,… vectoren indien er in V een inwendige samenstellingswet : V ² V V V (optelling) Is gedefinieerd die voldoet aan V 1: u v w u v w V 2 : 0 V : v V : 0 v v 0 v V 3 : v V : v V : v v v v 0 V 4 : v, w V : v w w v associativiteit nulvector tegengestelde commutatief En een uitwendige samenstellingswet. : V V (scalaire vermenigvuldiging) Die voldoet aan (we laten meestal het punt . weg) V 5 : a : v, w V : a v w av aw V 6 : a, b : v V : a b v av bv V 7 : a, b : v V : ab v a bv distributiviteit distributiviteit gemengde distributiviteit V 8 : v V :1v v De elementen van die hier optreden noemt men scalars. Extra: v w v w va av Stellingen: De nulvector is enig x, y V dan x y x y 0 r x, y V dan x y 0 x y x V dan 1 x x x V dan 0 x 0 dan r 0 0 x V dan x x 3 2. Deelruimte: DEFINITIE (deelruimte): Een deel W van een vectorruimte V noemt men een deelruimte van V indien W zelf een vectorruimte is ten opzichte van dezelfde optelling en scalaire vermenigvuldiging als in V. De vectorruimte V zelf en het singelton 0 zijn triviale deelruimten van V. Stelling: W V is een deelruimte van V asa W x, y W : x y W r : x W : r x W 3. Lineaire combinaties: DEFINITIE (lineaire combinatie): Zij V een vectorruimte en D = v1 , v2 ,..., vn een niet-ledig deel van V : D V , dan noemt men v V een lineaire combinatie van de vectoren uit D indien a1 , a2 ,..., an n : v a1 v1 a2 v 2 ... an v n met : a1 , a2 ,..., an : veranderlijke scalars v : een vector in V v1 , v 2 ,..., v n : vectoren uit deelverzameling D Anders verwoord: Een lineaire combinatie is dus een soort combinatie van een deelruimte D van V waarbij V kan beschreven worden door de som van alle vectoren in deelruimte D vermenigvuldigd met onafhankelijke scalars. DEFINITIE (lineaire combinatie): Zij V een vectorruimte en D vk : k 1, 2,3,... een deelverzameling van V, dan noemt men v V een lineaire combinatie van de vectoren uit D indien v ak v k ; ak k 1 Waarbij slechts eindig veel ak 0 verondersteld worden. Als alle ak 0 dan stelt men v 0 . Men noemt een lineaire combinatie van D V triviaal als alle ak 0 . Anders heet de lineaire combinatie niet-triviaal. 4 Stelling: De verzameling van alle lineaire combinaties van D V is de kleinste deelruimte van V die alle vectoren in D bevat. DEFINITIE (voortbrengend deel): Zij D een deel van de vectorruimte V. De kleinste deelruimte W van V die alle lineaire combinaties van D bevat noemt men de vectorruimte voortgebracht door D. Men zegt ook dat D een voortbrengend deel is van W. Men noteert: W vect D Voor het bijzondere geval dat D stelt men vect 0 Anders verwoord: Als we een hele vectorruimte V kunnen schrijven door lineaire combinaties van een deelruimte D V , dan is D een voortbrengend deel van V. V vect D Oef: we krijgen een aantal vectoren: x , y , z , x , y , z , x , y , z 1 1 1 2 2 2 3 3 3 Hiermee maken we een lineaire combinatie: a x1 , y1 , z1 b x2 , y2 , z2 c x3 , y3 , z3 x, y, z Als we voor x, y en z een waarde vinden i.f.v. a, b en c, dan zijn deze vectoren voortbrengend. Stelling: Zij D V en V een vectorruimte. Zij D een voortbrengend deel van A en A een voortbrengend deel van V, dan is D een voortbrengend deel van V. In symbolen: A vect D en V vect A V vect D 5 4. Lineaire onafhankelijkheid: DEFINITIE (lineaire onafhankelijkheid): Men noemt de vectoren D V van een vectorruimte V lineair onafhankelijk indien 0 enkel kan geschreven worden als een triviale (alle ak 0 ) lineaire combinatie van D. Men noemt D een vrij deel van V. In symbolen: als D v1 , v2 ,..., vn 0 a1 v1 a2 v2 ... an vn als alle ak 0 D onafhankelijk als a1 0 of a2 0 of ... D afhankelijk Anders verwoord: Een deelruimte D van V is lineair onafhankelijk a.s.a. de lineaire combinatie van de deelruimte F enkel de nulvector 0 wordt als alle coëfficiënten 0 zijn. Stellingen: a. een stel vectoren is lineair afhankelijk a.s.a. een van de vectoren te schrijven is als een lineaire combinatie van de andere. Afhankelijk zijn wilt dus eigenlijk zeggen dat een bepaalde v i geschreven kan worden als een lineaire combinatie van v1 , v2 ,...vi 1 , vi 1 ,...vn . b. Een stel vectoren van V is lineair onafhankelijk a.s.a. elke vector in V op ten hoogste 1 manier te schrijven is als een lineaire combinatie van deze vectoren. c. Een stel vectoren van V is lineair onafhankelijk a.s.a. voor elke lineaire combinatie ervan de coëfficiënten eenduidig bepaald zijn. 5. Basis van een vectorruimte: “Definitie”: Een basis van een vectorruimte is zowel een voortbrengend als een vrij deel. Een basis is een zo klein mogelijke verzameling vectoren die de volledige vectorruimte kunnen beschrijven. (vb: rechte: 1 vector, vlak: 2 vectoren, …) Stellingen: a. Zij A een vrij deel en v vect A , dan A v een vrij deel. Door steeds meer vectoren (onafhankelijk van A) bij het vrij deel A te voegen bekomen we een maximaal vrij deel. En dus een basis. b. Zij A een voortbrengend deel van V en stel dat v i te schrijven is als een lineaire combinatie van de andere vectoren in A, dan is Ai A \ vi nog een voortbrengend deel van V. Door steeds vectoren weg te laten, die toch voortgebracht worden door andere vectoren, bekomen we een minimaal voortbrengend deel. En dus een basis. 6 c. Zij A vk : k 1, 2,..., n een voortbrengend (resp. vrij) deel van V zij v vect A : n v ak v k met ai 0 k 1 Dan mag men in A, v i vervangen door v en dan zal Nog een voortbrengend (resp vrij) deel zijn van V. Hier wordt gewoon stelling a en b samengevoegd. DEFINITIE (basis): Een stel vectoren B ek : k 1, 2,..., n heet een basis voor V als B tegelijk voortbrengend deel en vrij deel is van V. Stelling: Als V een eindig voortbrengend deel heeft, dan - Kan men een vrij deel steeds uitbreiden tot een basis van V - Kan men het voortbrengend deel steeds reduceren tot een basis van V. DEFINITIE (eindig-dimensionale vectorruimte): Als de vectorruimte V een eindig voortbrengend deel heeft noemt men ze eindig-dimensionaal. Anders is het een oneindig-dimensionale vectorruimte. 5.2 Dimensie: Een basis is niet uniek, maar elke basis bevat voor eenzelfde vectorruimte, evenveel elementen. Dit is de dimensie van een vectorruimte. Stelling: (stelling van Grassman) Zij V een vectorruimte met eindig voortbrengend deel V dan zal een vrij deel A van V niet meer elementen hebben dan B. twee (eindige) basissen van eenzelfde eindig-dimensionele vectorruimte bevatten evenveel elementen. DEFINITIE (dimensie): We noemen het aantal elementen in een basis van een vectorruimte de dimensie van deze vectorruimte. Men noteert de dimensie van V als dimV. Per definitie stelt men dim0 0 7 Stel dat de vectorruimte V een basis heeft met n dimV elementen. Als W een deelruimte is van V, dan zal: dimW dimV Gelijkheid is slechts mogelijk a.s.a. W = V. B is een basis van V a.s.a. vect B = V en B bevat n elementen. B is een voortbrengend deel van V met n elementen. B is een basis van V a.s.a. B is een vrij deel van V en B bevat n elementen. Een stel van meer dan n vectoren uit V is nooit lineair onafhankelijk. Een stel van minder dan n vectoren uit V is nooit voortbrengend voor V. 5.3 Coördinaten: Stelling: Als B een deel is van V, dan is B een basis a.s.a. elke vector in V op juist één manier te schrijven is als een lineaire combinatie van de vectoren uit B. DEFINITIE (coördinaten): Zij B e1 ,..., en een basis van V dan is elke vector v V te schrijven op een enige manier als v a1 e1 a2 e2 ... an en We noemen a1 ,..., an de coördinaten van v ten opzichte van de basis B. 6. Isomorfe vectorruimten: = verband tussen ruimtes die dezelfde bewerkingen respecteren. Er kan dus altijd 1-1duidig overgegaan worden van een vectorruimte naar de vectorruimte van de coördinaten. Voor eenvoudige optelling/vermenigvuldiging. V W V W av bw a v b w DEFINITIE (isomorfisme): Zij een afbeelding van een vectorruimte V naar een vectorruimte W, dan noemt men een isomorfisme als - is 1-1-duidig (1 element op 1 element afgebeeld) - is lineair v, w V : v w v w a : v V : av a v Stelling: (isomorfismestelling) Een vectorruimte V van dimensie n is isomorf met de vectorruimte n . Stelling: Een isomorfisme beeld een basis af op een basis. 8 7. Projecties: DEFINITIE (som): Zij X en Y twee deelruimtes van V, dan is de som van X en Y gedefinieerd als: X Y x y : x X , y Y X Stelling: Zij X en Y twee deelruimten van V, dan zijn X Y en X Y Ook deelruimten van V. V Y Bewijs: HB p 22 - X Y V : als x, y X Y x, y X x y X x, y Y x y Y x y X Y x, y X Y analoog : a , x X Y Y ax X Y Y V => X - x y X X Y V : v x1 y1 , x1 X , y1 Y v, w X Y w x2 y2 , x2 X , y2 Y v w x1 x2 y1 y2 X Y analoog : av ax1 a y1 X Y => X Y V - Algemeen: X Y V 9 Stelling: (dimensiestelling voor deelruimten) Zij X en Y deelruimten van een eindig dimensionale vectorruimte V, dan geldt dim X Y dim X dim Y dim X Y Bewijs: HB p 23 zij BX Y omdat X e1 ,..., ek basis voor X Y V BX Y Y. uitbreiden tot basis van V . als dim X n BX e1 ,..., ek , xk 1 ,..., xn is een basis voor X als dim Y m By e1 ,..., ek , yk 1 ,..., ym is een basis voor Y BX Y e1 ,..., ek , xk 1 ,..., xn , yk 1 ,..., ym is een basis voor X Y want voortbrengend en vrij : n k ci ei i 1 i k 1 ai xi m by i i k 1 i 0 kan alleen een triviale lineaire combinatie zijn. bewijs uit ongeruimde (alle ai 0) : k v ci ei i 1 m n ax i i k 1 i bi yi i k 1 v X en v Y v X Y v te schrijven als lineaire combinatie van BX k k i 1 i 1 v di ei ci ei Y n ax i k 1 i i als er min1 ai 0 2 manieren om v X te schrijven. dit kan niet alle ai 0 k 0 ci ei i 1 m k m n a x b y c e b y i k 1 i i i k 1 i i i 1 i i i k 1 i i bi ci 0 want BY is een basis k n k k m k m n k k m n dim X dim Y dim X Y dim X Y 10 DEFINITIE (directe som): Zij X en Y twee deelruimten van V en X Y 0 , dan noemt men X+Y de directe som van X en Y en men noteert X Y . Zij X en Y deelruimten van een eindig dimensionale ruimte V, dan geldt dim X Y dim X dimY Als BX een basis is voor X en BY een basis is voor Y, dan zal BX Y BX BY een basis zijn voor X Y . Als men een vectorruimte V kan ontbinden in de directe som van twee deelruimten X en Y: V X Y , dan wordt de ruimte “ontkoppeld” in twee delen. Stelling: V X Y a.s.a. elke vector v V is op een enige manier te schrijven als v x y met x X en y Y . Bewijs: HB p 24 Bewijs uit het ongerijmde: stel ontbinding niet enig : v x1 y1 x2 y2 met x1 , x2 X , y1 , y2 Y X x1 x2 y2 y1 Y v X Y 0 x1 x2 , y2 y1 omgekeerd : v V : v x y, x X , y Y V X Y , maar als de ontbinding uniek is, X Y 0 want als z 0 zou behoren tot X dan zou v x y x z y z Y niet enig zijn DEFINITIE (projectie): Zij V X Y en zij v V zodat v x y met x X en y Y Dan noemt men x de projectie van v op X evenwijdig met Y. 11 8. Lineaire afbeeldingen: V x W f f(x) DEFINITIE (afbeelding, functionaal): Zij V en W twee vectorruimten en stel dat men een vector v V hoogstens één vector w W geassocieerd wordt. Dan noemt men f :V W : v f v een afbeelding of een functie van V naar W. In het bijzonder geval dat W= spreekt men soms van een (reële) functionaal. DEFINITIE (domein, bereik/beeld): Zij f een afbeelding van V W . Men noemt dom f de verzameling vectoren in V waarvoor f gedefinieerd is en bld f de verzameling vectoren in W die het beeld zijn onder f: bld f w W : v dom f : w f v f dom f DEFINITIE(lineaire afbeelding): Zij f : V W een afbeelding van de vectorruimte V naar de vectorruimte W, dan noemt men f lineair als: v, w V : f v w f v f w additief a , v V : f av af v De verzameling der lineaire afbeeldingen van V naar W noteert men als Lin V ,W f : V W : f is lineair Stelling: Zij f Lin V ,W dan zal f 0v 0 w DEFINITIE: (lineaire transformatie): Zij f : V W een afbeelding van de vectorruimte V naar de vectorruimte W, dan noemt men f een transformatie van V als W = V. Als f lineair is spreekt men van een lineaire transformatie. Lin V ,V f : V V : f is lineair DEFINITIE: (lineaire vorm): Als f een lineaire afbeelding is van V , dan spreekt men van een lineaire vorm. Men gebruikt eerder over een lineaire functionaal. 12 8.2 De vectorruimte Lin V ,W : Stelling: De verzameling Lin V ,W is een vectorruimte. Bewijs: HB p29 Definiëring van de optelling en de scalaire vermenigvuldiging: f g : V W : v f g v f v g v rf v rf v rf : V W : v Het nulelement: k0' : V W : v 0' met 0' nulvector van W Stelling: Als f Lin V ,W en g Lin W , X en is g f v gedefinieerd , dan kan men spreken over de de samenstelling g f : V X : v dan zal g f Lin V , X als bld f g f v . dom g Bewijs: HB p 29 - g f v w g f v g f w - g f rv r g f v Stelling: Als f , g Lin V ,W en B ek : k 1,..., n een basis voor V voor f ek g ek , k 1,..., n f g dus f v g v , v V Bewijs: HB p 30 n zij v V : v ai ei i 1 n f v ai f ei i 1 n ai g ei i 1 n g ai ei i 1 g v 13 8.3: Beeld, Kern, rang, dimensiestelling: DEFINITIE (kern): Zij f Lin V ,W , dan is de kern van f de verzameling ker f v V : f v 0' met 0' is de nulvector van W DEFINITIE (beeld): Zij f Lin V ,W , dan is het beeld van f de verzameling bld f w W : w f v ; v dom f Stelling: Zij f Lin V ,W . De verzameling bld f is een deelruimte van W en de verzameling ker f is een deelruimte van V. Bewijs: HB p 31 - bld f is een deelruimte van W: w w f v f v f v v bld f rw rf v f rv bld f Voor w1 f v1 , w2 f v2 met v1 , v2 V 1 2 1 - 1 2 1 1 2 1 ker f is een deelruimte van V: Voor v1 , v2 V , r f rv rf v r 0 ' 0 ' rv ker f f v1 v2 f v1 f v2 0 ' 0 ' 0 ' v1 v2 ker f 1 1 1 DEFINITIE (rang, corang): Zij f Lin V ,W dan noemt men - Rang van f Corang van f = dim bld f (in W) = dim ker f (in V) 14 Stelling (dimensiestelling voor lineaire afbeeldingen): Zij f Lin V ,W , dan geldt: dim ker f + dim bld f = dimV = corang f + rang f = dimV Bewijs: HB p 32 stel n dim V ker f V BN e1 ,..., ek is basis BN uitbreiden tot basis van V : BV e1 ,..., ek , vk 1 ,..., vn we moeten aantonen dat dim bld f n k we tonen aan dat f vk 1 ,..., f vn een basis is voor bld f f vk 1 ,..., f vn is een voortbrengend deel omdat w bld f v dom f V zodat w f v n k f ai ei ai vi i k 1 i 1 a f v k ai f ei i 1 i k 1 i i a f v n 0 ' i k 1 n i i a f v n i k 1 i i 0 ' b f v f vk 1 ,..., f vn is een vrij deel want stel dat n i k 1 i i n f bi vi i k 1 n b v ker f i k 1 i i dit kan enkel als bi 0, i k 1,..., n omdat e1 ,..., ek een basis is voor ker f en geen enkele van de vi in ker f zit . 15 9. Lineaire vergelijkingen: DEFINITIE (lineaire vergelijking): Zij f Lin V ,W dan noemt men f x b, b W Een lineaire vergelijking van x . Met het oplossen van deze vergelijking bedoelt men dat het opzoeken van alle x dom f V zodanig dat aan f x b voldaan is. Als b 0' noemt men de vergelijking niet homogeen. Als b 0' noemt men de vergelijking homogeen. 9.2 Oplossing: - b behoort niet tot bld f : b bld f : dan is er geen enkele x V die op b wordt afgebeeld. De verzameling der oplossingen is leeg. b behoort tot bld f : b bld f : er bestaat ten minste 1 oplossing want er bestaat dan volgens de definitie een x0 dom f V zodat f x0 b . Oplossingsmethode: 1. Zoek één oplossing x0 van de niet homogene vergelijking f x b Dit is de particuliere oplossing 2. Zoek alle oplossingen van de homogene vergelijking f x 0' . Dit is dus het zoeken naar de kern van f die beschreven wordt door zijn basis. 3. Alle oplossingen van f x b worden dan gegeven door x0 ker f x0 n, n ker f Affiene vectorruimte: Dit is geen echte vectorruimte maar wel een verwante met een bepaalde vectorruimte. 0vectorruimte. Voor een rechte: p p0 et : t k Algemeen: p p0 eiti : ti i 1 16 10. Lineaire transformaties: Dit zijn lineaire afbeeldingen van een vectorruimte op zichzelf: V V Als de lineaire transformatie f van V 1-1-duidig* bepaald is, dan is deze transformatie inverteerbaar. f 1 y x y f x *( met elke vector in V stemt juist één element van V overeen, en omgekeerd, dat elke beeldvector van f afkomstig is van juist één element in V) Stelling: Een transformatie f Lin V ,V is inverteerbaar ker f 0 rang f dim V f beeldt een basis van V af op een basis van V Een lineaire inverteerbare transformatie noemen we ook een (lineaire) basistransformatie. 17 18 Hoofdstuk II: Matrixrekenen: 1. De matrixalgebra: DEFINITIE (matrix): We noemen een m x n matrix elke rechthoekig schema van reële getallen aij. a11 a12 ... a1n a a22 ... a2 n 21 A a ij am1 am 2 ... amn i = rij-index j = kolom-index afmeting m x n = orde van de matrix (m = rij, n = kolom) m n = verzameling van matrices met orde m x n DEFINITIE (som, scalaire vermenigvuldiging): We definiëren de som van twee matrices A aij mn en B bij mn als de matrix C cij mn met cij aij bij , i 1,..., m ; j 1,..., n We definiëren voor r en A aij mn de scalaire vermenigvuldiging rA als rA C cij met cij raij , i 1,..., m ; j 1,..., n Stelling: Met de vorige bewerkingen wordt m n een vectorruimte van dimensie mn. DEFINITIE (rijmatrix, kolommatrix): We noemen A mn een kolommatrix als n = 1 en een rijmatrix als m = 1. Als n = m spreken we van een vierkante matrix. DEFINITIE (diagonaalmatrix, eenheidsmatrix): We noemen een vierkante matrix A nn een diagonaalmatrix als hij van de a1 0 0 vorm 0 0 is. = diag (a11 , a22 ,..., ann ) . 0 0 an Een diagonaalmatrix met aii = 1, i = 1,…,n noemt men een eenheidsmatrix In. 19 mn DEFINITIE (transpose): Zij A aij mn dan noemen we transpose van de matrix A, de matrix AT nm . DEFINITIE ((scheef/anti)symmetrisch) We noemen een vierkante matrix A mn symmetrisch indien AT = A. De matrix heet scheef/antisymmetrisch als AT = -A A B T AT BT DEFINITIE (matrixproduct): Zij A mn en B dan is het product AB van A aij en B bij gedefinieerd als de matrix C cij m p met als elementen: n p cij ai1b1 j ai 2b2 j ... ainbnj ; i 1,..., m ; j 1,..., p Men drukt dit kort uit door te zeggen dat het element cij van AB bekomen wordt door rij i van A met kolom j van B vermenigvuldigen. a1n b1 j c1 j a11 am1 amn bnj cim Belangrijk: A evenveel kolommen als B rijen A evenveel rijen als C rijen Stelling: Als we n identificeren met n1 en mA : n m : X AX een lineaire afbeelding zijn : mA Lin Stelling: zij A1 , A2 mn , B1 , B2 n p , r m m1 met n , m , dan zal de afbeelding . dan zal A1 A2 B1 A1B1 A2 B1 A1 B1 B2 A1 B1 A1B2 rA1 B1 r A1B1 T AB BT AT !!!! productproduct is NIET commutatief: AB ≠ BA als AB = AC Dan is B niet noodzakelijk gelijk aan C. Stelling: Als A, B mn en AV = BV voor alle V n1 dan zal A = B 20 DEFINITIE (inverse matrix): Men noemt een vierkante matrix A B n n bestaat zodat n n inverteerbaar als een matrix AB BA I n B A1 Een inverteerbare matrix noemt men regulier. Een niet inverteerbare matrix noemt men singulier. Stelling: zij A, B nn inverteerbare matrices, dan zal AB B 1 A1 1 (volgorde!!!) AT A1 1 T A 1 A 1 Stelling: Een vierkante matrix A n n is inverteerbaar A n lineair onafhankelijke rijen heeft A n lineair onafhankelijke kolommen heeft 21 2. Verband matrices en lineaire afbeeldingen: Het verband tussen een lineaire afbeelding f Lin V ,W en een matrixvermenigvuldiging is de isomorfismestelling. dim V n , dim W m De afbeelding x V met f x y W Dan krijgen we: f v a f v1 a11 w1 a21 w2 ... am1 wm 2 12 w1 a22 w2 ... am 2 wm f vn a1n w1 a2 n w2 ... amn wm Of kort f V W A a11 met V v1 , v2 ,..., vn , W w1 , w2 ,..., wm en A a m1 a1n amn Met W een basis n Hiermee krijgen we: f V akj wk k 1 Als nu n x xi vi V X met X x1 , x2 ,..., xn T i 1 m y yi wi WY met Y y1 , y2 ,..., ym T i 1 dan is f x f V X f V X W AX y WY Omdat W een basis is: Y = AX DEFINITIE (matrixvoorstelling): Zij f Lin V ,W , dan noemen we de hiervoor geconstrueerde matrix A mn de matrixvoorstelling van f t.o.v. de basis V in V en basis W in W. 22 Stelling: - Zij f , g Lin V ,W . Kies een basis V in V en de basis W in W. Zij A en B de matrixvoorstellingen van f en g t.o.v. deze basissen, dan geldt dat voor a,b de matrixvoorstelling van a.f + b.g gegeven worden door aA + bB. - Zij f Lin V ,W en g Lin W , X en zij g f Lin V , X gedefinieerd. Ten opzichte van gekozen basissen in V, W en X, stel dat de matrixvoorstelling van f, A is en van g, B is, dan zal de matrixvoorstelling van g f gegeven worden door het matrixproduct BA. Gevolg: Als f een inverteerbare transformatie is van V met matrixvoorstelling A, dan zal de matrixvoorstelling van f 1 gegeven worden door A1 . 3. Rijruimte en kolomruimte: DEFINITIE (kolomruimte, rijruimte): De vectorruimte voortgebracht door de kolommen van een matrix noemen we de kolomruimte. Het is een deelruimte van m 1 . De vectorruimte voortgebracht door de rijen van een matrix noemen we de rijruimte. Het is een deelruimte van 1 n . DEFINITIE(kolomrang, rijrang): Zij A mn dan noemt men de dimensie van de kolomruimte de kolomrang van A en de dimensie van de rijruimte de rijrang van A. 23 4. Basisalgoritme: = wegwerken van afhankelijke rijen/kolommen. enkel nog onafhankelijke/ voortbrengende rijen/kolommen over. DEFINITIE (rijechelon vorm): Een matrix staat in rijechelon vorm als hij van de vorm is: 0 1 x 0 x 0 x 0 x 0 x 0 1 x 0 x 0 x 0 x 1 x 0 x 0 x 1 x 0 x 1 x eerste r rijen zijn verschillend van 0, overige m - r rijen zijn 0. Het eerste van nul verschillend element is 1 Boven en onder deze enen staan er overal nullen. Rijechelon vorm bekomen door elementaire rij-bewerkingen: - Ti(a): rij i vermenigvuldigen met a - Tij(a): Ai = Ai + aAj, a - Tij: omwisselen van rij i met j Stelling: De rijen van de matrix A zijn lineair onafhankelijk a.s.a. in de rijechelon vorm van de matrix A geen nulrijen voorkomen. 5. Elementaire matrices: = de matrixvoorstellingen van de elementaire lineaire transformaties. Stelling: De elementaire matrices zijn inverteerbaar. 24 6. Equivalente matrices: DEFINITIE (equivalente matrices): - We noemen een matrix A rij-equivalent met matrix B, indien er een reguliere (= inverteerbare) matrix T bestaat zodanig dat B = TA. - We noemen een matrix A kolom-equivalent met matrix B, indien er een reguliere (= inverteerbare) matrix S bestaat zodanig dat B = AS. - We noemen een matrix A equivalent met een matrix B, indien er reguliere matrices T en S bestaan zodanig dat B = TAS Deze matrices zijn: - Reflexief: A is (rij/kolom) equivalent met zichzelf: A = AI = IA - Symmetrisch: als A (rij/kolom) equivalent is met B, dan is B ook (rij/kolom) equivalent met A: B = TA A = T-1B - Transitief: als A (rij/kolom) equivalent is met B en B (rij/kolom) equivalent is met C, dan is A (rij/kolom) equivalent met C. Stelling: Elke matrix A mn is rij-equivalent met zijn rijechelon vorm. Gevolg: Een matrix A n n is regulier a.s.a. A is te schrijven als een product van elementaire matrices. TA = In = AT met T is het product van al de elementaire matrices. T is de inverse van A. 6.3 behoud van rang: Stelling: Rij-equivalente matrices hebben dezelfde rijrang. Kolom-equivalente matrices hebben dezelfde kolomrang. 6.4 canonieke vorm voor equivalentie: Stelling: I is equivalent met een matrix van de vorm C r 0 waarin r het aantal lineair onafhankelijke rijen is in A (= rijrang A). Een matrix A mn 0 0 DEFINITIE (canonieke vorm): We noemen de matrix C uit de vorige stelling de canonieke vorm van de matrix A onder equivalentietransformaties. 25 7. Rang van een matrix: Stelling: Voor A m n geldt dat Rijrang A = kolomrang A = rang A Bewijs: HB p 64 Volgens de voorgaande stelling 6.4 is een matrix A equivalent aan zijn canonieke vorm. Dit wil zeggen dat er reguliere matrices T m m en S n n bestaan zodat: I 0 C TAS r 0 0 Dus voor de canonieke vorm geldt dus duidelijk dat Rijrang C = kolomrang C = r = rijrang A Omdat kolomtransformaties de kolomrang behouden: Kolomrang A = kolomrang AS Vermits AS = T-1C hebben we Kolomrang A = kolomrang AS = kolomrang T-1C Als we nu T-1C uitschrijven krijgen we: I 0 1 T 1C T 1 ,..., T 1 r T ,..., T 1 , 0,..., 0 1 m 0 1 r 0 Waaruit we kunnen afleiden dat T-1C bestaat uit de eerste r kolommen van de reguliere matrix T-1 en voor de rest nulkolommen. De kolommen van een reguliere matrix zijn onafhankelijk dus is de kolomrang van T-1C gelijk aan r. kolomrang T-1C = kolomrang A = r = rijrang A. Als A de matrixvoorstelling is van f Lin V ,W dan is mA : n 1 m 1 :X AX het isomorfe equivalent van f : V W : x f x . Vermits ook bld f W isomorf is met bld mA m 1 zal de rang van A ook gelijk zijn aan rang f dim bld f dim bld mA kolomrang A rang A Stelling: De rang van de lineaire afbeelding f Lin V ,W en de rang van de matrixvoorstelling ervan in willekeurige basissen zijn dezelfde. DEFINITIE (volle rang): We zeggen dat een matrix A m n van volle rang is als de rang zijn maximale waarde aanneemt: rang A = min(m,n). (de rang van A is dus ten hoogste gelijk aan het aantal rijen/kolommen) 26 Stelling: We hebben rang AB rang A en rang AB rang B Bewijs: Vermits de kolommen van AB lineaire combinaties zijn van de kolommen van A is de kolomruimte van AB een deel van de kolomruimte van A. rang AB dim kolomruimte AB dim kolomruimte A rang A Bij gelijkheid geldt: rang AB rang A als B regulier is. 8. Basistransformaties: = hiermee gaan we over van de ene basis op de andere: Zij f Lin V ,W . Kies een basis V van V en een basis W van W. Zij A de matrixvoorstelling van f t.o.v. deze basissen: f V W A Als s Lin V ,V een inverteerbare transformatie van V die de basis V omzet in V ' : V ' s V dus V ' SV Als t Lin W ,W een inverteerbare transformatie van W die de basis W omzet in W ' : W ' t W dus W ' WT of W W 'T 1 Nu is de matrix A’ (de matrix t.o.v. de nieuwe basissen V ' en W ' ) gelijk aan: f V ' f V S f V S W AS W ' T 1 AS W ' A' A ' T 1 AS is de matrixvoorstelling van f t.o.v. de basissen V ' en W ' . Stelling: Twee matrices zijn equivalent a.s.a. ze de matrixvoorstelling zijn van eenzelfde lineaire afbeelding maar t.o.v. verschillende basissen. Algemeen: AX B andere basis T 1 AS S 1 X T 1B A' X ' B' 27 28 Hoofdstuk III: oplossen van stelsels: Algemeen: Een lineaire vergelijking f x b met f Lin V ,W oplossen 1. Kies een willekeurige basis in V en in W. 2. Dit brengt ons tot een willekeurig lineair stelsel AX = B met m vergelijkingen en n onbekenden. 3. Breng A in zijn rijechelon vorm C = TA 4. Pas dezelfde transformatie ook toe op B: D = TB 5. Nu is AX = B equivalent aan CX = D 6. Los CX = D in rijechelon vorm op. 0 1 x 0 x 0 x 0 x 0 1 x 0 x 0 x 1 x 0 x C 1 x T D d1 , d 2 ,..., d m Als m > r (rang C) dan zijn er m – r nulrijen. dr+1 = … = dm = 0 Stel m = r: 2 gevallen: - Alle andere xi = 0: xk1 d1 0 x 0 x 0 x 0 x 1 x 0 0 mn xk 2 d 2 xk r d r - Ander willekeurige keuze xi, i k1 ,..., kr xk1 d1 c1i xi iI xk2 d 2 c2i xi iI xkr d r cri xi iI I 1, 2,..., n k1 ,..., kr DEFINITIE (hoofd-, nevenonbekenden): De onbekenden xi met indices i = k1, …,kr zijn de hoofdonbekenden van het stelsel. De andere xi noemen we de nevenonbekenden. Als het stelsel oplossingen heeft, dan kunnen we de nevenonbekenden vrij kiezen en de hoofdonbekenden zijn dan eenduidig bepaald als functie van de nevenonbekenden. 29 2. Nulruimte (homogeen stelsel): DEFINITIE (nulruimte): We noemen (rechtse) nulruimte van een matrix A X n 1 m 1 : AX 0 mn de verzameling De nulruimte van A is dus hetzelfde als de kern van m A waarbij mA n 1 m 1 :X AX De nulruimte N A van A wordt dus ook wel de kern van A genoemd. Andere basis zoeken: Oplossing van mA X B is X P ker mA . Hierbij is X P de particuliere oplossing van mA X B En ker mA de homogene oplossing van mA X 0 We gaan naar de canonieke vorm door middel van de permutatiematrix P: 1 0 0 0 1 a 0 b 1 0 a b 0 0 1 0 0 0 1 d P 0 1 0 d I | C met P n 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 (om kolom 2 met kolom 3 te wisselen) C De basis van de nulruimte NA is nu: P. In 3. Oplossen van een willekeurig stelsel: DEFINITIE (uitgebreide matrix): Voor het stelsel AX=B met A m n , noemt men de matrix A | B die ontstaat dor de kolom B achter A aan te plakken de uitgebreide matrix van het stelsel. Stelling (stelling van Rouché): AX=B is een stelsel met m vergelijkingen en n onbekenden: - Stelsel is strijdig rang A | B rangA Gevolg: Stelsel is oplosbaar rang A | B rangA Er zijn n-r nevenonbekenden rang A | B rangA r Er is juist één oplossing rang A | B rangA n Is A m n van rang r, dan is dim X n : AX 0 dim ker A n r n rang A 30 4. Oplossen van een regulier stelsel volgens Gauss: We hebben het stelsel AX = B met A n n en regulier. De eliminatiefase: - Transformeer A | B zodanig dat A in bovendriehoeksvorm komt. x x | x | x x x | 0 x | x - Hier bekomen we dan RX = B’ Met TA = R = bovendriehoeksmatrix en B’ = TB x x De substitutiefase: - Het oplossen van de bovendriehoeksstelsel. r11 x1 r12 x2 ... r1n xn b1' r22 x2 ... r2 n xn b2' hieruit kunnen we xn oplossen, daarna xn-1, … rnn xn bn' 5. Inverteren van een matrix: We zoeken de inverse van A A | I n n 2n nn : (Gauss Jordan) In | D D A1 6. Oplossen van meerdere stelsels: We hebben het stelsel AX = B met A A | B nn en regulier, X en B nm . In | D DX 31 7. De LR-ontbinding (= driehoekige factorisatie) van een matrix: We zoeken eerst de bovendriehoeksmatrix R van de matrix A. Deze bekomen we door Transformaties (samen gezet in matrix T) en permutaties (samen in matrix P) uit te voeren op A: TPA = R of PA = T-1R 1 m 1 21 -1 =L T is een matrix van de vorm: 1 mn1 mn 2 Met ééntjes op de diagonaal en –mij is de tegengestelde van de multiplicator nodig om de nul op positie (i,j) in de matrix A te bekomen. L is de benedendriehoeksmatrix. Het resultaat: PA LR met P permutatiematrix A oorspronkelijke matrix L T 1 benedendriehoeksmatrix R bovendriehoeksmatrix Stelling: Zij A n n regulier. Dan bestaat er een permutatiematrix P, een eenheidsbenedendriehoeksmatrix L en een bovendriehoeksmatrix R zodanig dat: PA = LR Bewijs: HB p 82 Dit is hierboven eigenlijk weergegeven: - Eerst past men alle nodige rijverwisselingen toe op A, dit geeft P. - Dan past men op PA enkel nog elementaire operaties toe van type2 (Tij(a)) - Door de inverse hiervan op de eenheidsmatrix toe te passen krijgt men L. - Het resultaat van deze eliminatie op PA toegepast is de rijechelon vorm R van A. Nut van LR ontbinding: Voor het oplossen van meerdere stelsels waarbij we niet telkens hetzelfde stelsel kunnen gebruiken. Vb: AX k X k 1 Oplossing: we passen eerst de methode van Gauss toe op A | X 0 en we onthouden alle rijverwisselingen (in P) en alle multiplicatoren mij (in L) Dan: AX k X k 1 PAX k PX k 1 LRX k PX k 1 Als dan Yk RX k dan moeten we eerst LYk PX k 1 oplossen en dan Yk RX k . Deze twee vergelijkingen kunnen we door substitutie oplossen. 32 8. Determinanten: DEFINITIE(determinant): De determinantfunctie is een afbeelding nn det : : A det A a b c a b c det d e f d e f a ei fh b di fg c dh eg g h i g h i cofactor minor DEFINITIE (minor, cofactor): De minor Mij van een element aij uit de matrix A is de determinant van de matrix die men bekomt door in A rij i en kolom j te schrappen. i j De cofactor Aij is dan gedefinieerd als Aij 1 M ij . DEFINITIE (regel van Laplace): Voor A n n geldt: n n i 1 i 1 det A aij Aij aij 1 Stellingen: i j M ij , 1 j n det I n 1 A1 A1 A1 det Ai Bi det Ai det Bi An An An det A B det A det B det A 0 A heeft twee gelijke rijen A heeft een nulrij de rijen van A zijn lineair afhankelijk ( 2 gelijke rijen) de matrix van A is singulier als A regulier is det A1 1/ det A det Tij A det A det Tij m A m det A det Ti r A r det A det AB det A det B det A det AT det rA r n det A det A det LR det L det R det R 33 Kronecker delta: : Gevolg: Voor A nn n a i 1 2 ij 0,1 : i, j 1 als i j 0 als i j i, j en met Aij de cofactor van aij geldt: Aik ik det A 9. Praktische berekening van een determinant: Stelling: De determinant van een (boven/beneden)driehoeksmatrix is gelijk aan het product van zijn diagonaalelementen. a b c det 0 d e a(bf 0e) b(0 0d ) c(0 d ) adf 0 0 f Bewijs: HB p 87 Gewoon uitrekenen zoals hierboven 9.2 Determinant van Vandermonden: 1 x0 x0n 1 x1 x1n V xnn 1 xn Gauss 1 x0 1 R det V x x met k xk x0 xk x1 ... xk xk 1 n x0n n 1 x j k ;1 k n k n 0 xj = product 34 10. Regel van Cramer: DEFINITIE (geadjudeerde): T , dan noemt men de matrix adjA Aij waarvan Aij de cofactor is van aij, de geadjudeerde matrix van A. Zij A nn Stelling: Zij A nn regulier, dan is A1 adj A / det A Bewijs:HB p 90 Gevolg van 8: a11 A . adj A am1 a1n A11 amn Am1 A1n det A Amn det A I n det A Stelling (regel van Cramer): adj A B, det A Of als we de matrix Bj definiëren als de matrix A waarin we kolom j det B j vervangen door B, dan is X det A Zij AX = B een stelsel met A nn regulier, dan is X Bewijs: HB p 90 Uitschrijven van Bj en ontwikkelen volgens de j-de kolom. n Resultaat: det B j bi Aij j de component van adj A B i 1 Delen door det A 35 36 Hoofdstuk IV: eigenwaardeproblemen: DEFINITIE (eigenwaarde , eigenvector x , spectrum): Zij f Lin V ,V een lineaire transformatie van de vectorruimte V. een vector x waarvoor f x x, , x 0 noemen we een eigenvector van f en λ de bijbehorende eigenwaarde. De verzameling der eigenwaarden van f noemt men het spectrum van f. Door isomorfisme: AX X , , X 0 Algemeen: A I X 0 Omdat 0 X ker A I wil dit zeggen dat A I singulier is. det A I 0 (voor het berekenen van eigenwaarden) Lemma: det A I is een veelterm van graad n in λ. Hij is van de vorm p pn n pn 1 n 1 ... p0 met pn 1 en p0 det A n Bewijs: HB p 93 - Determinant uitrekenen. - We zien direct dat het een veelterm wordt i.f.v. λ. Als λ = 0 => p0 det A . - Bewijzen dat pn 1 n o We delen de determinant van A door n door alle elementen van de matrix door λ te delen (een stelling v determinant). o Als alle dan zijn alle aij / 0 . o Er blijft enkel nog -1 staan op de diagonaal. n o Dus is de determinant gelijk aan 1 . o Dus is m = n => pn 1 - n Als m < n: n p nul worden als Als m > n: dan wordt het oneindig. Elke veelterm p van graad n heeft n wortels: 1 , 2 ,..., n : p pn n pn 1 n 1 ... p0 pn 1 2 ... n met p det A I en pn 1 n det A I 1 1 ... n n 1 ... n 37 DEFINITIE (karakteristieke veelterm): Zij A n n , dan noemt men de veelterm van graad n in λ gegeven door p det A I de karakteristieke veelterm van A. De vergelijking p 0 is de karakteristieke vergelijking. Als de eigenwaarde gevonden is, dan kan men alle eigenvectoren vinden: A I X 0 DEFINITIE (eigenruimte): De vectorruimte bestaande uit de nulvector en alle eigenvectoren horend bij eenzelfde eigenwaarde λ noemt men de eigenruimte van A. Dit is de nulruimte van A I . 2. Eigenschappen: Stelling: De eigenwaarden van een (boven/ beneden)driehoeksmatrix zijn gelijk aan de diagonaalelementen. Bewijs:HB p 96 Direct gevolg van determinant van driehoeksmatrix (= det op diagonaal): det A I a11 ... ann DEFINITIE (spoor): Men noemt het spoor van een matrix A diagonaalelementen. nn de som van zijn Stelling: De som van de eigenwaarden van A n n is gelijk aan het spoor van de matrix en het product van de eigenwaarden is gelijk aan zijn determinant. n n n i aii i 1 en i 1 i 1 i det A Bewijs: HB p 96 n - i 1 i det A : det A I 1 ... n is al bewezen, als λ = 0 dan is het tweede deel bewezen. n - n a i 1 i i 1 ii : Elke matrix equivalent met driehoeksmatrix, en eigenwaarden bij driehoeksmatrix = diagonaalelementen. 38 n Gevolg van i 1 i det A : Een matrix A is regulier (inverteerbaar) al zijn eigenwaarde verschillend zijn van nul. Stelling: Zij λ een eigenwaarde van A, dan is λk een eigenwaarde van Ak. De eigenvectoren blijven ongewijzigd. Dit is ook waar voor k < 0 als A regulier is. Bewijs: HB p 97 Uit AX X volgt voor k > 0: Ak X Ak 1 AX Ak 1 X ... k X Voor k = 0 is dit triviaal Voor k < 0: A k X A1 X k X k Gevolg: als p(x) een veelterm is in x, dan zal voor AX X : p A X p X Bewijs:HB p 97 n n n n p A X ai Ai X ai Ai X ai i X ai i X p X i 0 i 0 i 0 i 0 Stelling: De eigenwaarden van A en AT zijn dezelfde maar de bijbehorende eigenvectoren zijn in het algemeen verschillend. Bewijs: HB p 97 T Gevolg van det A I det A I det AT I 3. Matrices van eenvoudige structuur: DEFINITIE (algebraïsche (α), meetkundige (μ) meervoudigheid): Men zegt dat een eigenwaarde λ een algebraïsche meervoudigheid α heeft indien λ een α-voudige wortel is van de karakteristieke vergelijking. Men zegt dat de meetkundige meervoudigheid van een eigenwaarde λ gelijk is aan μ indien μ de dimensie is van de bijhorende vectorruimte. Anders verwoord: αi = # keer dat λi voorkomt in de veeltermontbinding van het determinant. μi = # lineair onafhankelijke eigenvectoren dat uit λi kan gevormd worden om A te beschrijven. 39 Stelling: De meetkundige meervoudigheid is altijd kleiner dan of gelijk aan de algebraïsche meervoudigheid: 1 i i Stelling: De eigenruimtes E1,E2,…,Em die horen bij onderling verschillende eigenwaarden λ1, λ2,…, λm zijn lineair onafhankelijk. Bewijs: HB p 98 - We bewijzen dit voor een lineaire transformatie f Lin V ,V , via het isomorfisme geldt dit ook voor de matrixvoorstelling ervan. - Kies uit elke eigenruimte Ei een eigenvector v i . - We moeten dan aantonen dat deze lineair onafhankelijk zijn: m a v i i 1 - i 0 ai 0, i 1,..., m Bewijs uit ongerijmde: o Stel we hebben k vectoren (dit is het kleinste aantal) waarvoor k a v i 1 i i 0 en ai 0, i 1,..., k We passen hierop f toe: k k k 0 f 0 f ai vi ai f vi ai i vi i 1 i 1 i 1 a11 v1 a22 v 2 ... ak k v k 0 Maar ook m a v i i 1 i 0 vermenigvuldigd met λ k: a1k v1 a2k v 2 ... ak k v k 0 o Als we deze twee van elkaar aftrekken: a1 1 k v1 a2 2 k v2 ... ak 1 k 1 k vk 1 0 Dus vk is onafhankelijk van de rest. En zo is voor nog een kleinere k al de andere vi onafhankelijk. o Hierin zijn alle ai i k 0 . dit is in tegenstrijd met onze veronderstelling dat k het kleinste aantal was waarvoor dit geldig was. Stelling: Als λ1, λ2,…, λm de onderling verschillende eigenwaarden zijn van de matrix A n n en als voor elke λi de meetkundige meervoudigheid i gelijk is aan de algebraïsche meervoudigheid i , dan heeft n 1 een basis van eigenvectoren. Bewijs: p99 Omdat m m i 1 i 1 i n i n In elke eigenruimte i onafhankelijke eigenvectoren die volgens vorige stelling ook onderling onafhankelijk zijn. We hebben dus n onafhankelijke eigenvectoren in n 1 . Dit is dus een basis. 40 DEFINITIE (eenvoudig structuur): We noemen een matrix A n n van eenvoudige structuur indien hij n lineair onafhankelijke eigenvectoren heeft. 4. Gelijkvormige matrices: DEFINITIE (gelijkvormig): We noemen vierkante matrices A en B gelijkvormig indien er een reguliere matrix T bestaat zodanig dat T 1 AT B Stelling: Twee matrices zijn gelijkvormig indien ze eenzelfde lineaire transformatie voorstellen, eventueel ten opzichte van een ander basis. Gevolg: Uit AX X volgt dat TAT 1 TX TX Dus de eigenwaarde blijft dezelfde en de elementen van de eigenvector TX zijn de coördinaten van x t.o.v. een nieuwe basis. 5. De eigenwaardeontbinding: Als er genoeg eigenvectoren zijn Stelling: Een matrix is van eenvoudige structuur a.s.a. hij gelijkvormig is met een diagonaal matrix . 1 1 T AT met n En op de ide kolom van T staat een bijhorende eigenvector. Bewijs: p100 Stel dat A n lineair onafhankelijke eigenvectoren Xi, i = 1,…,n heeft: AX i i X i dan X i T DEFINITIE (eigenwaardeontbinding): Als A n n van eenvoudige structuur is, dan noemt men een ontbinding van de vorm A T T 1 een eigenwaardeontbinding van A. DEFINITIE (diagonaliseerbaar): Men noemt een matrix diagonaliseerbaar als hij gelijkvormig is met een diagonaalmatrix. 41 Stelling: Voor een diagonaliseerbare matrix is zijn rang gelijk aan het aantal van nul verschillende eigenwaarden. Bewijs: Een matrix is diagonaliseerbaar hij van eenvoudige structuur is. Omdat A en gelijkvormig zijn, en dus ook equivalent zijn, hebben ze dezelfde rang. 6. Jordanvorm: Nodig voor het zoeken van hoofdvectoren voor ontbinding. Als i i , dan moeten er voor de eigenwaarde i nog extra basisvectoren gezocht worden, dit doen we met de Jordanvorm. Stelling (Jordanvorm): Zij A nn met karakteristieke veelterm p 1 1 2 2 ... m m Met alle eigenwaarden 1 , 2 ,..., m verschillend met elk hun algebraïsche meervoudigheid i . Zij i i de meetkundige meervoudigheid van i (dus het aantal lineair onafhankelijke eigenvectoren dat men bij i kan vinden). Dan is A gelijkvormig met een matrix van de vorm: B1 i 1 J ij B2 i J met Bi met J ij 1 J ii B i m Bi is een blokdiagram met m blokken( 1 blok per eigenwaarde i ). Het blok Bi is van orde i . Bi bestaat uit i blokken Jij. Jij is een erboven. i i matrix en bestaat uit de eigenwaarde i op de diagonaal en 1 De gelijkvormigheidsmatrix T uit T 1 AT J schrijven we als: T T1 | T2 | ... | Tm Ti Ti1 | Ti 2 | ... | Tii T heeft dus met m kolommen (1 per eigenwaarde) Ti heeft i kolommen. Hij heeft evenveel blokken als de orde van Jij: ij 42 Uit de relatie AT = TJ halen we ATi Ti Bi en ATij Tij J i j Dit betekent dat de eerste kolom van Tij een eigenvector is die hoort bij i . Stel dat Jij en dus ook Tij ij kolommen heeft noteer voor 1 k ij met Hk de k-de kolom van Tij, dan geldt namelijk door het uitwerken van ATij Tij J i j : AH1 i H1 AH 2 H1 i H 2 AH k H k 1 i H k 1 k ij of nog : A i I H1 0 A i I H k H k 1 1 k ij dus A i I Hk 0 1 k ij We noemen Hk een hoofdvector van orde k. Het is een vector die voldoet aan k k 1 A i I H k 0 maar waarvoor A i I H k 0 . k Omdat T inverteerbaar is, vormen alle kolommen van T( = de hoofdvectoren) een lineair onafhankelijk stel, dus een basis. 43 44 Hoofdstuk V: Euclidische vectorruimte: = een vectorruimte waarin een inwendig product gedefinieerd is. Complexe getallen: z a bi z a bi A AH A T hermitisch toegevoegde DEFINITIE (norm): Een norm voor een vectorruimte V is een afbeelding met reële waarden: . :V : x x die voldoet aan N1: x 0 x V ( positief ) N2: x 0 x0 (definiet ) N3: ax a x , x V , a N4: x y x y , 3 bepaalde normen: 1 norm : x 1 xi oneindige norm : x 2 norm : x, y V max xi x2 x 2 i DEFINITIE (eenheidsvector): Een vector van norm 1 noemen we een eenheidsvector. Door een vector x 0 te delen door zijn norm verkrijgen we een eenheidsvector. Men noemt dit het normeren van de vector. x/ x DEFINITIE (afstand): De afstand d x, y tussen de vectoren x, y van een genormeerde ruimte V is d x, y x y Bij de 2- norm: d X , Y n x y i 1 i 2 i ER WORD ALTIJD MET DE 2-NORM GEWERKT. 45 3. Inwendig product: In het algemeen kunnen we het inwendig product in x1 ,..., xn , y1 ,..., yn n definiëren als n xi yi i 1 Twee vectoren staan dus orthogonaal als hun inwendig product gelijk is aan nul. DEFINITIE (inwendig product): Een inwendig product voor een complexe vectorruimte V is een afbeelding . , . : V V : x, y x, y Die voldoet aan: IP1: x, a1 y1 a2 y2 a1 x, y1 a2 x, y2 IP 2 : x, y y , x IP3 : x, x 0 als x 0 IP 4 : a1 x1 a2 x2 , y a1 x1 , y a2 x2 , y (uit IP1 en IP 2) IP5 : ax, y a x, y IP 6 : x, 0 0, y 0 (hermitisch) ( positief definitiet ) (bijzonder geval van IP 4) DEFINITIE (Euclidische vectorruimte): Een Euclidische vectorruimte is een vectorruimte voorzien van een inwendig product. DEFINITIE (orthogonaal): We zeggen dat twee vectoren x, y orthogonaal/ loodrecht zijn als x, y 0 . Een orthogonaal stel vectoren is een stel waarbij de vectoren 2 aan 2 orthogonaal staan. Een orthonormaal stel vectoren is een orthogonaal stel van genormeerde vectoren. Een orthogonale matrix is diagonaliseerbaar. 46 Stelling (Cauchy-Schwarz): In een reële Euclidische vectorruimte geldt x, y x y Bewijs: p114 Als x en / of y nulvectoren zijn, dan zijn beide leden 0 en dan is de stelling bewezen. Daarom x 0 y . Voor elke m 2 geldt mx y, mx y mx y 0 0 m2 x 2m x, y y 2 2 dus discriminant 0 ( want max 1 nulpunt ) : b2 4ac 0 Dit is niet negatief voor elke m als het discriminant 0 . Dus 2 x, y x x, y 2 2 2 y 0 x 2 y 2 Stelling: In een reële Euclidische vectorruimte is x x, x een norm. Bewijs: p114 De eigenschappen N1 – N3 zijn eenvoudig na te gaan door invulling. Bewijs N4: x y x y, x y 2 x y 2 x, y 2 Stelling (pythagoras): Als de vectoren x, y orthogonaal zijn, dan is 2 x y x y 2 2 Bewijs: 2 2 x y x y 2 x, y met x, y 0 want x y 2 Stelling: In een vectorruimte is de enige vector die loodrecht staat op alle vectoren van 0 alles de ruimte de nulvector. Bewijs: als x, v 0, v V x op zichzelf x, x 0 x kan enkel 0 zijn DEFINITIE (loodrecht op W): 47 Een vector x V staat loodrecht op een deelruimte W als hij orthogonaal staat op alle vectoren van W. Stelling: Een vector staat loodrecht op een ruimte W a.s.a. hij loodrecht staat op een basis van W. Bewijs: p116 - Als v W dan staat hij loodrecht op elke vector van W, dus ook op de basisvectoren. Zij w1 ,..., wn een basis van W en v, wk 0, k 1,..., n n Dan zal voor een willekeurige w ak wk W k 1 n n k 1 k 1 Gelden dat v, w v, ak wk ak v, wk 0 Stelling: Een orthogonaal stel van nul verschillende vectoren is steeds lineair onafhankelijk. Bewijs: p117 n Zij e1 ,..., en orthogonaal, dan zal indien a j e j 0 j 1 n n j 1 j 1 Ook voor alle i = 1,…,n: ei , a j e j a j ei , e j Vermits ei , e j ij ei Zal n n j 1 j 1 e ,e 2 i a j ei , e j a jij ei 2 j 0 als i j , ei , e j ei ai ei 2 als i j 2 ei 0 ai 0 En omdat DEFINITIE (Gram-matrix): Men noemt G vi , v j de metriek of de Gram-matrix van de Euclidische ruimte V voor de basis V v1 ,..., vn . Het is dus de matrix die de inwendige producten van de basisvectoren bevat. n x V X xi v i i 1 n n en y VY yi v i i 1 n x, y xi v i , v j y j i 1 j 1 X H GY 48 Stelling: De Gram-matrix is regulier. Bewijs: Moest G niet regulier zijn, dan bestond er een 0 X Dus zou vi , v j X 0 . zodanig dat GX = 0. n Of vi , x j v j 0 j 1 n Nu is X 0 en daarom ook x V X x j v j 0 V j 1 En die x 0 zou loodrecht staan op alle basisvectoren, dus op alle vectoren van V en dat is onmogelijk. Stelling: De Gram-matrix G is hermitisch, dit wil zeggen dat GH = G. De Gram-matrix is positief definiet: X H GX 0 X 0 Bewijs: Deze stellingen volgen uit IP2 en IP3. 4. Hoeken: DEFINITIE (hoek): De hoek bepaald door de vectoren x, y in een reële vectorruimte is cos 1 c x, y met c x, y cos x, y x y , , 5. Orthogonale projectie: Stelling: Zij D een deelruimte van een Euclidische vectorruimte V, dan vormt de verzameling van alle vectoren die loodrecht staan op D een deelruimte. Bewijs: Voorwaarden van een deelruimte controleren. DEFINITIE (orthogonaal component): Zij D een deelruimte van een Euclidische ruimte V, dan is de ruimte E der vectoren die loodrecht staan op D het orthogonaal complement van D: E D 49 DEFINITIE (orthogonale projectie): Zij D een deelruimte van een Euclidische vectorruimte V, dan is de orthogonale projectie van v V op D, een vector p D zodanig dat v p D . De vector v p noemt men de projecterende vector. 0 vi , v p Stelling: Een orthogonale projectie bestaat en is uniek. Bewijs: p120 Als er een orthogonale projectie bestaat dan zit deze in D. Zij v1 ,..., vm een basis voor D. m Dan is p p j v j j 1 Deze moet voldoen aan v p D dus voor i = 1, 2, …, m m 0 vi , v p vi , v p j v i , v j j 1 Dit is een stelsel met m vergelijkingen en m onbekenden pj, j = 1,…,m. De matrix van het stelsel G vi , v j is de Gram-matrix voor D en dus regulier( dus 1-1 duidig). Dus heeft het stelsel een unieke oplossing. DEFINITIE (projector): De lineaire afbeelding PD : V D : v PD v die een vector v V afbeeldt op zijn orthogonale projectie op de deelruimte D van V, noemen we een (orthogonale) projector. De projector op het orthogonaal complement D is dan QD PD IV PD met IV de identieke afbeelding van V. deze QD associeert met v de projecterende vector. Dus elke vector v V is te schrijven als v p v p , p D , v p D PD v QD v Gevolg: Zij D een deelruimte van V, dan is V D D D D 0 Omdat D D V 50 DEFINITIE (afstand d( v ,D)): Men noemt de afstand van een vector v tot een deelruimte D, de lengte van de projecterende vector die v op D projecteert. d v, D v PD v QD v Stelling: p D is de orthogonale projectie van v op D a.s.a. p de vector is in D die het dichtst bij v ligt. Bewijs: Stelling van Pythagoras Stelling: De projectie van een vector v op een (deelruimte voortgebracht door een ) ander vector x is gegeven door: x, v p x x 2 Bewijs: p 122 Het volstaat aan te tonen dat v p x vermits p een veelvoud is van x , is ook v p p . We berekenen hiervoor x, v p x, v x, v x x, x 2 0 x, v Lengte van de projectie: p x 2 x x, v x x, v x v v v cos Stelling: De projectie PW v van een vector v op een deelruimte W voortgebracht door een orthogonaal stel e1 ,..., en wordt gegeven door ei , v n p PW v i 1 ei 2 ei de projecterende vector heeft lengte v PW v v PW v 2 2 Bewijs: v p W want v p ei omdat ei , e j ei ij 2 n ei , v p ei , v i 1 ej , v 2 ej ei , e j ei , v ej ,v ei 2 ei 2 0 51 6. Orthogonaliseren (Gram-Schmidt): Dit is om een onafhankelijk stel vectoren v1 ,..., vn om te zetten in een orthogonaal stel u1 ,..., u n : 1. stel u1 v1 2. voor k 2,..., n stel u k v k u1 , v k u1 2 u1 ... u k 1 , v k u k 1 2 u k 1 Stelling (Gram-Schmidt orhtogonalisatie): Door het bovenstaande algoritme wordt een stel lineair onafhankelijke vectoren v1 ,..., vn omgezet in een orthogonaal stel u1 ,..., u n . Bewijs: p 123 We bewijzen - dat vect v1 ,..., vk vect u1,..., u k , k 1, 2,..., n Dit is evident omdat dit deelruimten zijn. - en dat u k vect u1 ,..., u k 1 , k 2,3,..., n Door inductie: u ,v u ,v u 2 v 2 1 22 u1 hierbij is 1 22 u1 de projectie van v2 op u1 . u1 u1 Dus u 2 staat loodrecht op u1 . Inductiestap: u j staan al loodrecht op u i voor 1 i, j k u i , u j ij u i voor 1 i, j k 2 daarom is voor i k ui , u k ui , vk ui , vk ui 2 ui , ui 0 Gevolg: Elke eindig-dimensionale vectorruimte bezit een basis van orthonormale vectoren. Stelling: Zij e1 ,..., em een orthogonale basis voor X V . Breiden we deze basis uit tot een stel e1 ,..., em , em1,..., en die een orthogonale basis is voor V, dan is em1,..., en een orthogonale basis voor X. 52 Bewijs: Voor elke vector y vect em1 ,..., en geldt voor i = 1,…,m y n j m 1 aj e j ej, y n a j m 1 j ei , e j 0 Dus y X . De vectoren ek , k = m+1, …, n zijn onafhankelijk en omdat V X X is dim X dim V dim X n m . Daarom is ek , k = m+1, …, n een basis voor X . 53 7. De QR-ontbinding: Als A V1 | V2 | ...| Vn nn en het inwendig product X , Y X H Y Dus is de Gram-matrix = In = GHG Het Gram-Schmidt algoritme levert dan U1 V1 k U k Vk U iH Vk Ui i 1 2 Ui k 2,..., n Ui k 2,..., n V1 U1 k Vk U k U iH Vk i 1 Ui 2 na normalisatie Qk Uk Uk Uk U kH U k V1 U1 Q1 r11Q1 V2 U 2 Q2 U1H V2 U1 Vn U n Qn ... 2 U1 Q1 r22Q2 r12Q1 U 2H Vn U2 2 U 2 Q2 met rkk U k 0 en rik U iH Vk Ui 2 U1H Vn U1 2 U1 Q1 rnnQn ... r2 nQ2 r1nQ1 i 1, 2,..., k 1 we kunnen dit schrijven als een matrixproduct r11 V1 | ... | Vn Q1 | ... | Qn A QR r12 r22 r1n r2 n rnn Hierbij is R een reguliere bovendriehoeksmatrix. De matrix Q bevat orthonormale kolommen. Uitgedrukt door Q H Q I n 54 DEFINITIE (unitaire matrix): We noemen een matrix Q n n een unitaire matrix als hij voldoet aan Q H Q I n . Indien Q reëel is, dan wordt dit QT Q I n en dan noemen we de matrix orthogonaal. DEFINITIE (QR-ontbinding): Elke reguliere matrix A n n heeft een QR ontbinding. Dit wil zeggen dat er een unitaire matrix Q bestaat en een reguliere bovendriehoeksmatrix R zodanig dat A = QR. Nut: deze ontbinding zet net zoals de Gram-Schmidt ontbinding alle orthogonale basisvectoren in 1 matrix Q. Is algemener. 8. Orthogonale lineaire transformaties: DEFINITIE (unitaire/orthogonale transformatie): We noemen een lineaire transformatie f : V V unitair indien ze het inwendig product van vectoren bewaart: v, w V : v, w f v , f w Voor een reële vectorruimte spreekt men over een orthogonale transformatie. Stelling: Een lineaire transformatie f is orthogonaal (unitair) a.s.a. ze de afstand tussen vectoren bewaard. Bewijs: - d x, y x y dit weten we al. De normen worden bewaard. Omgekeerd: x y f x f y x, y V Hier moeten we aantonen dat x, y f x , f y Bewijs enkel voor reële vectorruimten: 2 x y x 2 x, y y 2 f x y 2 f x f y f x f y 2 2 2 2 f x, f y x 2 f x, f y y 2 2 2 x, y f x , f y 55 Stelling: In een complexe (reële) vectorruimte is de matrixvoorstelling van een unitaire (orthogonale) transformatie ten opzichte van een orthonormale basis een unitaire (orthogonale) matrix. Bewijs: Zij f : V V unitair en zij V v1 ,..., vn een orthonormale basis van V. zij A de matrixvoorstelling van f: f V V A Vanwege de orthonormaliteit is v i , v j ij . We hebben dan dat ij v i , v j f v i , f v j n n aki v k , alj vl k 1 n l 1 n a ki alj v k , v l k 1 l 1 n a ki akj k 1 v k , v l kl AiH Aj Ai en Aj zijn de i-de en j-de kolom van A Dus AHA=In. Dus A is unitair. Stelling: Als een eigenwaarde is van een orthogonale transformatie, dan is 1 Bewijs: Zij f x x dan is x f x x x Dus dan is 1 . 56 Stelling: Een orthogonale matrix van orde 2 heeft één van de volgende twee vormen: cos sin cos sin of sin cos sin cos Bewijs: a b A c d a c 1 d b AT A1 det A c a b d Als det A = 1: Als det A = -1 a = d en a = -d en b = -c b=c 9. Vectorieel product: Stelling: Zij e x , e y , e z de eenheidsvectoren in de x, y en z richting. Stel dat n1 a1 e x b1 e y c1 e z en n 2 a2 e x b2 e y c2 e z twee onafhankelijke vectoren, dan zal de vector n formeel gedefinieerd worden als e x e y e z n det a1 b1 c1 a2 b2 c2 Loodrecht staan op de vectoren n1 en n2 . DEFINITIE (vectorproduct): De vector n zoals in de vorige stelling omschreven noemt men het vectorieel product van de vectoren n1 en n2 en men noteert: n n1 n2 Stelling (identiteit van Lagrange): Voor u a1 , b1 , c1 en v a2 , b2 , c2 , allebei in uv u 2 2 v u, v 2 3 geldt 2 Bewijs: Uitrekenen Gevolg: 1. zij de hoek tussen u en v in 2. 3 , dan is u v u v sin u v is de oppervlakte van het parallellogram gevormd door u en v . 3. definieer de matrix A als de matrix met kolommen u en v , dan is u2 u, v u v det A A met A A 2 u, v v 4. u en v in 3 zijn lineair afhankelijk a.s.a. T T uv 0 57 Stelling: Zij u, v en w 3 vectoren in 3 dan is de inhoud van het parallellepipedum gevormd door deze 3 vectoren gegeven door w, u v det A det AT A Waarin A u v w de matrix is met deze 3 vectoren als kolommen. Bewijs: De oppervlakte van het grondvlak, gevormd door u en v is u v . De hoogte wordt bepaalt door de loodrechte projectie van w op het grondvlak. h w, uv uv w, u v uv Verder uitrekenen DEFINITIE (parallellepipedum): Een n-parallellepipedum Tn in n voortgebracht door de n vectoren a1 ,..., a n in m is de verzameling der vectoren t n Tn t m : t rk a k , 0 rk 1 vect a1 ,..., a n k 1 Het n-volume van Tn definieert men recursief als n vol Tn hn n 1 vol Tn 1 Hierin is hn de afstand van a n tot vect a1 ,..., an1 en Tn-1 het (n-1)parallellepipedum opgespannen door a1 ,..., a n1 . Stelling (n-volume van een n-parallellepipedum): Zij T een n-parallellepipedum in m voortgebracht door de vectoren a1 ,..., a n ten opzichte van een orthonormale basis schrijven als kolommen van de matrix A. Het n-volume van T wordt dan gegeven door n vol T vol A det AT A Als n = m dan is A vierkant en dan vereenvoudigt deze formule tot n vol T vol A det A Stelling: Zij T een n-parallellepipedum in n , beschreven (in een orthonormale basis) door de matrix A n n . Zij V het n-volume van T. stel dat f : n k een lineaire afbeelding is met als matrixvoorstelling M k n , dan wordt T door f afgebeeld op een n-parallellepipedum S = f(T) in k dat voorgesteld wordt door de matrix B MA k n . Het n-volume van S is gelijk aan: n vol S vol f T V det M T M B MA vol B volA vol M 58 Bewijs: Omdat A vierkant is en B = MA geldt: n vol S vol B det BT B det AT M T MA det AT det M T M det A det A det M T M vol A vol M 59 60 Hoofdstuk VI: Kwadratische vormen: DEFINITIE (kwadratische vorm): Zij V met basis V v1 ,..., vn . Een vector x V heeft als coördinaten X n 1 : x V X . Als we werken in de coördinaatruimte n 1 dan noemen we de afbeelding k:X n :X X H AX Waarin A n n een willekeurige matrix is een kwadratische vorm. Als A hermitisch is (AH=A) dan noemen we de kwadratische vorm een hermitische vorm. Als het om reële vectorruimten gaat, dan is een hermitische matrix symmetrisch: AH = AT =A en dan spreekt men over een symmetrische vorm. Als we nu de matrix A niet afhankelijk willen maken van een gekozen basis: V ' s V V S ( S regulier ) x op nieuwe basis V ' x V X V ' X ', X ' S 1 X voor dezelfde uitkomst over de nieuwe basis k x X H AX X ' A ' X ' X H S H S H AS S 1 X H A ' S H AS De transformatie van A naar A’ is een bijzonder geval van een equivalentietransformatie. Het is een congruentietransformatie. DEFINITIE (congruente matrix): Men noemt de vierkante matrices A en B congruent a.s.a. er een reguliere matrix S bestaat zodat B S H AS Dus 2 matrices zijn congruent als ze dezelfde kwadratische vorm afbeelden maar op verschillende basissen. !! deze hermitische vorm kan enkel reële waarden aannemen: k x X H AH X H AH X H AH H met voor een complex getal c c c DIT HOOFDSTUK ENKEL VOOR REËLE GEVAL. 61 Stelling: Elke reële kwadratische vorm is ook een symmetrische vorm. Bewijs: XTAX is een getal dus is X T AX X T AX X T AT X T dus als X T AX X T AT X 1 T X AX X T AT X 2 1 X T A AT X 2 dan is X T AX 1 A AT is symmetrisch 2 want voor getallen a b geldt : a 1 a b 2 2. Kwadratische functies: Omdat een reële kwadratische vorm symmetrisch is kunnen we het nu ook een kwadratische functie noemen. k X X T AX met AT A We gaan op zoek naar de canonieke (meest eenvoudige) vorm voor congruentie 3. Eigenschappen van symmetrische matrices: Stelling: De eigenwaarden van een (reële) symmetrische matrix zijn reëel. Bewijs: AX X , X 0, n 1 X X H AX X H X X 2 als we het complex toegevoegde transpose hiervan nemen X H AH X X H AX X 2 omdat AH A want A reëel en symmetrisch of Stelling: Een reële symmetrische matrix is van eenvoudige structuur. Dit wil zeggen dat een symmetrische (AT = A) matrix n lineair onafhankelijke eigenvectoren heeft. Bewijs: 62 met c met algebraïsche meervoudigheid als AX cX en E1 ,..., E de eigenvectoren en de eigenruimte van A voor c. TB : dim is invariant voor A : A evident is invariant voor A : A stel X X , E 0 E XTE 0 maar AX E ? AX E X T AE cX T E 0 T T als we nu E E1 ,..., E | E 1 ,..., En orthogonale basis voor n met E1 ,..., E basis van eenheidsvector , is orthogonaal T1 met E 1 ,..., En basis van , ook orthogonaal T2 c nu : AT T 0 c 0 0 T A met A 2 0 A2 T T1 | T2 n n A T 1 AT A en A gelijkvormig zelfde karakteristieke veelterm p det A I det A I det cI I det A2 I n c det A2 I n omdat c waardige eigenwaarde van A bewijzen dat c geen eigenwaarde is van A2 want moet gelijk zijn aan bewijs uit ongerijmde stel det A2 cI n 0 0 cI 0 0 0 A 0 0 A2 Y2 cY2 Y2 0 0 0 T 1 AT c stel Y T T2Y2 en Y 0 want T2 lin onafh Y2 Y2 Y2 AY cY Y is eigenvector van c Y 0 Y 0 : tegenstrijdigheid 63 Stelling: De eigenvectoren van een reële symmetrische matrix kan men altijd als een orthonormaal stel kiezen. Bewijs: In elke vectorruimte kan men een orthonormale basis van eigenvectoren vinden. Dus moeten we nog alleen aantonen dat de eigenvectoren die horen bij verschillende eigenwaarden orthogonaal staan. zij 1 2 en AX 1 1 X 1 en AX 2 2 X 2 (elk lid is een getal gelijk aan zijn transpose) 2 X 1T X 2 X 1T AX 2 X 2T AX 1 X 2T 1 X 1 X 1T X 1 en X 2 X 2T 2 1 X 2T X 1 0 met 1 2 X 2T X 1 0 Gevolg: Elke reële symmetrische matrix heeft een eigenwaardeontbinding van de vorm A QQ 1 Bewijs: A = eenvoudige structuur Gelijkvormig met diagonaalmatrix van zijn eigenwaarden. A QQ 1 Kolommen van Q zijn eigenvectoren Kiezen we de eigenvectoren orthonormaal, QT Q I en dus Q 1 QT Q is een orthogonale matrix. Een reële symmetrische matrix is orthogonaal congruent met een diagonaalmatrix. En omdat Q1 QT is hij ook orthogonaal gelijkvormig met een diagonaalmatrix. Dus elke kwadratische functie is te schrijven als n k X X T AX X T QQT X Y T Y k yk2 k 1 Y Q X T Een kwadratische functie is steeds te schrijven als een som van n kwadraten vermenigvuldigd met scalairen k . Equivalentie transformatie Congruentie transformatie Gelijkvormige transformatie Symmetrisch TAS STAS S-1AS AH=AT=A Inverteerbaar (regulier) Niet altijd inverteerbaar Inverteerbaar (regulier) 64 4. Ontbinding van kwadratische functies: n In k X X T AX X T QQT X Y T Y k yk2 k 1 Y Q X T Is yk X Q X met Qk de k-de kolom van Q dus een lineaire vorm van X. Omdat Q T k regulier is, zullen de lineaire vormen yk X lineaire onafhankelijk zijn. Stelling: Elke kwadratische functie k X X T AX (met A symmetrisch) is te schrijven als een som en/of verschil van r = rang A kwadraten van onafhankelijke lineaire vormen. Bewijs: voor k 0 : k ak2 , voor k 0 : k ak2 k X l12 X l22 X ... l p2 X l p21 X ... lr2 X waarbij verondersteld wordt dat 1 ,..., p 0 en p 1 ,..., r 0 en r 1 ,..., n 0 met lk2 X ak yk X 65 Stelling: Het aantal kwadraten uit de vorige stelling is reeds r = rangA. Er kunnen er niet meer en ook niet minder zijn. Bewijs: stel : er zijn s kwadraten van onafhankelijke lineaire vormen : s k X i li2 X i 1 met i 1 l1 X U1 1 n X , Uk ls X U s vormen zijn onafhankelijk U1 ,...,U s onafhankelijk omdat U k 1 n sn U1 U n n basis van U n reguliere matrix 1 n s k X X T AX i li2 X i 1 l1 X s ls X 1 l1 X ,..., ls X 1 X TU T s 0 T T UX X U UX 0 (voorstelling van zelfde kwadratische vorm ) : A congruent met A U T U rang A r moet gelijk zijn aan rang s rs Het aantal lineair onafhankelijke vormen waaruit de kwadratische functie bestaat ligt dus vast. De vormen zelf liggen echter niet vast. 66 Stelling (traagheidswet van Sylvester): Iedere ontbinding van een kwadratische functie k X X T AX (A = sym) is een som/verschil van r = rang A kwadraten van onafhankelijke lineaire vormen, bevat steeds hetzelfde aantal positieve p en r-p negatieve kwadraten. Bewijs: p zij k X mi2 X i 1 r n j p 1 n 2j X 0. qk2 X k r 1 s r s nr i 1 j 1 k 1 ui2 v 2j 0. wk2 aantonen dat r s : m1 u1 R1 S1 mp us n1 v1 S X R2 X en 2 nr p vr s q1 w1 R3 S3 qn r wn r stel alle n1 ... nr p 0 R2 X 0 ker R2 dim bld R2 r p S S S stel alle u1 ... us w1 ... wn r 0 1 X 0 ker 1 dim bld 1 s n r S3 S3 S3 voor voor S1 S X 0 k 0 enkel negatieve kwadraten over 3 R2 X 0 k 0 enkel positieve en 0 kwadraten over ker R2 S ker 1 0 S3 S dim ker R2 dim ker 1 n want deelruimte van S3 n p n r n r s n n p s 0 s p R en omgekeerd :ker 1 R3 s p ker S2 0 s p 67 (oef): 2 xy 1 1 2 2 x y x y + methode van Lagrange (var per var wegwerken) 2 2 DEFINITIE (signatuur): Het drietal (p, r – p, n – r) dat het aantal positieve, negatieve en nultermen in de ontbinding van een kwadratische functie k X X T AX aangeeft noemt men de signatuur van k of ook wel de signatuur van A. Het geeft meteen het aantal eigenwaarden aan van A dat positief, negatief of nul is. k of A + n 0 r<n 0 0<p<r Positief definiet Negatief definiet Positief semi-definiet Negatief semi definiet indefiniet s = (p, r – p, n – r) 0 n 0 r<n r-p 0 0 0 n-r n-r n-r Stelling: Een symmetrische matrix A is positief definiet (A>0) a.s.a. er bestaat een matrix R met lineair onafhankelijke rijen zodanig dat A=RTR. Een symmetrische matrix A is positief semi definiet (A 0) a.s.a. er bestaat een matrix R (die niet regulier en zelfs niet vierkant moet zijn)zodanig dat A=RTR. Bewijs: als A RT R X T AX X T RT RX RX 2 0 A positief semi definiet als de kolommen van R lineair onafhankelijk zijn RX 0 X 0 X T AX RX 2 0 5. Meetkundige interpretatie: kwadrieken: X T AX 2 BT X C 0 DEFINITIE (kegelsnede, kwadriek): De verzameling van alle punten (x,y) in het vlak die voldoen aan bovenstaande vergelijking vormen een kromme. Deze kromme noemen we een kegelsnede. De verzameling van alle punten (x,y,z) van 3 die voldoen aan bovenstaande vergelijking vormen een oppervlak. Dit (kwadratisch) oppervlak noemen we een kwadriek. 68 Hoofdstuk VII: Kleiste-kwadraten-problemen: Als er geen oplossing is voor AX = B, zoeken we naar de oplossing die het kortst bij deze vergelijking ligt. d(AX, B) is minimaal. f x b minimaal, waarbij x de afbeelding is van b in het vlak. De verschilvector (projectievector) r f x b noemen we de reciduvector. r r, r minimaliseren Als we stellen R = AX – B m RT R ri 2 i 1 kleinste-kwadraten probleem oplossen = zoeken naar een orthogonale projectie op een ruimte. DEFINITIE (normaalstelsel): We noemen AT A X AT B het normaalstelsel voor het kleinste-kwadraten probleem: min AX B De projectie van een vector B A1 , A2 ,..., An : met ATA regulier. m 1 op de ruimte W bepaald door basisvectoren P AX A AT A AT B 1 De matrix M A AT A AT noemt men daarom een projectiematrix W. 1 Omdat een projectie van een projectie terug de projectie is , moet M²=M. M is idempotent. DEFINITIE (projectiematrix): We noemen M een projectiematrix als het een matrix is van een projector. 69 Stelling: M is een projectiematrix a.s.a. M een symmetrische, idempotente matrix is. MT=M M²=M Bewijs: bew : zij M projectiematrix MX kolomruimte van M , I M Y 0 M T I M 0 X M T T I M Y kolomruimte M met X , Y willekeurig MT MTM met M T M omdat M M T M T M M T M M T T T M M2 zij M 2 M en M T M voor elke B MB I M B met M T I M M T M T M M M 2 M M 0 MB I M B MB orthogonale projectie van B DEFINITIE (kleinste-kwadranten-oplossing): We noemen X0 een kleinste-kwadranten-oplossing van het stelsel AX =B indien AX 0 B min AX B : X n 1 . Als er meerdere oplossingen van dit probleem zijn, keizen we daaruit de oplossing met minimale lengte: X 0 min X : X is kleinste kwadraten oplossing van AX B . Dit is dan de kleinste-kwadraten-oplossing met minimale lengte. 2. Vereffening van meetresultaten: Een op te lossen probleem is om een curve te krijgen tussen verschillende meetresultaten. Als deze niet op 1 rechte liggen. Hierbij zal de norm r (afstand tot rechte) niet nul zijn. m Dus dan moeten we r i 1 i 2 minimaal maken met ri yi bxi a , i 0,..., m De oplossing wordt gegeven door het normaalstelsel ATAX = ATB. m 1 xi a yi op te lossen 2 x x x y b i i i i 70 Algemeen: Als we een reeks van m+1 meetresultaten hebben kunnen we een veeltermverband zoeken van graad n: y x a0 a1 x ... an x n y xi a0 a1 xi ... an xin yi i 0,..., m 1 x0 1 x1 1 xm x0n a0 y1 x1n a1 y2 xmn an ym 3. Het gebruik van Gram-Schmidt: stel AX B met Gram Schmidt A orthogonaliseren als lineair onafhankelijk A QR met Q met R mn nn een matrix met orthogonale kolommen een bovendriehoeksmatrix die regulier is QRX B QY B oplossen met normaalstelsel (met Y RX ) maal QT : QT QRX QT B RX QT B 4. Singuliere waarde ontbinding (SWO): Stelling: (SWO) Zij A m n van rang r, dan bestaan er orthogonale matrices U m m en V n n en een pseudo-diagonale matrix m n van de vorm 1 0 met 1 2 ... r r 0 0 zodanig dat A U V T De getallen i noemt men de singuliere waarden van A. de kolommen van U noemt men de linker singuliere vectoren. De kolommen van V noemt men de rechter singuliere vectoren. 71 Bewijs: 1. Nulruimte van A = nulruimte van ATA rang A = rang ATA = rang AT ker A ker ATA. 2. De eigenwaarde ontbinding van ATA: AT A V V T met V bevat de orthonormale eigenvectoren als kolommen met diag 1 , 2 ,..., r , 0,..., 0 met 1 2 ... r 0 en r rang AT A rang A AT AV V laatste n r kolommen van V : AT A Vi Vi .0 0 AVi 0 3. Constructie van U: stel i i en U i AVi / i i 1,..., r met Vi i e eigenvector van AT A AT AVi i2Vi of AT U i iVi U i , i 1,..., r is een orthogonaal stel want U iT U i Vi T AT AVi / i2 Vi TV 1 ij orthogonale basis U iT U j Vi T AT AV j / i j Vi T V j j / i 0 , 1 i j r met Gram Schmidt U1 ,..., U r aanvullen tot orthogonaal stel : U1 | ... | U m orhogonale matrix 4. Bewijs dat U T AV U T AV U T A V1 ,...,Vr ,Vr 1 ,..., Vn U T AV1 ,..., AVr , AVr 1 ,..., AVn U T 1U1 ,..., rU r , 0,..., 0 met U iT U j ij 5. De SWO Met U en V orthogonaal 72 5. Eigenschappen van de SWO: Als we een afbeelding f(x)=b kunnen schrijven met een simpele als basis dan krijgen we X B : x1 b1 1 x b r r r xr 1 br 1 xn bm Stelling: Met de zopas gegeven notatie geldt: a. De 4 fundamentele ruimtes voor worden gegeven door - bld = kolomruimte = vect eerste r kolommen van I m - ker T = linkse nulruimte = vect laatste m r kolommen van I m - bld T = rijruimte = vect eerste r kolommen van I n - ker = rechtse nulruimte = vect laatste n r kolommen van I n De ontbindingen zijn orthogonaal m bld ker T en n bld T ker b. de kleinste kwadraten oplossing met minimale lengte voor X B is gegeven door X 0 † B Met † de n x m matrix (!! Getransformeerde afmetingen) 1/ 1 mn † 1/ r † Men noemt de veralgemeende inverse van c. De 2-normen zijn 1 , † 1/ r d. De beste rang k-benadering voor is de Frobeniusnorm is per definitie een matrix D van rang ten hoogte k r zodanig dat de Frobeniusnorm van het verschil D F minimaal is. De oplossing van dit probleem is 1 Sk k 73 Bewijs: a. Het eerste deel is triviaal. alle vectoren X waarvoor X T 0 bld ker T en bld T ker m bld ker T bld T ker n en b. X 0 † B dus R min : 2 r R X B i xi bi 2 2 m 2 i 1 b i r 1 2 i de laatste m r termen hangen niet af van X . we kiezen i 1,..., r voor xi bi / i term 0 m b R i r 1 2 i alle Xen met X T b1 / 1 ,..., br / r , xr 1 ,..., xn geven dit resultaat. min X 0 bekomen we door r b 2 m min X min i xi 2 i 1 i i r 1 door xr 1 ... xn 0 2 kleinste kwadraten oplossing b b X 0 B 1 ,..., r , 0 ,..., 0 r 1 T † c. De 2-normen zijn max T 1 2 1 † 1/ r d. Onder alle matrices van rang ten hoogste k r is Sk de matrix die het dichtst bij in Frobeniusnorm. Dus min rang Dk D F Sk F Waarbij we eraan herinneren dat de Frobeniusnorm van M = - D gegeven wordt door M 2 F r i dii dij2 i 1 2 i, j Als we voor alle d ij = 0 kiezen komen we aan het minimum met dezelfde vorm als . 74 Stelling: Zij de SWO van A m n gegeven door A U V T , U U1 | ...| U m , V V1 | ...| Vn Zij rang A = r, dan geldt het volgende a. De 4 fundamentele ruimtes voor A worden gegeven door a. bld A = kolomruimte A = vect U1 ,...,U r b. ker AT= linkse nulruimte A= vect U r 1 ,...,U m c. bld AT= rijruimte A= vect V1 ,...,Vr d. ker A = rechtse nulruimte A= vect Vr 1 ,...,Vn De ontbindingen zijn orthogonaal m bld A ker AT en n bld AT ker A b. de kleinste kwadraten oplossing met minimale lengte voor AX B is gegeven door X 0 A† B , A† V †V T Men noemt A† de veralgemeende inverse van A. c. De 2-normen zijn A 1 , A† 1/ r d. De beste rang k-benadering voor A is de Frobeniusnorm wordt gegeven door: Ak US kV T met 1 Sk k 75 Bewijs: a. Dit volgt uit de vorm van de SWO b. stel R AX B R AX B U T AX B want U orthogonaal veranderd de lengte niet dus U T ook niet stel A U V T R V T X U T B met Y V T X en C U T B R Y C de minimale lengte voor : min X R min Y V T X Y C Y0 †C V T X 0 Y0 †C †U T B met V T X 0 X 0 X 0 VY0 V †U T B A† B X 0 heeft een minimale lengte c. De 2-normen: (U, nog V veranderen de lengte) U V T X AX A max X max X X X max X max X V T X X V T X VT X max Y V T X Y Y A† analoog d. we zoeken min rangD k A D 2 F voor R A D zien we dat 2 R F som van de lengten 2 van de kolommen in R R R1 | ... | Rn R 2 F R1 2 ... Rn 2 2 2 met een orthogonale projectie die de lengte niet veranderd R 2 F U T RV 2 F U T DV 2 F uit voorafgaande : U DV Sk D US kV T T 76 Dus uiteindelijk: voor A heeft lineair onafhankelijke kolommen AT A regulier kleinste kwadraten oplossing wordt gegeven door X 0 AT A AT B 1 nu : AT A AT V TU T U V T 1 1 V U T T V T V T V T U T V T T U T V †U T A† 77
