Web Analytics Made Easy - Statcounter
Avancerad

Ortogonalitet och ortogonala projektioner

Ortogonala vektorer, ortogonala komplement och projektioner.

ortogonal ortogonalt komplement projektion minsta kvadratmetoden

Ortogonalitet är som perfekt balans - vektorer som står rakt på varandra utan att störa varandra! Precis som när du bygger ett hus vill du att väggarna ska vara vinkelräta mot golvet. I linjär algebra ger ortogonala vektorer oss superkrafter: enkla beräkningar, stabila numeriska metoder och vackra geometriska insikter!

Fördjupning

Ortogonalitet innebär att inreprodukt ⟨u,v⟩ = 0. Ortogonala projektioner mappar en vektor till närmaste punkt i ett underrum. Dessa projektioner är fundamentala för minsta kvadrat-metoden, Gram-Schmidt-processen och många optimeringsmetoder. Ortogonala matriser bevarar längder och vinklar.

Grundläggande ortogonalitet

Två vektorer u och v är ortogonala om ⟨u,v⟩ = 0. Geometriskt betyder detta 90° vinkel. En mängd vektorer är ortonormal om de är parvis ortogonala och alla har längd 1. Som perfekt koordinatsystem!

Definition av ortogonalitet och ortonormalitet
Definition av ortogonalitet och ortonormalitet

Ortogonala vektorer

u = (3,4), v = (4,-3)
⟨u,v⟩ = 3·4 + 4·(-3) = 12 - 12 = 0 Ortogonala!
||u|| = √(9+16) = 5, ||v|| = √(16+9) = 5
Normaliserade: û = (3/5, 4/5), v̂ = (4/5, -3/5)
Nu är {û, v̂} ortonormal bas för ℝ²!

Ortogonala projektioner

Projicera vektor v på underrum W = span{u₁,...,uₖ}. Om {u₁,...,uₖ} är ortonormal: proj_W(v) = ⟨v,u₁⟩u₁ + ... + ⟨v,uₖ⟩uₖ. Som skugga som faller perfekt på planet!

Formel för ortogonal projektion på underrum
Formel för ortogonal projektion på underrum

Projektion på linje

Projicera v = (2,3) på linjen span{u} där u = (1,1)
Metod 1: proj_u(v) = (⟨v,u⟩/⟨u,u⟩)u
⟨v,u⟩ = 2·1 + 3·1 = 5
⟨u,u⟩ = 1·1 + 1·1 = 2
proj_u(v) = (5/2)(1,1) = (2.5, 2.5)
Kontroll: v - proj_u(v) = (2,3) - (2.5,2.5) = (-0.5, 0.5)
⟨(-0.5,0.5), (1,1)⟩ = -0.5 + 0.5 = 0 Ortogonal!

Projektionsmatriser

Projicering kan representeras som matris! Om A har ortonormala kolonner, då P = AAᵀ är projektionsmatrisen på kolumnrummet col(A). Egenskaper: P² = P (idempotent), Pᵀ = P (symmetrisk).

Projektionsmatris och dess egenskaper
Projektionsmatris och dess egenskaper

2D projektionsmatris

Projicera på linjen span{(1,1)} i ℝ²
A = [[1],[1]] (ej normaliserad)
P = A(AᵀA)⁻¹Aᵀ
AᵀA = [1 1][[1],[1]] = 2
P = [[1],[1]] · (1/2) · [1 1] = (1/2)[[1,1],[1,1]]
Testsvar: P(2,3)ᵀ = (1/2)[[1,1],[1,1]][[2],[3]] = (1/2)[[5],[5]] = [[2.5],[2.5]]

Ortogonala komplement

För underrum W är det ortogonala komplementet W⊥ = {v : ⟨v,w⟩ = 0 för alla w ∈ W}. Fundamentalsats: ℝⁿ = W ⊕ W⊥ (direkt summa). Varje vektor kan skrivas unikt som w + w⊥.

Ortogonalt komplement och direkt summa
Ortogonalt komplement och direkt summa

Komplement till plan

W = span{(1,0,1), (0,1,1)} (plan i ℝ³)
Hitta W⊥:
En vektor (x,y,z) ∈ W⊥ om:
⟨(x,y,z), (1,0,1)⟩ = x + z = 0
⟨(x,y,z), (0,1,1)⟩ = y + z = 0
Lös systemet: x = -z, y = -z
Så W⊥ = span{(-1,-1,1)}
Kontroll: dim(W) + dim(W⊥) = 2 + 1 = 3 = dim(ℝ³)

Minsta kvadrat-metoden

När Ax = b saknar lösning, hitta 'bästa' lösning: minimera ||Ax - b||². Svaret: x* som löser AᵀAx = Aᵀb (normalekvationers). Geometriskt: projicera b på col(A)!

Normalekvationers för minsta kvadrat-lösning
Normalekvationers för minsta kvadrat-lösning

Linjär regression

Anpassa linje y = ax + b till punkter (0,1), (1,2), (2,4)
Systemet: [[0,1],[1,1],[2,1]][[a],[b]] ≈ [[1],[2],[4]]
A = [[0,1],[1,1],[2,1]], b = [[1],[2],[4]]
AᵀA = [[5,3],[3,3]], Aᵀb = [[9],[7]]
Lös: [[5,3],[3,3]][[a],[b]] = [[9],[7]]
Lösning: a = 1.5, b = 2/3
Bästa linje: y = 1.5x + 2/3

Ortogonala matriser

Matris Q är ortogonal om Qᵀ = Q⁻¹, dvs QᵀQ = I. Kolonnerna bildar ortonormal bas. Ortogonala matriser bevarar längder, vinklar och volym. Som rotation och reflektion!

Definition och egenskaper för ortogonala matriser
Definition och egenskaper för ortogonala matriser

Rotationsmatris

Q = [[cos θ, -sin θ],[sin θ, cos θ]] (rotation med vinkel θ)
Kontroll att Q är ortogonal:
Qᵀ = [[cos θ, sin θ],[-sin θ, cos θ]]
QᵀQ = [[cos²θ+sin²θ, 0],[0, cos²θ+sin²θ]] = [[1,0],[0,1]] = I
Bevarar längder: ||Qx|| = ||x|| för alla x
Bevarar vinklar: ⟨Qx,Qy⟩ = ⟨x,y⟩ för alla x,y

Vanliga misstag

❌ Förväxla ortogonal med ortonormal

Ortogonal = vinkelrät. Ortonormal = vinkelrät + längd 1.

Exempel: (3,4) och (4,-3) är ortogonala men inte ortonormala (längd 5 ≠ 1).

❌ Glömma normalisera innan ortonormal bas

Efter Gram-Schmidt måste alla vektorer normaliseras till längd 1.

Exempel: Gram-Schmidt ger ortogonala vektorer, men inte automatiskt ortonormala.

❌ Fel projektionsformel

För icke-normaliserad vektor u: proj_u(v) = (⟨v,u⟩/⟨u,u⟩)u, inte ⟨v,u⟩u.

Exempel: Om u = (2,0), proj_u(v) = (v₁/4)(2,0), inte v₁(2,0).

❌ Tro att alla projektioner är ortogonala

Endast projektioner på underrum längs ortogonala riktningar är ortogonala projektioner.

Exempel: Projektion längs (1,1) på x-axeln är inte ortogonal projektion.

Tillämpningar

Dataanalys - PCA och dimensionsreduktion

Principal Component Analysis använder ortogonala projektioner för att hitta huvudriktningar i data

Exempel: Komprimera bilder genom projektion på viktiga ortonormala komponenter

Signalbehandling - Fourier-analys

Fourier-baser är ortonormala, ger perfekt rekonstruktion utan störningar

Exempel: MP3-komprimering: projicera ljud på ortogonala frekvenskomponenter

Numerisk linjär algebra - QR-faktorisering

Gram-Schmidt ger QR-faktorisering A = QR för stabila numeriska beräkningar

Exempel: Lösa minsta kvadrat-problem numeriskt stabilt via QR istället för normalekvationers

Datorgraikf - 3D rotationer

Rotationsmatriser är ortogonala, bevarar former och avstånd i 3D-modeller

Exempel: Rotera 3D-objekt utan deformation genom ortogonala transformationer

Fysik - kvantmekanik

Kvantillstånd representeras av ortonormala vektorer i Hilbert-rum

Exempel: Mätningar ger projektioner på ortogonala tillstånd

Övningar

1 Lätt

Kontrollera om vektorerna u = (1,2,1) och v = (2,-1,0) är ortogonala

Tips

Beräkna inreprodukt ⟨u,v⟩

Visa facit
  1. ⟨u,v⟩ = 1·2 + 2·(-1) + 1·0
  2. = 2 - 2 + 0 = 0
  3. Eftersom inreprodukt = 0 är vektorerna ortogonala ✓

Svar: Ja, de är ortogonala

2 Medel

Projicera v = (3,1) på underrummet span{u} där u = (1,2)

Tips

Använd proj_u(v) = (⟨v,u⟩/⟨u,u⟩)u

Visa facit
  1. ⟨v,u⟩ = 3·1 + 1·2 = 5
  2. ⟨u,u⟩ = 1·1 + 2·2 = 5
  3. proj_u(v) = (5/5)u = 1·(1,2) = (1,2)
  4. Kontroll: v - proj_u(v) = (3,1) - (1,2) = (2,-1)
  5. ⟨(2,-1), (1,2)⟩ = 2 - 2 = 0 ✓ Ortogonal

Svar: proj_u(v) = (1,2)

3 Svår

Hitta projektionsmatrisen P som projicerar på span{(1,1,0), (0,1,1)} i ℝ³

Tips

Först ortogonalisera basen, sedan P = QQᵀ

Visa facit
  1. Ortogonalisera {(1,1,0), (0,1,1)} med Gram-Schmidt:
  2. u₁ = (1,1,0)
  3. proj_u₁((0,1,1)) = (1/2)(1,1,0) = (1/2,1/2,0)
  4. u₂ = (0,1,1) - (1/2,1/2,0) = (-1/2,1/2,1)
  5. Normalisera: q₁ = (1/√2)(1,1,0), q₂ = (1/√6)(-1,1,2)
  6. Q = [[1/√2,-1/√6],[1/√2,1/√6],[0,2/√6]]
  7. P = QQᵀ = (1/3)[[2,1,-1],[1,2,1],[-1,1,2]]

Svar: P = (1/3)[[2,1,-1],[1,2,1],[-1,1,2]]

4 Svår

Lös minsta kvadrat-problemet för Ax = b där A = [[1,1],[1,2],[1,3]], b = (2,3,7)

Tips

Lös normalekvationers AᵀAx = Aᵀb

Visa facit
  1. AᵀA = [[1,1,1],[1,2,3]][[1,1],[1,2],[1,3]] = [[3,6],[6,14]]
  2. Aᵀb = [[1,1,1],[1,2,3]][[2],[3],[7]] = [[12],[29]]
  3. Lös: [[3,6],[6,14]]x = [[12],[29]]
  4. Från första ekvation: 3x₁ + 6x₂ = 12 ⇒ x₁ = 4 - 2x₂
  5. Sätt in: 6(4-2x₂) + 14x₂ = 29
  6. 24 - 12x₂ + 14x₂ = 29 ⇒ 2x₂ = 5 ⇒ x₂ = 8/3
  7. x₁ = 4 - 2(8/3) = 4 - 16/3 = -1/3
  8. Svar: x = (-1/3, 8/3)

Svar: x = (-1/3, 8/3)

Sammanfattning

Ortogonalitet (⟨u,v⟩ = 0) ger powerful geometriska och numeriska fördelar. Ortogonala projektioner mappar till närmaste punkt i underrum via proj_W(v) = ∑⟨v,uᵢ⟩uᵢ för ortonormal bas. Projektionsmatriser P = QQᵀ har egenskaper P² = P, Pᵀ = P. Ortogonala komplement ger direkt summa ℝⁿ = W ⊕ W⊥. Minsta kvadrat löses via normalekvationers AᵀAx = Aᵀb. Ortogonala matriser bevarar geometriska egenskaper.