26  Quiz 2 İncelemesi

Ortogonallik + Determinant + Özdeğer — üç ayak

NotBölüm bilgisi

26.1 Bu Derste Ne Var?

Quiz 2 tekrar oturumu. Kapsam: Chapter 4 (ortogonallik), 5 (determinant), 6.1–6.2 (özdeğer/diagonalizasyon). ODE hariç.

  1. Projeksiyon — matris, özdeğerler \(\{0, 1\}\), idempotent.
  2. Least squares — iki resim.
  3. Gram-Schmidt.
  4. Özdeğer hünerleri — det/trace, kompleks, periyodiklik, recurrence.

“The magnitude of lambda — that’s the key point for stability.” — Strang, 36:22

flowchart LR
    ORTH["Ortogonallik<br/>(Chapter 4)"] --> P["Projeksiyon: λ ∈ {0, 1}"]
    DET["Determinant<br/>(Chapter 5)"] --> DET2["det = Πλ"]
    EIG["Özdeğer<br/>(Chapter 6)"] --> DET2
    EIG --> TR["trace = Σλ"]
    EIG --> STAB["|λ| → kararlılık<br/>|λ|=1 periyodik"]

    P --> ML1["Hat matrix<br/>regresyon"]
    DET2 --> ML2["log-det, Jacobian"]
    STAB --> ML3["RNN, SSM, Markov"]

    style EIG fill:#fff3e0,stroke:#e67e22,stroke-width:2px
flowchart LR
    ORTH["Ortogonallik<br/>(Chapter 4)"] --> P["Projeksiyon: λ ∈ {0, 1}"]
    DET["Determinant<br/>(Chapter 5)"] --> DET2["det = Πλ"]
    EIG["Özdeğer<br/>(Chapter 6)"] --> DET2
    EIG --> TR["trace = Σλ"]
    EIG --> STAB["|λ| → kararlılık<br/>|λ|=1 periyodik"]

    P --> ML1["Hat matrix<br/>regresyon"]
    DET2 --> ML2["log-det, Jacobian"]
    STAB --> ML3["RNN, SSM, Markov"]

    style EIG fill:#fff3e0,stroke:#e67e22,stroke-width:2px
Şekil 26.1: Üç ayak birbirine bağlı: P özdeğerleri (ortogonallik + özdeğer), det/trace (det + özdeğer), |λ| (dinamik).
İpucuBuilder Notu — Trace Kontrolü Disiplini

Strang’in altın kuralı: özdeğer hesapladığında her zaman trace ile doğrula (\(\sum\lambda\) = köşegen toplamı). Bedava sigorta — ML sayısal sonuçlarını sanity-check etmek için aynı disiplin.

26.2 Kapsam

  • Ch 4: Ortonormal (\(Q^T Q = I\)), projeksiyon, LS, Gram-Schmidt.
  • Ch 5: Determinant (3 + 7 özellik), büyük formül, kofaktör, \(A^{-1}\) formülü.
  • Ch 6.1–6.2: \(A\mathbf{x} = \lambda \mathbf{x}\), karakteristik, \(A = S\Lambda S^{-1}\), \(A^k\).

Kapsam dışı: ODE (6.3 — Quiz 3).

26.3 Projeksiyon Özdeğerleri

\(\mathbf{a} = (2, 1, 2)^T\) doğrusu projeksiyonu:

\[ P = \frac{\mathbf{a}\mathbf{a}^T}{\mathbf{a}^T\mathbf{a}} = \frac{1}{9}\begin{pmatrix} 4 & 2 & 4 \\ 2 & 1 & 2 \\ 4 & 2 & 4 \end{pmatrix} \]

Özdeğerler — hesaplamadan:

  • Rank 1 → 2 boyutlu null → \(\lambda = 0, 0\).
  • trace = \(9/9 = 1\)üçüncü \(\lambda = 1\).

Genel kural: projeksiyon özdeğerleri her zaman \(\{0, 1\}\) (idempotent imzası).

26.4 P + Fark Denklemi

\(\mathbf{u}_{k+1} = P\mathbf{u}_k\), \(\mathbf{u}_0 = (9, 9, 0)\):

\[ \mathbf{u}_1 = \frac{27}{9}\mathbf{a} = (6, 3, 6) \]

\(\mathbf{u}_1\) zaten kolon uzayında → \(P^2 = P\)\(\mathbf{u}_k = (6, 3, 6)\) \(\forall k \geq 1\).

26.5 Least Squares — İki Resim

\(y = Dt\) (orijinden) ile \((1, 4), (2, 5), (3, 8)\).

\(A = (1, 2, 3)^T\), \(\mathbf{b} = (4, 5, 8)\). \(14 \hat{D} = 38 \to \hat{D} = 19/7\).

Resim 1 (ty): noktalar + doğru. Resim 2 (vektör): \(\mathbf{b}\) \(\mathbb{R}^3\)’te, \(\mathbf{a} = (1, 2, 3)\) doğrusuna izdüşer.

26.6 Gram-Schmidt

\(\mathbf{a}_1 = (1, 2, 3), \mathbf{a}_2 = (1, 1, 1)\).

\[ \mathbf{B} = \mathbf{a}_2 - \frac{6}{14}\mathbf{a}_1 = \tfrac{2}{14}(4, 1, -2) \]

\(\mathbf{A} \cdot \mathbf{B} = 4 + 2 - 6 = 0\) ✓.

26.7 Özdeğer Cebri

\(\lambda_1, \ldots, \lambda_4\) olan 4×4:

  • Tersinir \(\iff \lambda_i \neq 0\).
  • \(\det(A^{-1}) = 1/\det A = 1/\prod \lambda_i\).
  • \(\text{trace}(A + I) = \sum \lambda_i + n\) (\(A + cI\) özdeğeri \(\lambda + c\)).

26.8 Tridiagonal Recurrence ve Kompleks Özdeğer

Köşegen 1, komşular 1 → \(D_n = D_{n-1} - D_{n-2}\).

Companion matris \(\begin{pmatrix} 1 & -1 \\ 1 & 0 \end{pmatrix}\)\(\lambda^2 - \lambda + 1 = 0\)\(\lambda = \frac{1 \pm \sqrt{3}i}{2}\).

\(|\lambda|^2 = 1/4 + 3/4 = 1\)\(|\lambda| = 1\) → birim çember, \(\lambda = e^{\pm i\pi/3}\)periyot 6.

\[ A^6 = I, \quad D_n: 1, 0, -1, -1, 0, 1, \text{tekrar} \]

D = [1, 0]
for _ in range(10):
    D.append(D[-1] - D[-2])
print("Dₙ dizisi (periyot 6):", D[:8])

26.9 Trace Kontrolü — Strang’in Disiplini ⭐

\(A_3 = \begin{pmatrix} 0 & 1 & 0 \\ 1 & 0 & 2 \\ 0 & 2 & 0 \end{pmatrix}\). \(\det(A_3 - \lambda I) = -\lambda(\lambda^2 - 5) = 0\)\(\lambda = 0, \sqrt 5, -\sqrt 5\).

Trace kontrolü: \(\sum\lambda = 0\) = köşegen toplamı \(0\) ✓.

“I would never write down those three eigenvalues without checking the trace.” — Strang, 44:17

26.10 Bu Tekrarın Özeti

  1. Kapsam (Ch 4-6.2, ODE hariç).
  2. Projeksiyon \(\{0, 1\}\).
  3. P idempotent fark denk. sabit.
  4. Least squares iki resim.
  5. Gram-Schmidt B formülü.
  6. Özdeğer cebri (\(A^{-1}\), \(A + cI\)).
  7. Tridiagonal recurrence.
  8. Kompleks \(|\lambda| = 1\) periyodik.
  9. Bağımlı kolon → singular.
  10. Trace kontrolü.
ÖnemliTek bir cümle

Üç ayak birbirine bağlı: projeksiyon \(\{0, 1\}\), det = \(\Pi\lambda\), trace = \(\Sigma\lambda\), \(|\lambda|\) dinamik kader. Trace kontrolü her özdeğer hesabının bedava sigortası.

26.11 Kontrol Soruları

\(P = \frac{1}{2}\begin{pmatrix} 1 & 0 & 1 \\ 0 & 0 & 0 \\ 1 & 0 & 1 \end{pmatrix}\).

Rank 1 → \(\lambda = 0, 0, 1\). trace = 1 ✓. \(\lambda = 1\) özvektörü = \(\mathbf{a}\).

\(A^T A = 14\), \(A^T \mathbf{b} = 19\)\(\hat{D} = 19/14\).

  • \(\det = -6\).
  • \(\text{trace} = 4\).
  • \(\det(A^{-1}) = -1/6\).
  • \(\text{trace}(A - 2I) = (0, 1, -3) \to -2\).

Ortogonallik: projeksiyon → regresyon (hat matrix); QR → kararlı LS, PCA, ortogonal başlatma.

Determinant: \(|\det J|\) → Jacobian (normalizing flows); log-det → Gaussian likelihood, entropi; \(\det = 0\) → tekil teşhis.

Özdeğer: PCA (kovaryans), Markov/PageRank (\(\lambda = 1\)), RNN/SSM kararlılık (\(|\lambda|\)), log-det = \(\sum \log \lambda\).

Birleşim → SVD (Ders 29) — üçü birden.

26.12 Egzersizler

Egzersiz 1. \(\mathbf{a} = (2, 2, 1)\)\(P\), özdeğer, trace doğrulama.

Egzersiz 2. \((1, 2), (2, 3), (3, 5)\)\(y = C + Dt\) (sabitli) → normal denklemler.

Egzersiz 3. \(\mathbf{a}_1 = (1, 1, 0), \mathbf{a}_2 = (1, 0, 1)\) → Gram-Schmidt.

Egzersiz 4. (Python) Quiz konuları tara.

Egzersiz 5. İspatla: Projeksiyon \(\lambda \in \{0, 1\}\). (İpucu: \(P^2 = P\)\(\lambda^2 = \lambda\).) Ders 25 (simetrik) habercisi.

26.13 Sonraki Ders İçin Hazırlık

Ders 25: Simetrik Matrisler ve Pozitif Tanımlılık

  • Spektral teorem: simetrik → gerçel λ + ortogonal özvektör; \(A = Q\Lambda Q^T\).
  • Pozitif tanım: \(\lambda > 0\), pivot \(> 0\).
  • Kovaryans, Gram, kernel — hepsi simetrik.
UyarıDers 25 öncesi
  • Egzersiz 5.
  • Ders 14-24 + bu tekrar gözden geçir.

26.14 Sınav Formülleri (Cheat Sheet)

Soru tipi Anahtar Strang’da
Projeksiyon \(P\) \(P = \mathbf{a}\mathbf{a}^T/\mathbf{a}^T\mathbf{a}\); \(\lambda \in \{0, 1\}\) 4m35
\(\lambda = 1\) özvektörü \(\mathbf{a}\) (\(P\mathbf{a} = \mathbf{a}\)) 6m39
\(P^2 = P\) fark denk. İlk adımdan sonra sabit 9m22
Least squares \(A^T A \hat{\mathbf{x}} = A^T \mathbf{b}\) 15m01
Gram-Schmidt \(\mathbf{B} = \mathbf{a}_2 - \frac{\mathbf{a}_1^T \mathbf{a}_2}{\mathbf{a}_1^T \mathbf{a}_1}\mathbf{a}_1\) 21m14
det/trace \(\Pi\lambda, \Sigma\lambda\) 24m38
Recurrence \(D_n = D_{n-1} - D_{n-2}\) 28m14
\(|\lambda| = 1\) Periyodik 35m58
Trace kontrolü Bedava doğrulama 44m17

26.15 ML Bağlantıları Özeti

İpucu7 köprü
  1. \(P \in \{0, 1\}\) → Hat matrix, regresyon.
  2. LS = projeksiyon → Lineer regresyon iki resim.
  3. GS/QR → Kararlı regresyon, ortogonal başlatma.
  4. det/trace = \(\Pi\lambda/\Sigma\lambda\) → Log-det, iz regularization.
  5. \(|\lambda|\) → RNN/SSM kararlılık.
  6. Trace kontrolü → Sanity-check disiplini.
  7. Üç bölüm → SVD (Ders 29) birleşim.
ÖnemliTek bir şey alıp gideceksen

Üç ayak birbirine bağlı: projeksiyon \(\{0, 1\}\), det = \(\Pi\lambda\), trace = \(\Sigma\lambda\), \(|\lambda|\) dinamik kader. Trace kontrolü bedava sigorta.