34  Quiz 3 İncelemesi

Özdeğer parmak izi: simetrik, ortogonal, PD, Markov, projeksiyon

NotBölüm bilgisi

34.1 Bu Derste Ne Var?

Bölüm 6 (Ders 21–31) tekrarı.

  1. ODE + anti-simetrik — saf sanal λ, periyodik.
  2. “Hangi \(c\)?” — diagonalize / simetrik / PD / Markov / projeksiyon.
  3. SVD + işaret tuzağı.
  4. Simetrik + ortogonal\(\lambda = \pm 1\).
flowchart LR
    SYM["Simetrik"] --> R["λ gerçel"]
    SKEW["Anti-simetrik"] --> IM["λ saf sanal"]
    ORTH["Ortogonal"] --> ABS["|λ| = 1"]
    PD["Pozitif tanım"] --> POZ["λ > 0"]
    MARK["Markov"] --> ONE["λ_max = 1"]
    PROJ["Projeksiyon"] --> ZERO_ONE["λ ∈ {0, 1}"]
    SO["Simetrik + ortogonal"] --> PM["λ = ±1, A² = I"]

    NORM["Normal: AAᵀ = AᵀA"] --> EIGORTH["Ortogonal özvektör"]
flowchart LR
    SYM["Simetrik"] --> R["λ gerçel"]
    SKEW["Anti-simetrik"] --> IM["λ saf sanal"]
    ORTH["Ortogonal"] --> ABS["|λ| = 1"]
    PD["Pozitif tanım"] --> POZ["λ > 0"]
    MARK["Markov"] --> ONE["λ_max = 1"]
    PROJ["Projeksiyon"] --> ZERO_ONE["λ ∈ {0, 1}"]
    SO["Simetrik + ortogonal"] --> PM["λ = ±1, A² = I"]

    NORM["Normal: AAᵀ = AᵀA"] --> EIGORTH["Ortogonal özvektör"]
Şekil 34.1: Özel matris sınıfları = özdeğer parmak izleri.
İpucuBuilder Notu — Özdeğer Parmak İzi

ML’de matris sınıfını bilmek = davranışı bilmek.

  • Kovaryans/Gram → simetrik PSD → PCA güvenli.
  • Ortogonal başlatma\(|\lambda| = 1\) → gradyan kararlı.
  • Markov\(\lambda_{\max} = 1\) → PageRank kararlı dağılım.
  • Anti-simetrik → salınım, enerji-koruyan (Hamiltonian NN, Lipschitz RNN).

34.2 Kapsam

Bölüm 6: özdeğer/özvektör, simetrik (Q\(\Lambda\)Q\(^T\)), PD, benzer matris, SVD.

34.3 Problem 1: Anti-Simetrik ODE

\(A^T = -A\)anti-simetrik. Karakteristik denklem \(\lambda^3 + 2\lambda = 0\):

\[ \lambda = 0, \pm\sqrt 2 i \]

Saf sanal\(|e^{i\sqrt 2 t}| = 1\), çözüm periyodik. Periyot:

\[ T = \frac{2\pi}{\sqrt 2} = \pi\sqrt 2 \]

Ortogonal özvektör koşulu: \(A A^T = A^T A\) (normal matris). Simetrik, anti-simetrik, ortogonal hepsi sağlar.

“A matrix has orthogonal eigenvectors exactly when AAᵀ = AᵀA.” — Strang, 13:55

34.4 Problem 2: “Hangi \(c\)?”

3×3 matris, ortogonal özvektörler, özdeğerler 0, 2, \(c\):

  • Diagonalize: her \(c\) (ortogonal özvektörler bağımsız).
  • Simetrik: gerçel \(c\) (sanal olsaydı simetri yok).
  • PD: hiçbir \(c\) (\(\lambda = 0\) var).
  • Markov: olamaz (\(\lambda = 2 > 1\)).
  • \(A/2\) projeksiyon mu? Özdeğerleri \(0, 1, c/2\). \(c/2 \in \{0, 1\}\)\(c = 0\) veya \(c = 2\).

34.5 SVD İşaret Tuzağı

\(V\) ve \(\sigma\) sabitle, sonra:

\[ \mathbf{u}_i = \frac{A \mathbf{v}_i}{\sigma_i} \]

(Bağımsız \(A A^T\) özvektörleri ± belirsizliği yaratır.)

34.6 SVD’den Matris Okuma

  • \(\Sigma = \text{diag}(3, 2)\) → tersinir, rank 2.
  • \(\Sigma = \text{diag}(3, 0)\) → rank 1, null boyut 1, null vektör = \(\mathbf{v}_2\).
  • \(\Sigma = \text{diag}(3, -5)\)geçersiz (\(\sigma \geq 0\)).

34.7 Simetrik + Ortogonal — λ = ±1

Simetrik → gerçel; ortogonal → \(|\lambda| = 1\). \(\lambda = \pm 1\).

İddia D/Y Neden
PD Y \(\lambda = -1\) olabilir
Tekrarsız Y Büyük boyutta ±1 tekrarlanır
Diagonalize D Simetrik/ortogonal her zaman
Tersinir D \(\lambda = 0\) yok

\(A = A^T = A^{-1}\)\(A^2 = I\).

34.8 ½(A + I) Projeksiyon mu?

\(A\) simetrik+ortogonal → \(A^2 = I\):

\[ \left(\frac{A + I}{2}\right)^2 = \frac{A^2 + 2A + I}{4} = \frac{2A + 2I}{4} = \frac{A + I}{2} \checkmark \]

\(P^2 = P\) + simetrik → projeksiyon. Özdeğerler: \(A\)’da \(\pm 1\)\(A + I\)’de \(0, 2\)\(\frac{A+I}{2}\)’de \(0, 1\) ✓.

34.9 Özet — Parmak İzi Tablosu ⭐

Sınıf Özdeğer parmak izi
Simetrik \(\lambda\) gerçel, ortogonal özvektör
Anti-simetrik \(\lambda\) saf sanal
Ortogonal \(|\lambda| = 1\)
PD \(\lambda > 0\)
Markov \(\lambda_{\max} = 1\)
Projeksiyon \(\lambda \in \{0, 1\}\)
Sim + ort \(\lambda = \pm 1\), \(A^2 = I\)
Normal (\(AA^T = A^T A\)) Ortogonal özvektör
\(e^{At}\) \(S e^{\Lambda t} S^{-1}\)
SVD \(A = U\Sigma V^T\), \(V = \mathrm{eig}(A^T A)\), \(\mathbf{u}_i = A\mathbf{v}_i/\sigma_i\)
ÖnemliTek bir cümle

Özel matris sınıfları özdeğer parmak izleriyle tanınır; bu kestirme matrisi hesaplamadan davranışı söyler. Simetrik + ortogonal → \(\lambda = \pm 1\), \(A^2 = I\).

34.10 Kontrol Soruları

Saf sanal. Periyodik çözüm.

\(A A^T = A^T A\) (normal).

\(\pm 1\).

\(\mathbf{u}_i = A\mathbf{v}_i / \sigma_i\).

\(A = A^T = A^{-1}\)\(A^2 = I\).

34.11 Egzersizler

Egzersiz 1. \(A = ((0, -1), (1, 0))\) — özdeğerler, geometrik anlam.

Egzersiz 2. \(\lambda = 1, 1, 0\) simetrik — Markov? Projeksiyon?

Egzersiz 3. \(\Sigma = \text{diag}(5, 0, 0)\) 3×3 — rank, null boyutu?

Egzersiz 4. (Python) Parmak izi tablosu doğrulama.

Egzersiz 5. İspatla: Normal matris ortogonal özvektör.

34.12 Sonraki Ders İçin Hazırlık

Ders 33: Pseudoinverse — sol/sağ ters, \(A^+ = V\Sigma^+ U^T\).

UyarıDers 33 öncesi
  • Parmak izi tablosu ezberle.
  • SVD egzersizlerini gözden geçir.

34.13 Anahtar Kavramlar (Cheat Sheet)

Konu Anahtar
Genel ODE çözüm \(\sum c_i e^{\lambda_i t} \mathbf{x}_i\)
Anti-simetrik \(\lambda\) saf sanal, periyodik
Periyot \(T = 2\pi/\omega\)
Ortogonal özvektör \(A A^T = A^T A\)
\(e^{At}\) \(S e^{\Lambda t} S^{-1}\)
PD \(\lambda > 0\)
Markov \(\lambda_{\max} = 1\)
Projeksiyon \(\lambda \in \{0, 1\}\)
Sim + ort \(\lambda = \pm 1, A^2 = I\)
SVD rank # nonzero \(\sigma\); \(\sigma < 0\) imkansız

34.14 ML Bağlantıları Özeti

İpucu3 köprü
  1. Parmak izi → Mimari kararlar (PCA, ortogonal başlatma, Markov RNN).
  2. Anti-simetrik → Hamiltonian NN, Lipschitz RNN (enerji-koruyan).
  3. Ortogonal/normal → Spektral normalizasyon, unitary RNN, gradyan kararlılığı.
ÖnemliTek bir şey alıp gideceksen

Özdeğer parmak izi her özel sınıfı tanır: simetrik gerçel, ortogonal \(|\lambda|=1\), PD \(\lambda>0\), Markov \(\lambda_{\max}=1\), projeksiyon \(\{0, 1\}\). Sim+ort → \(\pm 1, A^2 = I\).