23 Diagonalization ve Aᵏ

A = SΛS⁻¹ — kuvvetler, dinamik, Fibonacci

Bölüm bilgisi

Strang’in videosu: YouTube — Lecture 22: Diagonalization and Powers of A (≈52 dk)
OCW sayfası: MIT 18.06SC — Lecture 22
Okuma süresi: ≈40 dk

23.1 Bu Derste Ne Var?

Diagonalization: $A = S \Lambda S^{-1}$.
$A^k = S \Lambda^k S^{-1}$ — kuvvetler kolaylaşır.
Kararlılık: $A^k \to 0$ iff tüm $|\lambda| < 1$.
Fark denklemi: $\mathbf{u}_{k+1} = A\mathbf{u}_k$, Fibonacci ve altın oran.

“A to the K power is S lambda to the K S inverse.” — Strang, 13:08

flowchart LR
    DIAG["⭐ A = SΛS⁻¹"] --> POW["Aᵏ = SΛᵏS⁻¹"]
    POW --> STAB["Kararlılık<br/>|λ| < 1 ⟺ Aᵏ → 0"]
    POW --> DIFF["u_k = Σ cᵢ λᵢᵏ xᵢ<br/>(fark denklemi)"]
    DIFF --> FIB["Fibonacci<br/>φ = (1+√5)/2"]
    DIFF --> ML["Markov/PageRank<br/>RNN kararlılık<br/>spectral gap"]

    style DIAG fill:#fff3e0,stroke:#e67e22,stroke-width:3px
    style ML fill:#fce4ec,stroke:#c2185b,stroke-width:2px

flowchart LR
    DIAG["⭐ A = SΛS⁻¹"] --> POW["Aᵏ = SΛᵏS⁻¹"]
    POW --> STAB["Kararlılık<br/>|λ| < 1 ⟺ Aᵏ → 0"]
    POW --> DIFF["u_k = Σ cᵢ λᵢᵏ xᵢ<br/>(fark denklemi)"]
    DIFF --> FIB["Fibonacci<br/>φ = (1+√5)/2"]
    DIFF --> ML["Markov/PageRank<br/>RNN kararlılık<br/>spectral gap"]

    style DIAG fill:#fff3e0,stroke:#e67e22,stroke-width:3px
    style ML fill:#fce4ec,stroke:#c2185b,stroke-width:2px

Şekil 23.1: A = SΛS⁻¹ → Aᵏ, kararlılık, fark denklemleri, Fibonacci/altın oran.

Builder Notu — Dinamik Sistemlerin Omurgası

Markov/PageRank → dominant $\lambda = 1$ + kararlı durum özvektörü.
RNN kararlılığı → spektral yarıçap; $|\lambda| > 1$ patlar, $< 1$ söner.
Fark denklemi → dizi modelleri, lineer recurrence.
Spectral gap $1 - |\lambda_2|$ → MCMC karışma hızı.

23.2 AS = SΛ ve A = SΛS⁻¹

Özvektörleri $S$’nin kolonlarına koy:

\[ AS = S\Lambda, \quad \Lambda = \text{diag}(\lambda_1, \ldots, \lambda_n) \]

$S$ tersinirse:

\[ \boxed{A = S \Lambda S^{-1}} \]

Koşul: $n$ bağımsız özvektör. Tekrarlı + eksik özvektör → diagonalize edilemez (degenerate).

Builder Notu: Bir matrisi kendi doğal koordinatlarına çevirir; PCA verinin kovaryansını köşegenleştirir.

23.3 Aᵏ = SΛᵏS⁻¹ ⭐

\[ A^2 = S \Lambda \underbrace{S^{-1} S}_{I} \Lambda S^{-1} = S \Lambda^2 S^{-1} \]

Ortadaki sadeleşir, $k$ kez tekrar → $A^k = S \Lambda^k S^{-1}$.

$\Lambda^k = \text{diag}(\lambda_1^k, \ldots)$ — köşegen, bedava.

A¹⁰⁰ doğrudan imkânsız; SΛ¹⁰⁰S⁻¹ ile anında.

import numpy as np

A = np.array([[1, 1], [1, 0]], dtype=float)   # Fibonacci
vals, S = np.linalg.eig(A)
print("özdeğerler (altın oran):", vals)        # [1.618, -0.618]

Lam = np.diag(vals)
A10_spec = S @ np.linalg.matrix_power(Lam, 10) @ np.linalg.inv(S)
print("A^10 (spektral):\n", np.round(A10_spec))
print("A^10 (doğrudan):\n", np.linalg.matrix_power(A, 10))

23.4 Kararlılık

\[ A^k \to 0 \iff \text{tüm } |\lambda_i| < 1 \]

“A to the K approaches zero if all eigenvalues are less than one in absolute value.” — Strang, 14:53

Spektral yarıçap = en büyük $|\lambda|$ = uzun-vadeli davranış.

Builder Notu — ML’de Kararlılık

RNN spektral yarıçapı $> 1$ → exploding gradient; $< 1$ → vanishing → ortogonal başlatma ($|\lambda| = 1$).
Markov: dominant $\lambda = 1$ kararlı durum, diğerleri söner.
Spectral gap: karışma hızı (MCMC).

23.5 Multiplicity

Cebirsel: karakteristik polinomda kök tekrar sayısı.
Geometrik: $\dim N(A - \lambda I)$ — bağımsız özvektör sayısı.

Geometrik $<$ cebirsel → degenerate, diagonalize edilemez.

Builder Notu: Simetrik matrisler asla degenerate olmaz (spektral teorem, Ders 25) — kovaryans, Gram, kernel, Laplacian güvenle diagonalize edilir.

23.6 Fark Denklemleri ve Spektral Çözüm

\[ \mathbf{u}_{k+1} = A \mathbf{u}_k \implies \mathbf{u}_k = A^k \mathbf{u}_0 \]

Spektral numara: $\mathbf{u}_0$’ı özvektörlere ayır → her özvektör bağımsız evrilir:

\[ \mathbf{u}_0 = \sum c_i \mathbf{x}_i \implies \mathbf{u}_k = \sum c_i \lambda_i^k \mathbf{x}_i \]

Uzun vadede en büyük $|\lambda|$ baskın.

Builder Notu: Markov, dolaşım, difüzyon, Fourier mod analizi — hepsi spektral ayrışım.

23.7 Fibonacci Örneği ⭐

$F_{k+2} = F_{k+1} + F_k$. Vektörleştir: $\mathbf{u}_k = (F_{k+1}, F_k)^T$:

\[ A = \begin{pmatrix} 1 & 1 \\ 1 & 0 \end{pmatrix}, \quad \det(A - \lambda I) = \lambda^2 - \lambda - 1 = 0 \]

(Karakteristik denklem = Fibonacci recursion’unun kendisi!)

\[ \lambda_1 = \frac{1 + \sqrt 5}{2} \approx 1.618 = \varphi \text{ (altın oran)}, \quad \lambda_2 \approx -0.618 \]

Çözüm: $F_k \approx c_1 \varphi^k + c_2 \lambda_2^k$. $|\lambda_2| < 1$ → söner → $F_k \approx c_1 \varphi^k$.

Her adımda ~1.618 kat büyür.

23.8 Bu Dersin Özeti

$AS = S\Lambda$.
$A = S\Lambda S^{-1}$.
$A^k = S\Lambda^k S^{-1}$.
Kararlılık $|\lambda| < 1$.
Distinct λ → diagonalize edilebilir.
Multiplicity (degenerate).
Fark denklemi.
Spektral çözüm.
Fibonacci → φ.
Büyüme = max $|\lambda|$.

Tek bir cümle

$A = S\Lambda S^{-1}$ matrisin doğal eksenlerini açar; $A^k = S\Lambda^k S^{-1}$ kuvvetleri çözer. Fark denklemi çözümü $\mathbf{u}_k = \sum c_i \lambda_i^k \mathbf{x}_i$; uzun-vadeli davranış en büyük $|\lambda|$ ile (kararlılık, büyüme, kararlı durum).

23.9 Kontrol Soruları

Soru 1: A = (2 0 / 0 3) → S, Λ?

Zaten köşegen: $S = I$, $\Lambda = A$. Özvektörler $(1, 0), (0, 1)$.

Soru 2: A = (0 1 / 1 0) → A¹⁰?

$\lambda = \pm 1$. $\Lambda^{10} = \text{diag}(1, 1) = I$.

$A^{10} = S I S^{-1} = I$. (Çift kuvvetler $I$, tek kuvvetler $A$.)

Soru 3: λ = 0.5, -0.9 kararlı mı? 0.5, 1.2?

$|0.5|, |0.9| < 1$ → Aᵏ → 0, kararlı (en büyük 0.9 söndürür).
$|1.2| > 1$ → patlar.

Kural: spektral yarıçap.

Soru 4: Markov / PageRank → özdeğer/özvektör.

Markov: kolonları olasılık. En büyük $\lambda = 1$, özvektörü = kararlı durum.

$\mathbf{u}_k \to c_1 \mathbf{x}_1$ (sönenler kaybolur).

PageRank: $\lambda = 1$ özvektörü = sayfa skorları. Power iteration ile hesap.

Karışma hızı: $1 - |\lambda_2|$ (spectral gap); MCMC verimliliği.

23.10 Egzersizler

Egzersiz 1. $A = (4\ 1 / 0\ 3)$ → diagonalize, $A^5$.

Egzersiz 2. Lucas dizisi ($L_0 = 2, L_1 = 1$) — büyüme oranı?

Egzersiz 3. $\lambda = 1, 0.5, -0.3$ — $\mathbf{u}_k$ uzun vadede?

Egzersiz 4. (Python) eig + matrix_power ile A¹⁰.

Egzersiz 5. İspatla: $A = S\Lambda S^{-1}$ → polinom $p(A) = S \cdot p(\Lambda) \cdot S^{-1}$. Ders 23 ($e^{At}$) temeli.

23.11 Sonraki Ders İçin Hazırlık

Ders 23: Diferansiyel Denklemler ve $e^{At}$

Sürekli: $\frac{d\mathbf{u}}{dt} = A\mathbf{u}$ → $\mathbf{u}(t) = e^{At} \mathbf{u}(0)$.
$e^{At} = S e^{\Lambda t} S^{-1}$.
Kararlılık: $\text{Re}(\lambda) < 0$.

Ders 23 öncesi

Egzersiz 5 ($p(A)$).
matrix_power ile diagonalizasyonu doğrula.

23.12 Anahtar Kavramlar (Cheat Sheet)

Kavram	Tanım	Strang’da
$AS = S\Lambda$	Özvektör + özdeğer matrisi	1m19
$A = S\Lambda S^{-1}$	Diagonalize	8m44
$A^k = S\Lambda^k S^{-1}$	Kuvvetler	12m32
Kararlılık	$\|\lambda\| < 1$	14m24
Distinct	Bağımsız özvektör garanti	18m05
Multiplicity	Geom $<$ cebir → degenerate	22m14
Fark denklemi	$\mathbf{u}_{k+1} = A\mathbf{u}_k$	26m46
Spektral çözüm	$\sum c_i \lambda_i^k \mathbf{x}_i$	29m23
Fibonacci	$A = (1\,1 / 1\,0)$, $\lambda^2 - \lambda - 1$	34m29
Altın oran	$\varphi \approx 1.618$	44m22

23.13 ML Bağlantıları Özeti

7 köprü

$A = S\Lambda S^{-1}$ = baz değişimi → PCA köşegenleştirme.
$A^k$ = spektral → Dinamik sistem, iteratif algoritmalar.
$|\lambda|$ = RNN kararlılık → Ortogonal başlatma.
Markov/PageRank → Dominant λ.
Fark denklemi → Dizi modelleri.
Spectral gap → MCMC karışma.
Simetrik diagonalize → Kovaryans/Gram/Laplacian sağlam.

Tek bir şey alıp gideceksen

$A = S\Lambda S^{-1}$ doğal eksenler; $A^k = S\Lambda^k S^{-1}$ kuvvetler; çözüm $\sum c_i \lambda_i^k \mathbf{x}_i$. Max $|\lambda|$ = kararlılık/büyüme — PageRank, RNN, MCMC kalbi.

--- title: "Diagonalization ve Aᵏ" subtitle: "A = SΛS⁻¹ — kuvvetler, dinamik, Fibonacci" --- ::: {.callout-note title="Bölüm bilgisi"} - **Strang'in videosu:** [YouTube — Lecture 22: Diagonalization and Powers of A](https://www.youtube.com/watch?v=13r9QY6cmjc) (≈52 dk) - **OCW sayfası:** [MIT 18.06SC — Lecture 22](https://ocw.mit.edu/courses/18-06sc-linear-algebra-fall-2011/resources/lecture-22-diagonalization-and-powers-of-a/) - **Okuma süresi:** ≈40 dk ::: ## Bu Derste Ne Var? {#sec-bu-derste} 1. **Diagonalization:** $A = S \Lambda S^{-1}$. 2. **$A^k = S \Lambda^k S^{-1}$** — kuvvetler kolaylaşır. 3. **Kararlılık:** $A^k \to 0$ iff tüm $|\lambda| < 1$. 4. **Fark denklemi**: $\mathbf{u}_{k+1} = A\mathbf{u}_k$, **Fibonacci** ve altın oran. > *"A to the K power is S lambda to the K S inverse."* — Strang, 13:08 ```{mermaid} %%| label: fig-concept-map %%| fig-cap: "A = SΛS⁻¹ → Aᵏ, kararlılık, fark denklemleri, Fibonacci/altın oran." flowchart LR DIAG["⭐ A = SΛS⁻¹"] --> POW["Aᵏ = SΛᵏS⁻¹"] POW --> STAB["Kararlılık |λ| < 1 ⟺ Aᵏ → 0"] POW --> DIFF["u_k = Σ cᵢ λᵢᵏ xᵢ (fark denklemi)"] DIFF --> FIB["Fibonacci φ = (1+√5)/2"] DIFF --> ML["Markov/PageRank RNN kararlılık spectral gap"] style DIAG fill:#fff3e0,stroke:#e67e22,stroke-width:3px style ML fill:#fce4ec,stroke:#c2185b,stroke-width:2px ``` ::: {.callout-tip title="Builder Notu — Dinamik Sistemlerin Omurgası"} - **Markov/PageRank** → dominant $\lambda = 1$ + kararlı durum özvektörü. - **RNN kararlılığı** → spektral yarıçap; $|\lambda| > 1$ patlar, $< 1$ söner. - **Fark denklemi** → dizi modelleri, lineer recurrence. - **Spectral gap** $1 - |\lambda_2|$ → MCMC karışma hızı. ::: ## AS = SΛ ve A = SΛS⁻¹ {#sec-diag} Özvektörleri $S$'nin kolonlarına koy: $$ AS = S\Lambda, \quad \Lambda = \text{diag}(\lambda_1, \ldots, \lambda_n) $$ $S$ tersinirse: $$ \boxed{A = S \Lambda S^{-1}} $$ **Koşul:** $n$ bağımsız özvektör. Tekrarlı + eksik özvektör → diagonalize edilemez (degenerate). **Builder Notu:** Bir matrisi **kendi doğal koordinatlarına** çevirir; PCA verinin kovaryansını köşegenleştirir. ## Aᵏ = SΛᵏS⁻¹ ⭐ {#sec-Ak} $$ A^2 = S \Lambda \underbrace{S^{-1} S}_{I} \Lambda S^{-1} = S \Lambda^2 S^{-1} $$ Ortadaki sadeleşir, $k$ kez tekrar → $A^k = S \Lambda^k S^{-1}$. $\Lambda^k = \text{diag}(\lambda_1^k, \ldots)$ — köşegen, bedava. A¹⁰⁰ doğrudan imkânsız; SΛ¹⁰⁰S⁻¹ ile anında. ```{python} #| label: code-Ak #| code-fold: false import numpy as np A = np.array([[1, 1], [1, 0]], dtype=float) # Fibonacci vals, S = np.linalg.eig(A) print("özdeğerler (altın oran):", vals) # [1.618, -0.618] Lam = np.diag(vals) A10_spec = S @ np.linalg.matrix_power(Lam, 10) @ np.linalg.inv(S) print("A^10 (spektral):\n", np.round(A10_spec)) print("A^10 (doğrudan):\n", np.linalg.matrix_power(A, 10)) ``` ## Kararlılık {#sec-kararlilik} $$ A^k \to 0 \iff \text{tüm } |\lambda_i| < 1 $$ > *"A to the K approaches zero if all eigenvalues are less than one in absolute value."* — Strang, 14:53 Spektral yarıçap = en büyük $|\lambda|$ = uzun-vadeli davranış. ::: {.callout-tip title="Builder Notu — ML'de Kararlılık"} - **RNN spektral yarıçapı $> 1$** → exploding gradient; $< 1$ → vanishing → **ortogonal başlatma** ($|\lambda| = 1$). - **Markov:** dominant $\lambda = 1$ kararlı durum, diğerleri söner. - **Spectral gap:** karışma hızı (MCMC). ::: ## Multiplicity {#sec-multiplicity} - **Cebirsel:** karakteristik polinomda kök tekrar sayısı. - **Geometrik:** $\dim N(A - \lambda I)$ — bağımsız özvektör sayısı. **Geometrik $<$ cebirsel** → degenerate, diagonalize edilemez. **Builder Notu:** **Simetrik matrisler asla degenerate olmaz** (spektral teorem, Ders 25) — kovaryans, Gram, kernel, Laplacian güvenle diagonalize edilir. ## Fark Denklemleri ve Spektral Çözüm {#sec-fark} $$ \mathbf{u}_{k+1} = A \mathbf{u}_k \implies \mathbf{u}_k = A^k \mathbf{u}_0 $$ **Spektral numara:** $\mathbf{u}_0$'ı özvektörlere ayır → her özvektör bağımsız evrilir: $$ \mathbf{u}_0 = \sum c_i \mathbf{x}_i \implies \mathbf{u}_k = \sum c_i \lambda_i^k \mathbf{x}_i $$ Uzun vadede en büyük $|\lambda|$ baskın. **Builder Notu:** Markov, dolaşım, difüzyon, Fourier mod analizi — hepsi spektral ayrışım. ## Fibonacci Örneği ⭐ {#sec-fibonacci} $F_{k+2} = F_{k+1} + F_k$. Vektörleştir: $\mathbf{u}_k = (F_{k+1}, F_k)^T$: $$ A = \begin{pmatrix} 1 & 1 \\ 1 & 0 \end{pmatrix}, \quad \det(A - \lambda I) = \lambda^2 - \lambda - 1 = 0 $$ (Karakteristik denklem = Fibonacci recursion'unun kendisi!) $$ \lambda_1 = \frac{1 + \sqrt 5}{2} \approx 1.618 = \varphi \text{ (altın oran)}, \quad \lambda_2 \approx -0.618 $$ Çözüm: $F_k \approx c_1 \varphi^k + c_2 \lambda_2^k$. $|\lambda_2| < 1$ → söner → $F_k \approx c_1 \varphi^k$. **Her adımda ~1.618 kat büyür.** ## Bu Dersin Özeti {#sec-ozet} 1. **$AS = S\Lambda$**. 2. **$A = S\Lambda S^{-1}$**. 3. **$A^k = S\Lambda^k S^{-1}$**. 4. **Kararlılık** $|\lambda| < 1$. 5. **Distinct λ → diagonalize edilebilir**. 6. **Multiplicity** (degenerate). 7. **Fark denklemi**. 8. **Spektral çözüm**. 9. **Fibonacci → φ**. 10. **Büyüme = max $|\lambda|$**. ::: {.callout-important title="Tek bir cümle"} $A = S\Lambda S^{-1}$ matrisin doğal eksenlerini açar; $A^k = S\Lambda^k S^{-1}$ kuvvetleri çözer. Fark denklemi çözümü $\mathbf{u}_k = \sum c_i \lambda_i^k \mathbf{x}_i$; uzun-vadeli davranış **en büyük $|\lambda|$** ile (kararlılık, büyüme, kararlı durum). ::: ## Kontrol Soruları {#sec-sorular} ::: {.callout-note collapse="true" title="Soru 1: A = (2 0 / 0 3) → S, Λ?"} Zaten köşegen: $S = I$, $\Lambda = A$. Özvektörler $(1, 0), (0, 1)$. ::: ::: {.callout-note collapse="true" title="Soru 2: A = (0 1 / 1 0) → A¹⁰?"} $\lambda = \pm 1$. $\Lambda^{10} = \text{diag}(1, 1) = I$. $A^{10} = S I S^{-1} = I$. (Çift kuvvetler $I$, tek kuvvetler $A$.) ::: ::: {.callout-note collapse="true" title="Soru 3: λ = 0.5, -0.9 kararlı mı? 0.5, 1.2?"} - $|0.5|, |0.9| < 1$ → **Aᵏ → 0, kararlı** (en büyük 0.9 söndürür). - $|1.2| > 1$ → **patlar**. Kural: spektral yarıçap. ::: ::: {.callout-note collapse="true" title="Soru 4: Markov / PageRank → özdeğer/özvektör."} **Markov:** kolonları olasılık. En büyük $\lambda = 1$, özvektörü = **kararlı durum**. $\mathbf{u}_k \to c_1 \mathbf{x}_1$ (sönenler kaybolur). **PageRank:** $\lambda = 1$ özvektörü = sayfa skorları. Power iteration ile hesap. **Karışma hızı:** $1 - |\lambda_2|$ (spectral gap); MCMC verimliliği. ::: ## Egzersizler {#sec-egzersizler} **Egzersiz 1.** $A = (4\ 1 / 0\ 3)$ → diagonalize, $A^5$. **Egzersiz 2.** Lucas dizisi ($L_0 = 2, L_1 = 1$) — büyüme oranı? **Egzersiz 3.** $\lambda = 1, 0.5, -0.3$ — $\mathbf{u}_k$ uzun vadede? **Egzersiz 4.** *(Python)* `eig` + `matrix_power` ile A¹⁰. **Egzersiz 5.** *İspatla:* $A = S\Lambda S^{-1}$ → polinom $p(A) = S \cdot p(\Lambda) \cdot S^{-1}$. Ders 23 ($e^{At}$) temeli. ## Sonraki Ders İçin Hazırlık {#sec-sonraki} **Ders 23: Diferansiyel Denklemler ve $e^{At}$** - Sürekli: $\frac{d\mathbf{u}}{dt} = A\mathbf{u}$ → $\mathbf{u}(t) = e^{At} \mathbf{u}(0)$. - $e^{At} = S e^{\Lambda t} S^{-1}$. - Kararlılık: $\text{Re}(\lambda) < 0$. ::: {.callout-warning title="Ders 23 öncesi"} - Egzersiz 5 ($p(A)$). - `matrix_power` ile diagonalizasyonu doğrula. ::: ## Anahtar Kavramlar (Cheat Sheet) {#sec-cheat-sheet} | Kavram | Tanım | Strang'da | |--------|-------|-----------| | **$AS = S\Lambda$** | Özvektör + özdeğer matrisi | 1m19 | | **$A = S\Lambda S^{-1}$** | Diagonalize | 8m44 | | **$A^k = S\Lambda^k S^{-1}$** | Kuvvetler | 12m32 | | **Kararlılık** | $|\lambda| < 1$ | 14m24 | | **Distinct** | Bağımsız özvektör garanti | 18m05 | | **Multiplicity** | Geom $<$ cebir → degenerate | 22m14 | | **Fark denklemi** | $\mathbf{u}_{k+1} = A\mathbf{u}_k$ | 26m46 | | **Spektral çözüm** | $\sum c_i \lambda_i^k \mathbf{x}_i$ | 29m23 | | **Fibonacci** | $A = (1\,1 / 1\,0)$, $\lambda^2 - \lambda - 1$ | 34m29 | | **Altın oran** | $\varphi \approx 1.618$ | 44m22 | ## ML Bağlantıları Özeti {#sec-ml-baglantilar} ::: {.callout-tip title="7 köprü"} 1. **$A = S\Lambda S^{-1}$ = baz değişimi** → PCA köşegenleştirme. 2. **$A^k$ = spektral** → Dinamik sistem, iteratif algoritmalar. 3. **$|\lambda|$ = RNN kararlılık** → Ortogonal başlatma. 4. **Markov/PageRank** → Dominant λ. 5. **Fark denklemi** → Dizi modelleri. 6. **Spectral gap** → MCMC karışma. 7. **Simetrik diagonalize** → Kovaryans/Gram/Laplacian sağlam. ::: ::: {.callout-important title="Tek bir şey alıp gideceksen"} **$A = S\Lambda S^{-1}$** doğal eksenler; **$A^k = S\Lambda^k S^{-1}$** kuvvetler; çözüm $\sum c_i \lambda_i^k \mathbf{x}_i$. **Max $|\lambda|$** = kararlılık/büyüme — PageRank, RNN, MCMC kalbi. :::