機率論（Probability Theory）

前敘

筆記內容著重於，電腦科學與人工智慧領域所應用的數學，目的為快速導讀重點脈絡及公式，類似於直式的心智圖，有助於構思規劃學習路線，或是直接查找應用。

---

目錄

筆記目前整理部分

• 微積分
  (研究連續變化、累積與極限現象的數學，應用於函數分析、優化與動態系統建模)

• 線性代數
  (研究向量、矩陣與線性變換的結構與操作，為機器學習與深度學習的核心基礎)

• 離散數學（廣義邏輯學）
  (研究離散結構與邏輯基礎，包含集合論、圖論、布林代數等，支撐演算法設計與計算理論)

• 統計學
  (研究資料分佈、推論與估計，是資料分析與機器學習模型評估的重要工具)

• 幾何學
  (研究形狀、空間關係與度量，在電腦視覺、圖形學與機器人定位中應用廣泛)

• 數學分析
  (研究極限、收斂性與嚴格定義的連續性，是微積分的理論基礎並延伸至泛函分析)

• 機率論
  (研究隨機事件與不確定性，為貝葉斯推論、馬可夫過程及強化學習等提供理論支撐)

---

機率論常用在強化學習中，因此這部分將持續補上與強化學習有關的理論公式

普通機率（Ordinary Probability）

事件 $A$ 發生的機率是所有可能結果中，屬於 $A$ 的結果比例 $0 \le P(A) \le 1$

$$P(A) \in [0,1]$$

條件機率：在 $B$ 發生的條件下 $A$ 發生的機率 $P(A \mid B)$

聯合機率 (Joint Probability)

兩個或多個隨機變數同時發生的機率 $p(x,y)$

對所有可能值求和 $\sum_x \sum_y p(x,y) = 1$

邊際機率 (marginal probability)

從聯合機率分布中「消去」一個或多個變數，得到剩下變數的機率分布 $P(X = x) = \sum_y P(X = x, Y = y)$

---

條件機率（Conditional Probability）

在事件 $B$ 已經發生的前提下，事件 $A$ 發生的機率：

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0$$

• $P(A \cap B)$：$A$ 與 $B$ 同時發生的機率（交集機率）
• $P(B)$：$B$ 發生的機率
• $P(A \mid B)$：在 $B$ 發生的情況下，$A$ 發生的比例

如果 $B$ 是必然事件，$P(B) = 1$：

$$P(A \mid B) = \frac{P(A \cap B)}{1} = P(A \cap B)$$

獨立事件（Independent Events）

事件 $A$ 與 $B$ 獨立

$$P(A \cap B) = P(A) \cdot P(B)$$

$A$ 發生與否不影響 $B$ 發生的機率

條件機率形式：

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)} = \frac{P(A)\cdot P(B)}{P(B)} = P(A)$$

而事件B的發生機率為

$$P(B \mid A) = P(B)$$