AI 摘要

電腦科學數學：機率論

筆記內容著重於電腦科學與人工智慧領域所使用的數學，依照概念、符號與公式整理重點脈絡，作為快速導讀、學習路線規劃與應用查找的直式索引。

基礎結構與符號層（Foundational Structures & Symbols）

樣本空間（Sample Space）

樣本空間表示一次隨機試驗中所有可能結果的集合。

$$\Omega$$

其中 $\omega \in \Omega$ 表示單次試驗的結果。

事件（Event）

事件是樣本空間的子集合，用來表示某類結果是否發生。

$$A \subseteq \Omega$$

語義事件 $A$ 發生 $\iff$ 試驗結果 $\omega \in A$

σ-代數 / 事件集合（σ-algebra / Event Collection）

σ-代數事件集合是一組事件，具備封閉性條件（包含空集合、補集、可數聯集），用於定義測度論的機率。

$$\mathcal{F} \subseteq 2^\Omega$$

$\mathcal{F}$ 中的元素本身就是事件。

機率測度（Probability Measure）

機率測度定義為：

$$P : \mathcal{F} \to [0,1]$$

滿足 Kolmogorov 公理：

非負性（Non-negativity）

$$P(A) \ge 0$$

規範性（Normalization）

$$P(\Omega)=1$$

可數可加性（Countable Additivity）

$$P\Big(\bigcup_{i=1}^{\infty} A_i\Big)=\sum_{i=1}^{\infty}P(A_i)$$

其中 $A_i$ 兩兩互斥。

機率空間（Probability Space）

由三元組 $(\Omega, \mathcal{F}, P)$ 定義完整結構。

$$(\Omega, \mathcal{F}, P)$$

指示函數（Indicator Function）

將事件是否發生映射為數值，可用於代數化操作。

$$\mathbf{1}_A \Omega \to {0,1}$$ $$\mathbf{1}_A(\omega) = \begin{cases} 1, & \omega \in A\\ 0, & \omega \notin A \end{cases}$$

機率與隨機變數

普通機率（Ordinary Probability）

事件 $A$ 發生的機率為所有可能結果中屬於 $A$ 的比例。

$$P(A) \in [0,1]$$

條件機率（Conditional Probability）

在事件 $B$ 已發生的條件下事件 $A$ 發生的機率

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0$$

若 $B$ 為必然事件

$$P(A \mid B) = P(A \cap B)$$

獨立事件（Independent Events）

事件 $A$ 與 $B$ 獨立

$$P(A \cap B) = P(A)\cdot P(B)$$

條件機率形式

$$P(A \mid B) = P(A), \quad P(B \mid A) = P(B)$$

隨機變數（Random Variable）

隨機變數為樣本空間到實數的映射：

$$X:\Omega\to\mathbb{R}$$

期望值（Expected Value）

隨機變數在機率測度下的加權平均，用於描述長期重複試驗的比例結構。

離散型隨機變數 $X$（取值於 ${x_i}$）

$$E(X) = \sum_i x_i P(X=x_i)$$

連續型隨機變數 $X$（機率密度 $f_X(x)$）

$$E(X) = \int_{-\infty}^{\infty} x f_X(x), dx$$

聯合與邊際機率（Joint & Marginal Probability）

聯合機率（Joint Probability）

離散型

$$\sum_{x \in \mathcal{X}}\sum_{y \in \mathcal{Y}} P(X=x,Y=y) = 1$$

連續型

$$\int_{-\infty}^{\infty}\int_{-\infty}^{\infty} p(x,y), dx, dy = 1$$

邊際機率（Marginal Probability）

離散型

$$P(X=x) = \sum_y P(X=x,Y=y)$$

連續型

$$p_X(x) = \int p(x,y), dy$$

馬可夫決策與強化學習應用（MDP / Reinforcement Learning Layer）

本區塊為機率論在序列決策問題中的應用形式，核心結構為馬可夫決策過程（Markov Decision Process, MDP），機率分佈用於描述條件決策行為，而非僅描述事件發生機率。

策略與分佈符號（Policy & Distribution Notation）

策略（Policy）

策略為從狀態映射到動作機率分佈的函數：

$$\pi_\theta : \mathcal{S} \to \Delta(\mathcal{A})$$

動作條件機率（Action Distribution）

在狀態 $s$ 下動作 $a$ 的機率：

$$\pi_\theta(a \mid s)$$

分佈表示（Distribution Notation）

將動作變數留空表示整個分佈：

$$\pi_\theta(\cdot \mid s)$$

抽樣（Sampling）

動作由策略分佈生成：

$$a \sim \pi_\theta(\cdot \mid s)$$ $$P(a \mid s) = \pi_\theta(a \mid s)$$

機率單純形（Probability Simplex）

$$\Delta(\mathcal{A}) = \{\, p \in \mathbb{R}^{|\mathcal{A}|} \mid p_i \ge 0,\; \sum_i p_i = 1 \,\}$$

參數（Parameters）

$$\theta$$

用於控制策略：

$$\pi_\theta(a \mid s)$$