AI 摘要

向量空間中的歐幾里得距離與 L2 範數

歐幾里得距離（Euclidean Distance）是向量空間中兩點之間的直線距離，源自歐幾里得幾何，廣泛用於機器學習、統計分析及聚類演算法，用以衡量樣本之間的相似度。

畢氏定理（Pythagorean Theorem）

直角三角形中斜邊的平方等於兩個直角邊的平方和，$c$ 為斜邊，$a$、$b$ 為直角邊，公式為

$$c^2 = a^2 + b^2$$

歐幾里得距離（Euclidean Distance）

由畢氏定理可推得平面與空間中兩點之間的直線距離，並可自然推廣至 n 維空間。對於兩個向量 $\mathbf{p}, \mathbf{q}$，其歐幾里得距離定義為

二維空間中兩點 $A(x_1,y_1)$ 與 $B(x_2,y_2)$ 的距離可寫為

$$d(A,B) = \sqrt{(x_2 - x_1)^2 + (y_2 - y_1)^2}$$

多維空間中的距離表示為

$$d(\mathbf{p},\mathbf{q}) = \sqrt{\sum_{i=1}^n (p_i-q_i)^2}$$

實際展開為

$$d(\mathbf{p}, \mathbf{q}) = \sqrt{(p_1 - q_1)^2 + (p_2 - q_2)^2 + \cdots + (p_n - q_n)^2}$$

歐幾里得範數（Euclidean / L2 Norm）

在向量空間中，**範數（Norm）**用來衡量單一向量的大小。L2 範數是一種由歐幾里得幾何自然延伸而來的範數，定義為

$$|\mathbf{x}|_2 = \sqrt{\sum_{i=1}^n x_i^2}$$

其中 $\mathbf{x} \in \mathbb{R}^n$，此定義將向量映射為一個非負實數，用以描述其在歐幾里得空間中的長度。

由 L2 範數可誘導出歐幾里得距離，對於任意兩個向量 $\mathbf{p}, \mathbf{q}$，其距離可表示為

$$d(\mathbf{p}, \mathbf{q}) = |\mathbf{p}-\mathbf{q}|_2$$

特徵空間中的中心距離

在機器學習中，資料通常表示為特徵向量（Feature Vector）

$$\mathbf{x} = [x_1, x_2, \dots, x_n], \quad \boldsymbol{\mu} = [\mu_1, \mu_2, \dots, \mu_n]$$

樣本與中心點之間的距離，通常採用前述之**歐幾里得距離（L2 距離）**進行計算，其中 $\mathbf{x}$ 表示樣本特徵向量，$\boldsymbol{\mu}$ 為中心點（Centroid），距離大小用於判斷樣本與中心的相似程度。

範例

特徵向量

$$\mathbf{x} = [120, 400, 500, 100, 1500, 800], \quad \boldsymbol{\mu} = [100, 450, 480, 150, 1400, 850]$$

距離計算

$$|\mathbf{x}-\boldsymbol{\mu}|_2 = \sqrt{(120-100)^2 + (400-450)^2 + \dots + (800-850)^2}$$