神經訊號處理與人工神經模型
生物神經系統的結構與功能
McCulloch與Pitts(1943)在 A Logical Calculus of the Ideas Immanent in Nervous Activity 中提出 [1],神經元活動遵循「全或無定律」(all-or-none law),即神經元在任一時刻要麼放電(動作電位,action potential),要麼不放電,不存在中間狀態。這一特性使得神經元可以被視為一個二元單元(binary unit)。此外,神經元具有閾值(threshold),只有當接收到的興奮性訊號總和超過閾值且未被抑制性訊號阻斷時,才會產生輸出。這些生物特性成為神經元數學抽象化的核心基礎 。
神經元的訊號傳遞
生物神經系統的結構正是進行抽象化的起點。生物神經系統(nervous system)由大量神經元(neuron)組成,這些神經元透過突觸(synapse)彼此連接,形成高度複雜的神經網路(neural network)。外界刺激或體內訊號會透過感覺系統進入神經網路,經過多層神經傳遞與整合後,最終形成感知(perception)、運動控制(motor control)或認知活動(cognition)。
在單一神經元中,訊號通常沿著特定結構傳遞。樹突(dendrite)接收來自其他神經元的訊號,細胞體(soma)對多個輸入訊號進行整合,而軸突(axon)則將整合後的訊號傳遞至其他神經元。當神經元膜電位(membrane potential)超過特定閾值(threshold)時,神經元會產生動作電位(action potential),並將訊號傳遞至下一個突觸。
神經訊號的整合機制
生物神經元對多個輸入訊號的整合方式,是人工神經元模型的直接靈感來源。原文指出,神經元會同時接收來自多個突觸(synapse)的興奮性(excitatory)與抑制性(inhibitory)輸入,並在「潛伏加成期」(period of latent addition)內對這些訊號進行空間總和(spatial summation)與時間總和(temporal summation)。若興奮性輸入的總和超過閾值且未被抑制,神經元便會產生動作電位。這一機制後來被抽象為加權輸入的總和與非線性激活函數(activation function)。
閾值邏輯單元
McCulloch與Pitts將上述生物機制抽象為閾值邏輯單元。在此模型中,每個神經元被視為具有固定閾值的二元元件,其輸出 表示該神經元在時刻 是否發放脈衝(impulse)。若神經元發放脈衝,則 ,否則 。
神經元的行為取決於其接收的輸入與自身閾值。興奮性突觸(excitatory synapse)的輸入由前一時刻其他神經元的狀態 決定。抑制性突觸(inhibitory synapse)的作用則是絕對禁止(absolutely prevents excitation)該神經元興奮; 只要有任何抑制性突觸在 時刻傳入脈衝,該神經元在 時刻便不得發放脈衝,無論興奮性輸入的總和為何。
若無抑制性輸入,則神經元統計所有興奮性突觸傳入的脈衝總數。當此總數達到或超過其閾值 時,該神經元在 時刻發放脈衝,否則保持靜止。
通過調整閾值與突觸連接方式,單一神經元可以實現「且」(and)與「或」(or)等基本邏輯運算。由這類神經元構成的網路(net)則能夠表徵任意命題邏輯公式(propositional logic formula)。
從邏輯閘到人工神經元
前述模型將神經元抽象為閾值邏輯單元,實現了命題邏輯運算,但其權重與閾值皆為固定參數,無法根據數據進行調整。後續研究在此基礎上引入連續可調權重與可微激活函數,將離散邏輯單元推廣為具有學習能力的人工神經元,此類神經元的數學形式通常表示為:
其中 為輸入訊號(input signal),對應前述模型中的興奮性輸入; 為突觸連接強度(synaptic weight),取代了原本固定的單位貢獻值; 為偏置(bias),相當於可調整的閾值參數; 為非線性激活函數(activation function),將加權總和映射至輸出值。
這種形式保留了原始模型「加權輸入總和與閾值比較」的核心思想,將離散邏輯運算推廣為連續函數逼近,並賦予模型從數據中調整參數的能力。
神經模型在人工智慧中的發展
將神經元行為抽象為計算模型的思想最早可追溯至1943年的研究。該研究提出神經元可以被視為具有閾值的邏輯單元,透過連接多個單元可以構成複雜的計算網路。這一概念後來成為人工神經網路與現代深度學習 deep learning 的基礎。
因此,人工神經網路並不是對生物大腦的精確模擬,而是從生物神經訊號整合與傳遞機制中抽象出的計算模型
參考文獻
[1] McCulloch, W.S., Pitts, W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics 5, 115–133 (1943). https://doi.org/10.1007/BF02478259