AI 摘要

極端理性計算下的情感系統

為喚起同理心而生的人工智能

在科幻設定中，存在一類人形機器人，特別搭載深度模擬人類情感的系統，其目的在於透過語言與行為表現喚起人類的同理心。這類設計使人機互動不再只是功能性交互，而是進入情感層面的判斷。

此情境可被理解為一種延伸的圖靈測試，人類不只是辨識對方是否為人工智能，而是進一步判斷其是否具備情感表現的能力。

圖靈測試最初的實驗設計為讓受試者在隔離狀態下與不同對象交流，並嘗試辨識出人類與人工智能。

超越人的感性，是更感性還是理性

這是一個有趣的哲學問題，在理性全面分析心理學或情感表現，最終所展現的情感回應，是否能超越感性，看似感性的反應表現背後是層層的思考與生動的演出，即便是人也都各自有對理性與感性的模糊認知與偏見，換作是人工智能最終又將如何面對這個感性與理性的問題。

深刻模擬出的情感也稱為情感嗎

正如自然語言處理(Natural Language Processing, NLP)中的語言生成問題，該如何去定義自主思考，如何去定義意識，即便目前尚未實現真正意義上的自主思考，但當人工智能可以提供足夠讓人信服的內容，依然能夠被受認可，換作情緒價值，即便人工智能還未真正的具備自主情感，依然能讓人感受到模擬出來的情緒價值。

淺在危險

因此未來出現為同理心而生的人工智能，會出現哪些問題

人會下意識的堤防看起來未知危險的事物，卻不會堤防那些比自己弱小的事物。

如果有個看起來楚楚可憐的人工智能，它擅長分析如何觸動人的憐憫心或是同理心，而這樣的人工智能能從文字中分析你的心理狀況，或是未來透過影像辨識來捕捉你細微的面部表情，分析你的任何肢體動作，全都有一套對應的方法跟數據，能做出對應的話語來達到某些目的，例如誘導、詐騙、欺瞞等等，那麼將會是一件值得探討的安全議題。