語義通信必讀經典 | Weaver：通信的三個層次

Weaver（韋弗）： 近期對通信的數學理論的貢獻

Recent Contributions to The Mathematical Theory of Communication

Warren Weaver

September, 1949

原文摘要：

本文分爲三個主要部分。在第一和第三部分中，W.W.（韋弗）既負責思想也負責形式。中間部分，即“2）A層次的通信問題”，是對貝爾電話實驗室的克勞德·E·香農博士的數學論文的解讀。正如馮·諾依曼所指出的，香農博士的工作源於玻爾茲曼在其一些統計物理學工作（1894年）中的觀察，即熵與“缺失信息”有關，因爲它與在記錄了關於物理系統的所有宏觀可觀察信息後，該系統仍可能存在的替代方案的數量有關。L.西拉德（Zsch. f. Phys. Vol. 53, 1925）將此想法擴展到物理學中信息的一般討論，而馮·諾依曼（《量子力學的數學基礎》，柏林，1932年，第五章）則處理了量子力學和粒子物理學中的信息。香農博士的工作與大約二十年前貝爾實驗室的H.奈奎斯特和R.V.L.哈特利所發展的某些思想有更直接的聯繫；香農博士本人也強調，通信理論的基本哲學在很大程度上歸功於諾伯特·維納教授。另一方面，維納教授指出，香農早期關於開關和數學邏輯的工作早於他自己對這一領域的興趣；並慷慨地補充說，香農當然應該因其獨立發展了該理論的一些基本方面（如引入熵的概念）而得到認可。香農自然特別關注將其應用於工程通信，而維納則更關注生物應用（中樞神經系統現象等）。

主要內容：

本文主要圍繞通信相關研究展開，共劃分爲三個主要部分。其中，第一部分和第三部分由 Warren Weaver （韋弗）負責構思並撰寫，第二部分則是對 Claude Shannon（香農） 數學論文的解讀。

1. 關於分析性通信研究總體背景的引言性註釋1.1 Communication（通信）

“通信” 在本文中的定義極爲寬泛，它指代一個思想對另一個思想施加影響所運用的所有方式。這不僅包含書面與口頭語言，還涉及音樂、各類藝術形式以及所有人類行爲，甚至可拓展到一個機制對另一個機制產生影響的情形，例如自動化設備間的信息交互。儘管文中語言常聚焦於言語通信領域，但所闡述內容同樣適用於音樂、圖片等其他形式的信息傳遞。

1.2 Three Levels of Communications Problems（通信問題的三個層次）

在通信這個廣泛的主題下，存在三個層次的問題：

A 層（技術問題）：How accurately can the symbols of communication be transmitted?（通信符號能被多精確地傳輸？

此層次着重關注通信符號從發送者傳輸至接收者的精準程度，涵蓋多種類型信號，如離散符號（書面文字等）、連續變化信號（語音、音樂等）以及連續變化的二維模式（電視畫面等）的傳輸準確性。從數學視角來看，涉及有限離散符號集、單個時間連續函數以及多個時間相關函數或時空相關函數的傳輸。這是通信系統正常運行的基礎，直接關係到信息能否準確無誤地從源頭到達目的地，是後續語義理解和行爲影響的前提。若技術層面傳輸不準確，後續層次的通信效果將大打折扣。

B 層（語義問題）：How precisely do the transmitted symbols convey the desired meaning?（傳輸的符號如何精確傳達期望的含義？）

該層次聚焦於接收者對信息含義的理解與發送者預期含義之間的契合程度。這是一個複雜的過程，即使在相對簡單的言語通信中，也面臨諸多挑戰。例如，雙方交流時可能存在理解偏差，即便一方表示理解，也可能並非真正理解對方意圖。在跨語言或跨文化交流場景下，語義問題更爲凸顯，同一信息可能因文化背景和語言習慣不同而被不同解讀。語義的準確傳達是實現有效通信的關鍵環節，若含義傳達不準確，將影響接收者對信息的理解，進而影響通信對行爲的影響效果。

C 層（有效性問題）：How effectively does the received meaning affect conduct in the desired way?（接收到的含義如何以期望的方式有效地影響行爲？）

此問題關注接收者接收到信息含義後，其行爲是否受到期望的影響。從廣義行爲範疇來看，通信的目的在於影響行爲，否則通信便失去意義。在藝術領域，有效性體現在審美影響上；在言語方面，涉及從語言風格到心理情感乃至價值判斷等多方面因素。有效性問題與語義問題緊密相連，語義的準確理解是行爲有效影響的基礎，而行爲影響效果也是衡量語義傳達是否成功的重要標準。同時，該層次與技術問題也存在關聯，若技術傳輸失敗導致信息缺失或錯誤，必然影響對行爲的有效影響。

1.3 Comments（評論）

如前文所述，人們容易認爲 A 層較爲表面，僅涉及通信系統工程設計細節，而 B 層和 C 層包含更多通信問題的哲學內涵。然而，Claude Shannon（香農） 在貝爾實驗室發展的通信工程數學理論雖看似僅適用於 A 層技術問題，但實際上意義深遠。該理論表明 A 層的信號準確性限制會影響 B 層和 C 層，且 A 層與其他層次的重疊程度遠超想象，意味着 A 層理論在很大程度上也是 B 層和 C 層的理論，後續部分將進一步闡釋和論證這一觀點。

2. A 層通信問題

這部分內容着重探討通信問題在 A 層（技術問題層面）的各種情況，圍繞通信系統從信息源到目的地的傳輸過程，深入分析其中的關鍵要素與相關理論。

2.1 通信系統及其問題（A Communication System and Its Problems）

詳細介紹通信系統的構成要素，涵蓋信息源、發送器、信道、接收器和目的地。信息源負責挑選消息，發送器將消息轉換爲信號通過信道傳輸，接收器把信號還原爲消息傳至目的地，而傳輸中會受噪聲干擾。針對此係統，人們關注信息與信道容量的測量、編碼特性、噪聲影響及連續消息傳輸等問題，這些問題的研究有助於深入理解通信系統的運行機制與性能優化方向。

2.2 信息（Information）

在通信理論裡，信息有特殊定義，與日常意義不同，它與選擇消息的自由度相關，用對數度量（以 2 爲底），單位是比特。信息源產生消息時符號選擇受概率影響（如英語單詞受前文影響形成馬爾可夫過程），此時信息度量與熱力學熵相關，可通過熵研究語言統計結構。同時還提及相對熵和冗餘概念，英語冗餘度約 50%，冗餘在有噪聲時能糾錯，其變化會影響信息傳輸特性。

2.3 信道容量（Capacity of a Communication Channel）

信道容量用每秒傳輸信息量（比特）描述，與信道傳輸的符號、信息含量及傳輸速率有關。簡單情況下，如定長符號源和信道，容量爲每秒傳輸符號數與每個符號信息量之積；一般情況需考慮符號時長變化，其衡量的是每秒傳輸的信息量，準確理解信道容量對設計高效通信系統至關重要。

2.4 編碼（Coding）

發送器對消息編碼，接收器解碼。對於無噪聲信道傳輸離散符號有基本定理，合適編碼可使傳輸速率接近信道容量與信息源熵之比，但無法超過，且理想編碼雖提升速率卻會增加編碼延遲，實際中需權衡。編碼關鍵是使信號具適合信道的統計特性，以最大化信號熵並等於信道容量，良好編碼能有效提高通信效率。

2.5 噪聲（Noise）

噪聲會增加接收消息的不確定性，包含無用部分（由噪聲引起）。通過計算消息相對於信號的熵（含糊度）可衡量噪聲影響，信道容量定義爲有用信息的最大傳輸速率。對於有噪聲信道，信道容量與信息源熵關係決定編碼能否降低錯誤，這體現了噪聲對通信準確性的重要影響及應對策略的必要性。

2.6 連續消息（Continuous Messages）

連續消息（如語音）的理論更復雜但本質差異不大。實際中連續信號可由有限帶寬內諧波成分組成，相關定理使連續信號問題從處理無限變量簡化爲有限變量。對於特定帶寬、功率和噪聲的信道有容量定理，對一般連續消息也有接收消息保真度等相關結果，爲連續消息通信提供了理論指導。

3. 三個層次通信問題的相互關係

此部分旨在深入剖析通信問題三個層次（技術、語義、有效性）之間的內在聯繫，探討它們如何相互影響、相互關聯，以及在整個通信體系中的協同作用。

3.1 引言（Introductory）

在論文的第一部分提出了通信問題的三個層次，即技術、語義和有效性問題。Claude Shannon （香農）等人發展的數學通信理論，雖看似僅適用於技術問題層面（Level A），但實際上對語義（Level B）和有效性（Level C）問題也具有重要意義。本部分將回顧相關情況，以檢驗之前關於 Level A 進展對其他兩個層次貢獻的觀點是否合理，以及三個層次之間的關聯是否緊密到使分層變得不那麼必要的程度。

3.2 A 層理論的普遍性（Generality of the Theory at Level A）

理論的廣泛適用性：數學通信理論在範圍上極具一般性，它所處理的問題十分基礎，結果經典、簡潔且有力。該理論適用於各種形式的通信符號，如書面文字、音樂、圖片等，表明其觸及通信問題的核心本質，這種一般性使其對密碼學、翻譯、計算機邏輯設計等領域有着重要貢獻。例如，在密碼學中，其編碼相關理論起到關鍵作用；在計算機設計方面，Shannon 關於計算機下棋的論文體現了與通信理論的緊密聯繫，暗示計算機的邏輯設計與通信系統存在相似之處。

通信系統圖示的擴展意義：通信系統的圖示化（如信息源、發送器、信道、接收器和目的地的劃分）雖然最初是爲了分析技術問題，但具有深刻的合理性。當考慮語義和有效性問題時，可能需要對圖示進行擴展，如增加 “語義接收器” 以匹配消息與接收者的語義統計特徵，以及 “語義噪聲” 來表示影響意義理解的干擾因素。這表明 Level A 的理論框架爲理解更復雜的通信問題提供了基礎，雖然需要擴展，但無需根本改變。

信道容量與錯誤的啓示：在 Level A 中發現的信道容量限制以及錯誤產生的條件（如當試圖在信道中傳輸過多信息，即 H > C 時），對所有層次的通信問題都具有重要啓示。這表明不僅要考慮信道的容量，還要考慮接收者（或受衆）的容量，過度傳輸可能導致錯誤和混亂，無論是在技術層面的信息丟失，還是在語義和有效性層面的誤解和無效影響。

熵概念對其他層次的影響：Level A 中發展的熵概念與信息的關係，儘管起初看似與語義中的意義無關，但實際上爲理解語義和有效性問題提供了新的視角。例如，通過熵可以研究語言的統計結構，這對於語義研究具有重要意義，因爲它有助於處理語義中受上下文影響的複雜問題。此外，熵概念的出現也爲語義研究帶來了新的思考方向，如信息與意義可能存在類似量子理論中的共軛變量關係，或者意義可能與熱力學系統中的熵相關聯，這爲未來建立真正的意義理論奠定了基礎，同時也暗示了 Level A 理論對其他層次問題研究的導向作用。

下期預告：

快速綜述 | 語義通信：爲何它將重塑通信世界？—— 從概念到應用的深度剖析