調製技術
調製技術將數位訊號映射到適合光纖傳輸特性的載波符號。光學調製可以在描述光信號的各個參數維度上進行，包括強度、頻率、相位、偏振態、時間間隙等。從提高頻譜效率和傳輸波特率的角度來看，可以利用的調製維度有強度、相位和偏振態。圖1顯示了各種維度的調製方式。
高速光傳輸圖1 多維度多級調製星座圖
多維度、多進制（ M）調製技術可在一個符號上承載多個（logM）比特信息，能夠有效提高頻譜效率，降低符號傳送的波特率，減小基帶頻寬及與之相關的色度色散和偏振模色散，減小對傳輸通道和光電器件頻寬的要求。在此基礎上，充分利用兩線性正交偏振態可有效復用的特性進一步降低數據傳輸的波特率，提高頻譜效率和通道損傷容忍能力。需要指出的是，儘管低波特率可獲得較好的光濾波容限，但多級調製會減小星座圖上符號之間的最小間距，降低OSNR靈敏度以及非線性容忍能力，要求在頻譜效率和接收靈敏度以及OSNR要求之間進行權衡。
檢測技術
根據發射機所採用的調製技術的不同，接收機可採用直接檢測或相干檢測技術。由於當前接收機所用的光電二極體僅對光強度敏感，直接檢測主要用於強度調製的光符號檢測；包含相位調製的調製格式，其光符號需採用光學相干的方式將相位調製信息轉換為光強度調製，才能被光電二極體所檢測。
相干檢測在實現上又可以分為無需參考光源的自相干檢測和需要本振參考光源的相干檢測。前者一般採用延時線干涉儀使時序上相鄰兩個光符號產生干涉，將兩個光符號的相位變化信息轉換為光強度調製信息；後者使所接收的傳輸光符號與本振參考光源的光信號產生干涉，將所接收的光符號映射到本振參考光源所構建的參考坐標系中。帶本振參考光源的相干檢測可將光信號的所有光學屬性（偏振態、幅度、相位）映射到電域，可解析任意光調製格式的信息。
帶本振參考光源的相干檢測在實現上可採用零差檢測、外差檢測和內差檢測3種方。其中，零差檢測具有最優的接收靈敏度和波長選擇能力，但要求通過鎖頻控制確保本振雷射器的頻率相位與所接收光信號保持一致，對雷射器的線寬和穩定性要求極高；外差檢測經中頻轉換將頻率相位恢復的難題轉移至電域，可以降低對雷射器線寬的要求，但要求接收機光電器件頻寬至少為信號基帶頻寬的兩倍；內差檢測與零差檢測結構相似，放寬了對本振雷射器與發射機雷射器的頻率相位一致性要求，而通過正交分量信號相位分集接收和電信號處理獲取頻率相位信息，兼具零差檢測和外差檢測的優點。
數字相干接收機採用偏振分集和相位分集方式將光脈衝信號所承載的數據信息映射轉換為電信號，經高速模數轉換器在時間和幅度的離散化後通過數位訊號處理實現色散（CD、PMD）補償、時序恢復、偏振解復用、載波相位估計、符號估計和線性解碼。數字相干接收發揮了微電子集成技術的巨大優勢，利用廉價而成熟的數位訊號處理技術提高了數據傳輸的可行性和可靠性。數位訊號處理的自適應算法可動態補償隨時間變化的傳輸損傷，並可實現高效的前向糾錯編碼算法。不論是相干檢測還是非相干檢測，光信號在完成光電轉換、經高速模數轉換器採樣量化為數位訊號後，可採用數位訊號處理技術實現載波頻率相位估計和線性相位噪聲的均衡和補償。載波恢復和數據提取後，可採用前向糾錯編碼對傳輸過程中產生的誤碼進行糾錯恢復。
復用技術
相互獨立或正交的光學傳輸特性可用於復用以提高傳輸容量或降低傳輸波特率。對於一個單模傳輸纖芯或導播空間，可以從偏振態和頻率入手進行復用。
單模光纖光傳播過程中的兩個線性正交偏振態可以實現有效復用。偏振復用可以將光信號傳輸波特率降低為未採用偏振復用前的一半，提高頻譜效率和CD、PMD容忍度。偏振復用系統的損傷主要來自偏振相關損耗（PDL）、PMD和交叉相位調製（XPM）。PMD、PDL以及SOP的控制對偏振復用非常關鍵。
相對於波分復用（WDM）技術，光正交頻分復用（OFDM）技術可以進一步壓縮波長通道或子載波之間的頻率間隔，提高頻譜資源的利用率。
時間周期為 T且中心頻率間隔為1/ T整數倍的脈衝信號在時域和頻域具有正交性。基於上述認知，可將傳統的寬頻光載波通道細分為多個相互正交的窄帶子載波分別進行編碼調製後復用傳輸，以減小和消除寬頻載波調製所固有的色度色散和偏振模色散，抑制同一載波通道上前後符號間的干擾。
OFDM具有如下優勢：①子頻帶割分降低了系統對光電器件的頻寬要求，增強了光電器件和模組選擇的靈活性；②導頻副載波便於信道和相位估計，③提高了頻譜資源利用率，具有很好的可擴展性。
OFDM根據檢測接收實現方法的不同可分為相干檢測（CO-OFDM）和直接檢測（DDO-OFDM）兩種方式。CO-OFDM採用光正交相位調製器作為電光轉換前端，採用相干檢測作為光電轉換前端，兼具相干檢測和正交頻分復用的優點，具有優異的頻譜效率、接收機靈敏度和偏振模色散容忍度，但其實現複雜度較DDO-OFDM高。
調製、傳輸和解調過程的線性變換是OFDM能夠實現的關鍵。高峰均值功率比（PAPR）和對相位和頻率噪聲極其敏感是OFDM存在的主要問題。OFDM發射光信號的峰均值功率比值隨著所分割子載波的數量增加而增大，導致光信號在光纖傳輸過程中的非線性效應嚴重，引起較大的非線性相位噪聲。
信道均衡及色散補償
信道均衡根據光通道傳輸特性對通道物理損傷進行補償，使光信號在光通道監測點上的光信號屬性滿足既定指標，便於接收機準確接收和檢測。
信道均衡針對光傳輸通道的特性，包括光功率均衡、色散補償、PMD補償、非線性補償等。信道均衡在實現上可以在光域或電域實現。例如，利用光放大器對線路衰減的補償以及對波分復用系統各波長功率的校正，利用光學器件或電域算法對色度色散、偏振模色散補償以及非線性效應的補償均屬於信道均衡。
光傳輸通道的色度色散會隨器件啁啾特性、光信號功率、施工維護以及環境溫度變化，色散補償模組應具有動態調節補償能力。色度色散補償在實現上通常分為靜態和動態補償兩部分，其中靜態補償用於實現光信號在光纖傳輸過程中累積的量且基本固定不變的部分，動態補償在靜態補償的基礎上進一步修正，實現精確補償和動態跟蹤色度色散的微小變化。
最常用的色散補償技術是採用色散補償光纖（DCF）進行色散補償。DCF技術成熟、穩定，可靠性高，可以同時對所有的波段進行補償，以及同時對色散和色散斜率進行補償。另外還有啁啾光纖布拉格光柵（FBG）、全通濾波器、虛像位陣列（VIPA）、預啁啾技術、光學相位共軛技術等色散和色散斜率補償技術。
光纖布拉格光柵（FBG）可用於補償傳輸鏈路中的色散以及系統接收端的殘餘色散。FBG無非線性作用，並具有可調整地補償色散的靈活性，插損小，可以減輕放大器ASE噪聲的影響。但由於製造工藝的不完善而具有的群時延紋波（GDR）會造成光信號的畸變，從而引入額外的系統損傷。該GDR在FBG級連時會累積，損傷更為嚴重。對GDR引起的損傷已有較多研究。
理想的色散補償模組要求低損耗、非線性效應小、頻頻寬、體積小、重量輕、低功耗、低成本等特性。常用的色散補償光纖（Dispersion Compensation Fiber，DCF）僅滿足寬頻和低功耗要求，其細芯徑所引起的非線性效應對相位調製影響嚴重，100G PM-QPSK WDM系統應避免使用。啁啾光纖布拉格光柵（Fiber Bragg Grating，FBG）色散補償器損耗低、體積小、非線性光效應小，但其頻幅曲線不平坦且頻相曲線呈非線性，目前尚未大規模商用。
電域色散補償（Electronic Dispersion Compensation，EDC）在光電轉換後通過濾波等信號處理技術對數據脈衝進行恢復，其成本低、尺寸小、自適應能力強，可避免使用外部光可調色散補償器和光PMD補償器。早期基於硬體的EDC技術如前饋均衡器（Feed Forward Equalizer，FFE）、判決反饋均衡器（Decision Feedback Equalizer，DFE）能力有限，基於數位訊號處理的EDC技術可有效提高各種信道損傷容限。
電域色散補償可置於發射端或（和）接收端。發射端電域色散補償可用於色度色散預補償和通道內非線性損傷補償，其不足在於無法補償PMD，且在色度色散完全補償的情況下容易引起通道間非線性容忍度的顯著下降。接收端電域色散補償可用於補償色度色散、PMD、非線性損傷，實現偏振解復用，降低OSNR需求。
除採用高級調製格式和FEC編碼外，PMD的抑制和補償可採用主偏振態（Principle State of Polarization，PSP）耦合、光學PMD補償器以及電信號處理等方法來實現。採用PSP耦合技術將輸入SOP與傳輸通道的PSP對齊，在PDL較小時可用於補償DGD，但無法補償SOPMD。另外，PSP需要接收端提供反饋信息，無法及時回響PMD快速變化，其系統設計比較複雜。光學PMD補償器一般由光補償器件、反饋採樣信號和控制單元3部分組成，其性能取決於其對偏振態調節的自由度（可調節PC及DGD單元的個數）。光學PMD補償器的優勢在於其對數據率和調製格式透明。
長距光傳輸速率達到100G後，光纖非線性抑制和補償將是光傳輸性能進一步提高的關鍵。根據光纖非線性產生的機理，可在光域和（或）電域對其進行抑制和補償。
糾錯編碼
在調製、檢測、均衡以及復用技術無法滿足系統傳輸性能要求的情況下，可採用線性編碼技術進一步改善系統性能。實踐證明，FEC可有效提高系統傳輸性能，最佳化OSNR要求，提高信號對通道損傷的容忍能力。疊代FEC編碼如Turbo、LDPC編碼以其高編碼增益廣受關注，其中疊代解碼LDPC較Turbo編碼具有更優的糾錯特性和實現複雜度。
採用FEC編碼無疑會引入編碼開銷，導致數據傳輸波特率以及基帶頻寬增大，給系統傳輸性能帶來負面影響。在選用FEC算法時，需權衡其實現複雜度、處理時延以及編碼開銷所導致的速率增加對系統傳輸性能的影響，在滿足編碼增益要求的前提下儘可能減小編碼開銷及其所帶來的硬體實現複雜度。
