數字信號處理器(DSP)具有出色的多媒體性能。一般而言，它們運行編解碼器所需的周期只有通用處理器(GPP)內核的40%到50%。DSP還能提供比ASIC大得多的靈活性和可重配置性。但迄今為止，要在數字視頻應用中運用DSP，編程人員還不得不花費較多時間精力去學習相關專用語言。不過，隨著應用編程接口(API)的出現，已不再需要學習這些專用DSP語言了。在運行于GPP上的應用中，API可以輕輕松松地充分發揮DSP的優勢。

開源多媒體構架在GPP上一般運行在Linux操作系統下，是這些API的理想對象。利用API可以卸載視頻編解碼器的計算負荷，大大減小DSP編程的復雜性。這種方案只要求編程人員具備基本的DSP知識即可，無需編寫代碼來整合DSP功能與那些運行在GPP上的功能。這種優勢，加上利用免費開源插件和構架提供的許多功能的能力，可以大幅度縮短新視頻產品的上市時間。

硬件平臺的選擇

在選擇運行編解碼器(壓縮傳輸或存儲的數字流，再解壓以供查看或編輯)的硬件平臺時，開發人員有幾種可選方案。ASIC是專門為數字視頻應用而設計的，能在這類應用中提供高性能和低功耗。它的缺點流片(NRE)費用很高。此外，ASIC若有變化，比如改動以適應編解碼標準，相關實現費用非常高昂。

另一方面，GPP內核的流片費用相對較低，針對變動進行重編程相當容易。但由于它們在執行計算密集的信號處理應用時效率低下，故在應用于數字視頻處理時性能較低。例如，GPP通過一系列移位和加法運算來實現乘法運算，而每一個移位和加法運算需要一個以上的時鐘周期。

DSP具有集上述二者之優勢的潛力。不同于GPP，DSP是為數字視頻應用中計算密集的信號處理應用而優化的。它具有單周期乘法器或乘法累加單元，能夠加快編解碼算法的執行速度。更高性能的DSP還包含有幾個可以并行操作的獨立執行單元，這使得它們能夠每條指令執行好幾個操作。此外，DSP還提供完全的軟件編程能力，包括現場重編程能力。這就讓用戶可以先推出MPEG-2產品，以后再升級為H.264視頻編解碼器。DSP在數字視頻應用中的主要局限是它們通常需要采用專用語言來編程，而熟悉DSP的編程人員遠沒有熟悉流行的GPP架構的來得多。

圖1：只含解碼器的范例中的多媒體框架職責和數據流程

組件集成的挑戰

數字視頻系統的開發人員還面臨著集成的挑戰。數字視頻系統包含了多個編碼器、解碼器、編解碼器、多種算法及其它軟件，這些組件都必須集成到一個可執行映象(image)中，然后才能在系統上運行內容。集成所有這些組件并確保其運行協調是一件很困難的任務。不同的系統可能需要截然不同的視頻、圖像、語音、音頻和其他多媒體模塊。手工集成每一個軟件模塊或算法的開發人員就被增值功能性(比如增加創新性功能)搞得頭痛不已。

許多數字視頻開發人員都開始采取開源途徑來構建軟件。一種常用的方案是從開源獲得軟件的重要部分，而在可用性和硬件集成方面充分發揮內部專業能力。開發人員常常參與開源技術開發項目，以滿足特定要求并把內部開發的代碼和開源代碼集成在一起來創建新產品。