即時資料流媒體編程基於Linux環境開發

一、流媒體簡介

隨著Internet的日益普及，在網路上傳輸的資料已經不再局限於文字和圖形，而是逐漸向聲音和視頻等多媒體格式過渡。目前在網路上傳輸音頻/視頻（Audio/Video，簡稱A/V）等多媒體檔案時，基本上只有下載和串流兩種選擇。通常說來，A/V檔案佔據的儲存空間都比較大，在頻寬受限的網路環境中下載可能要耗費數分鐘甚至數小時，所以這種處理方法的延遲很大。如果換用串流的話，聲音、影像、動畫等多媒體檔案將由專門的流媒體伺服器負責向使用者連續、即時地發送，這樣使用者可以不必等到整個檔案全部下載完畢，而只需要經過幾秒鐘的啟動延時就可以了，當這些多媒體資料在客戶機上播放時，檔案的剩餘部分將繼續從流媒體伺服器下載。
流（Streaming）是近年在Internet上出現的新概念，其定義非常廣泛，主要是指通過網路傳輸多媒體資料的技術總稱。流媒體包含廣義和狹義兩種內涵：廣義上的流媒體指的是使音頻和視頻形成穩定和連續的傳輸串流和回放流的一系列技術、方法和協議的總稱，即流媒體技術；狹義上的流媒體是相對於傳統的下載-回放方式而言的，指的是一種從Internet上擷取音頻和視頻等多媒體資料的新方法，它能夠支援多媒體資料流的即時傳輸和即時播放。通過運用流媒體技術，伺服器能夠向客戶機發送穩定和連續的多媒體資料流，客戶機在接收資料的同時以一個穩定的速率回放，而不用等資料全部下載完之後再進行回放。
由於受網路頻寬、電腦處理能力和協議規範等方面的限制，要想從Internet上下載大量的音頻和視頻資料，無論從下載時間和儲存空間上來講都是不太現實的，而流媒體技術的出現則很好地解決了這一難題。目前實現流媒體傳輸主要有兩種方法：順序流（progressive streaming）傳輸和即時資料流（realtime streaming）傳輸，它們分別適合於不同的應用場合。
順序流傳輸
順序流傳輸採用順序下載的方式進行傳輸，在下載的同時使用者可以線上回放多媒體資料，但給定時刻只能觀看已經下載的部分，不能跳到尚未下載的部分，也不能在傳輸期間根據網路狀況對下載速度進行調整。由於標準的HTTP伺服器就可以發送這種形式的流媒體，而不需要其他特殊協議的支援，因此也常常被稱作HTTP串流。順序串流比較適合於高品質的多媒體片段，如標題、片尾或者廣告等。
即時資料流傳輸
即時資料流式傳輸保證媒體訊號頻寬能夠與當前網路狀況相匹配，從而使得流媒體資料總是被即時地傳送，因此特別適合於現場事件。即時資料流傳輸支援隨機訪問，即使用者可以通過快進或者後退操作來觀看前面或者後面的內容。從理論上講，即時資料流媒體一經播放就不會停頓，但事實上仍有可能發生周期性的暫停現象，尤其是在網路狀況惡化時更是如此。與順序流傳輸不同的是，即時資料流傳輸需要用到特定的流媒體伺服器，而且還需要特定網路通訊協定的支援。
回頁首

二、流媒體協議

即時傳輸協議（Real-time Transport Protocol，PRT）是在Internet上處理多媒體資料流的一種網路通訊協定，利用它能夠在一對一（unicast，單播）或者一對多（multicast，多播）的網路環境中實現傳流媒體資料的即時傳輸。RTP通常使用UDP來進行多媒體資料的傳輸，但如果需要的話可以使用TCP或者ATM等其它協議，整個RTP協議由兩個密切相關的部分組成：RTP資料協議和RTP控制協議。即時資料流通訊協定（Real Time Streaming Protocol，RTSP）最早由Real Networks和Netscape公司共同提出，它位於RTP和RTCP之上，其目的是希望通過IP網路有效地傳輸多媒體資料。

2.1 RTP資料協議
RTP資料協議負責對流媒體資料進行封包並實現媒體流的即時傳輸，每一個RTP資料報都由頭部（Header）和負載（Payload）兩個部分組成，其中頭部前12個位元組的含義是固定的，而負載則可以是音頻或者視頻資料。RTP資料報的頭部格式1所示：
圖1 RTP頭部格式

其中比較重要的幾個域及其意義如下：
CSRC記數（CC）　　表示CSRC標識的數目。CSRC標識緊跟在RTP固定頭部之後，用來表示RTP資料報的來源，RTP協議允許在同一個會話中存在多個資料來源，它們可以通過RTP混合器合并為一個資料來源。例如，可以產生一個CSRC列表來表示一個電話會議，該會議通過一個RTP混合器將所有講話者的語音資料群組合為一個RTP資料來源。
負載類型（PT）　　標明RTP負載的格式，包括所採用的編碼演算法、採樣頻率、承載通道等。例如，類型2表明該RTP資料包中承載的是用ITU G.721演算法編碼的語音資料，採樣頻率為8000Hz，並且採用單聲道。
序號　　用來為接收方提供探測資料丟失的方法，但如何處理丟失的資料則是應用程式自己的事情，RTP協議本身並不負責資料的重傳。
時間戳記　　記錄了負載中第一個位元組的採樣時間，接收方能夠時間戳記能夠確定資料的到達是否受到了延遲抖動的影響，但具體如何來補償延遲抖動則是應用程式自己的事情。
從RTP資料報的格式不難看出，它包含了傳輸媒體的類型、格式、序號、時間戳記以及是否有附加資料等資訊，這些都為即時的流媒體傳輸提供了相應的基礎。RTP協議的目的是提供即時資料（如互動音頻和視頻）的端到端傳輸服務，因此在RTP中沒有串連的概念，它可以建立在底層的連線導向或面向非串連的傳輸協議之上；RTP也不依賴於特別的網路地址格式，而僅僅只需要底層傳輸協議支援組幀（Framing）和分段（Segmentation）就足夠了；另外RTP本身還不提供任何可靠性機制，這些都要由傳輸協議或者應用程式自己來保證。在典型的應用場合下，RTP一般是在傳輸協議之上作為應用程式的一部分加以實現的，2所示：
圖2 RTP與各種網路通訊協定的關係

2.2 RTCP控制協議
RTCP控制協議需要與RTP資料協議一起配合使用，當應用程式啟動一個RTP會話時將同時佔用兩個連接埠，分別供RTP和RTCP使用。RTP本身並不能為按序傳輸資料包提供可靠的保證，也不提供流量控制和擁塞控制，這些都由RTCP來負責完成。通常RTCP會採用與RTP相同的分發機制，向會話中的所有成員周期性地發送控制資訊，應用程式通過接收這些資料，從中擷取會話參與者的相關資料，以及網路狀況、分組丟失機率等反饋資訊，從而能夠對服務品質進行控制或者對網路狀況進行診斷。
RTCP協議的功能是通過不同的RTCP資料報來實現的，主要有如下幾種類型：
SR　　發送端報告，所謂發送端是指發出RTP資料報的應用程式或者終端，發送端同時也可以是接收端。
RR　　接收端報告，所謂接收端是指僅接收但不發送RTP資料報的應用程式或者終端。
SDES　　源描述，主要功能是作為會話成員有關標識資訊的載體，如使用者名稱、郵件地址、電話號碼等，此外還具有向會話成員傳達會話控制資訊的功能。
BYE　　通知離開，主要功能是指示某一個或者幾個源不再有效，即通知會話中的其他成員自己將退出會話。
APP　　由應用程式自己定義，解決了RTCP的擴充性問題，並且為協議的實現者提供了很大的靈活性。
RTCP資料報攜帶有服務品質監控的必要資訊，能夠對服務品質進行動態調整，並能夠對網路擁塞進行有效控制。由於RTCP資料報採用的是多播方式，因此會話中的所有成員都可以通過RTCP資料報返回的控制資訊，來瞭解其他參與者的當前情況。
在一個典型的應用場合下，發送媒體流的應用程式將周期性地產生髮送端報告SR，該RTCP資料報含有不同媒體流間的同步資訊，以及已經發送的資料報和位元組的計數，接收端根據這些資訊可以估計出實際的資料轉送速率。另一方面，接收端會向所有已知的發送端發送接收端報告RR，該RTCP資料報含有已接收資料報的最大序號、丟失的資料報數目、延時抖動和時間戳記等重要訊息，發送端應用根據這些資訊可以估計出往返時延，並且可以根據資料報丟失機率和時延抖動情況動態調整發送速率，以改善網路擁塞狀況，或者根據網路狀況平滑地調整應用程式的服務品質。

2.3 RTSP即時資料流通訊協定
作為一個應用程式層協議，RTSP提供了一個可供擴充的架構，它的意義在於使得即時資料流媒體資料的受控和點播變得可能。總的說來，RTSP是一個流媒體表示協議，主要用來控制具有即時特性的資料發送，但它本身並不傳輸資料，而是必須依賴於下層傳輸協議所提供的某些服務。RTSP可以對流媒體提供諸如播放、暫停、快進等操作，它負責定義具體的控制訊息、操作方法、狀態代碼等，此外還描述了與RTP間的互動操作。
RTSP在制定時較多地參考了HTTP/1.1協議，甚至許多描述與HTTP/1.1完全相同。RTSP之所以特意使用與HTTP/1.1類似的文法和操作，在很大程度上是為了相容現有的Web基礎結構，正因如此，HTTP/1.1的擴充機制大都可以直接引入到RTSP中。
由RTSP控制的媒體流集合可以用表示描述（Presentation Description）來定義，所謂表示是指流媒體伺服器提供給客戶機的一個或者多個媒體流的集合，而表示描述則包含了一個表示中各個媒體流的相關資訊，如資料編碼/解碼演算法、網路地址、媒體流的內容等。
雖然RTSP伺服器同樣也使用標識符來區別每一流串連會話（Session），但RTSP串連並沒有被綁定到傳輸層串連（如TCP等），也就是說在整個RTSP串連期間，RTSP使用者可開啟或者關閉多個對RTSP伺服器的可靠傳輸串連以發出RTSP 請求。此外，RTSP串連也可以基於面向不需連線的傳輸協議（如UDP等）。
RTSP協議目前支援以下操作：
檢索媒體　　允許使用者通過HTTP或者其它方法向媒體伺服器提交一個表示描述。如表示是組播的，則表示描述就包含用於該媒體流的組播地址和連接埠號碼；如果表示是單播的，為了安全在表示描述中應該只提供目的地址。
邀請加入　　媒體伺服器可以被邀請參加進行中的會議，或者在表示中回放媒體，或者在表示中錄製全部媒體或其子集，非常適合於分布式教學。
添加媒體　　通知使用者新加入的可利用媒體流，這對現場講座來講顯得尤其有用。與HTTP/1.1類似，RTSP請求也可以交由代理、通道或者緩衝來進行處理。
回頁首

三、流媒體編程

RTP是目前解決流媒體即時傳輸問題的最好辦法，如果需要在Linux平台上進行即時資料流媒體編程，可以考慮使用一些開放原始碼的RTP庫，如LIBRTP、JRTPLIB等。JRTPLIB是一個物件導向的RTP庫，它完全遵循RFC 1889設計，在很多場合下是一個非常不錯的選擇，下面就以JRTPLIB為例，講述如何在Linux平台上運用RTP協議進行即時資料流媒體編程。

3.1 環境搭建
JRTPLIB是一個用C++語言實現的RTP庫，目前已經可以運行在Windows、Linux、FreeBSD、Solaris、Unix和VxWorks等多種作業系統上。要為Linux 系統安裝JRTPLIB，首先從JRTPLIB的網站（http://lumumba.luc.ac.be/jori/jrtplib/jrtplib.html）下載最新的源碼包，此處使用的是jrtplib-2.7b.tar.bz2。假設下載後的源碼包儲存在/usr/local/src目錄下，執行下面的命令可以對其進行解壓縮：
[root@linuxgam src]# bzip2 -dc jrtplib-2.7b.tar.bz2 | tar xvf -
接下去需要對JRTPLIB進行配置和編譯：[root@linuxgam src]# cd jrtplib-2.7
[root@linuxgam jrtplib-2.7b]# ./configure
[root@linuxgam jrtplib-2.7b]# make
最後再執行如下命令就可以完成JRTPLIB的安裝：[root@linuxgam jrtplib-2.7b]# make install

3.2 初始化
在使用JRTPLIB進行即時資料流媒體資料轉送之前，首先應該產生RTPSession類的一個執行個體來表示此次RTP會話，然後調用Create()方法來對其進行初始化操作。RTPSession類的Create()方法只有一個參數，用來指明此次RTP會話所採用的連接埠號碼。清單1給出了一個最簡單的初始化架構，它只是完成了RTP會話的初始化工作，還不具備任何實際的功能。
代碼清單1：initial.cpp

#include "rtpsession.h"
int main(void)
{
RTPSession sess;
sess.Create(5000);
return 0;
}

如果RTP會話建立過程失敗，Create()方法將會返回一個負數，通過它雖然可以很容易地判斷出函數調用究竟是成功的還是失敗的，但卻很難明白出錯的原因到底什麼。JRTPLIB採用了統一的錯誤處理機制，它提供的所有函數如果返回負數就表明出現了某種形式的錯誤，而具體的出錯資訊則可以通過調用RTPGetErrorString()函數得到。RTPGetErrorString()函數將錯誤碼作為參數傳入，然後返回該錯誤碼所對應的錯誤資訊。清單2給出了一個更加完整的初始化架構，它可以對RTP會話初始化過程中所產生的錯誤進行更好的處理：
代碼清單2：framework.cpp

#include <stdio.h>
#include "rtpsession.h"
int main(void)
{
RTPSession sess;
int status;
char* msg;
sess.Create(6000);
msg = RTPGetErrorString(status);
printf("Error String: %s\\n", msg);
return 0;
}

設定恰當的時戳單元，是RTP會話初始化過程所要進行的另外一項重要工作，這是通過調用RTPSession類的SetTimestampUnit()方法來實現的，該方法同樣也只有一個參數，表示的是以秒為單元的時戳單元。例如，當使用RTP會話傳輸8000Hz採樣的音頻資料時，由於時戳每秒鐘將遞增8000，所以時戳單元相應地應該被設定成1/8000：sess.SetTimestampUnit(1.0/8000.0);

3.3 資料發送
當RTP會話成功建立起來之後，接下去就可以開始進行流媒體資料的即時傳輸了。首先需要設定好資料發送的目標地址，RTP協議允許同一會話存在多個目標地址，這可以通過調用RTPSession類的AddDestination()、DeleteDestination()和ClearDestinations()方法來完成。例如，下面的語句表示的是讓RTP會話將資料發送到本地主機的6000連接埠：unsigned long addr = ntohl(inet_addr("127.0.0.1"));
sess.AddDestination(addr, 6000);
目標地址全部指定之後，接著就可以調用RTPSession類的SendPacket()方法，向所有的目標地址發送流媒體資料。SendPacket()是RTPSession類提供的一個重載函數，它具有下列多種形式：int SendPacket(void *data,int len)
int SendPacket(void *data,int len,unsigned char pt,bool mark,unsigned long timestampinc)
int SendPacket(void *data,int len,unsigned short hdrextID,void *hdrextdata,
int numhdrextwords)
int SendPacket(void *data,int len,unsigned char pt,bool mark,unsigned long timestampinc,
unsigned short hdrextID,void *hdrextdata,int numhdrextwords)
SendPacket()最典型的用法是類似於下面的語句，其中第一個參數是要被發送的資料，而第二個參數則指明將要發送資料的長度，再往後依次是RTP負載類型、標識和時戳增量。sess.SendPacket(buffer, 5, 0, false, 10);
對於同一個RTP會話來講，負載類型、標識和時戳增量通常來講都是相同的，JRTPLIB允許將它們設定為會話的預設參數，這是通過調用RTPSession類的SetDefaultPayloadType()、SetDefaultMark()和SetDefaultTimeStampIncrement()方法來完成的。為RTP會話設定這些預設參數的好處是可以簡化資料的發送，例如，如果為RTP會話設定了預設參數：sess.SetDefaultPayloadType(0);
sess.SetDefaultMark(false);
sess.SetDefaultTimeStampIncrement(10);
之後在進行資料發送時只需指明要發送的資料及其長度就可以了：sess.SendPacket(buffer, 5);

3.4 資料接收
對於流媒體資料的接收端，首先需要調用RTPSession類的PollData()方法來接收發送過來的RTP或者RTCP資料報。由於同一個RTP會話中允許有多個參與者（源），你既可以通過調用RTPSession類的GotoFirstSource()和GotoNextSource()方法來遍曆所有的源，也可以通過調用RTPSession類的GotoFirstSourceWithData()和GotoNextSourceWithData()方法來遍曆那些攜帶有資料的源。在從RTP會話中檢測出有效資料來源之後，接下去就可以調用RTPSession類的GetNextPacket()方法從中抽取RTP資料報，當接收到的RTP資料報處理完之後，一定要記得及時釋放。下面的代碼示範了該如何對接收到的RTP資料報進行處理：

if (sess.GotoFirstSourceWithData()) {
do {
RTPPacket *pack;
pack = sess.GetNextPacket();
// 處理接收到的資料
delete pack;
} while (sess.GotoNextSourceWithData());
}

JRTPLIB為RTP資料報定義了三種接收模式，其中每種接收模式都具體規定了哪些到達的RTP資料報將會被接受，而哪些到達的RTP資料報將會被拒絕。通過調用RTPSession類的SetReceiveMode()方法可以設定下列這些接收模式：
RECEIVEMODE_ALL　　預設的接收模式，所有到達的RTP資料報都將被接受；
RECEIVEMODE_IGNORESOME　　除了某些特定的寄件者之外，所有到達的RTP資料報都將被接受，而被拒絕的寄件者列表可以通過調用AddToIgnoreList()、DeleteFromIgnoreList()和ClearIgnoreList()方法來進行設定；
RECEIVEMODE_ACCEPTSOME　　除了某些特定的寄件者之外，所有到達的RTP資料報都將被拒絕，而被接受的寄件者列表可以通過調用AddToAcceptList ()、DeleteFromAcceptList和ClearAcceptList ()方法來進行設定。

3.5 控制資訊
JRTPLIB是一個高度封裝後的RTP庫，程式員在使用它時很多時候並不用關心RTCP資料報是如何被發送和接收的，因為這些都可以由JRTPLIB自己來完成。只要PollData()或者SendPacket()方法被成功調用，JRTPLIB就能夠自動對到達的RTCP資料報進行處理，並且還會在需要的時候發送RTCP資料報，從而能夠確保整個RTP會話過程的正確性。
而另一方面，通過調用RTPSession類提供的SetLocalName()、SetLocalEMail()、SetLocalLocation()、SetLocalPhone()、SetLocalTool()和SetLocalNote()方法，JRTPLIB又允許程式員對RTP會話的控制資訊進行設定。所有這些方法在調用時都帶有兩個參數，其中第一個參數是一個char型的指標，指向將要被設定的資料；而第二個參數則是一個int型的數值，表明該資料中的前面多少個字元將會被使用。例如下面的語句可以被用來設定控制資訊中的電子郵件地址：sess.SetLocalEMail("xiaowp@linuxgam.com",19);
在RTP會話過程中，不是所有的控制資訊都需要被發送，通過調用RTPSession類提供的EnableSendName()、EnableSendEMail()、EnableSendLocation()、EnableSendPhone()、EnableSendTool()和EnableSendNote()方法，可以為當前RTP會話選擇將被發送的控制資訊。

3.6 實際應用
最後通過一個簡單的流媒體發送-接收執行個體，介紹如何利用JRTPLIB來進行即時資料流媒體的編程。清單3給出了資料發送端的完整代碼，它負責向使用者指定的IP地址和連接埠，不斷地發送RTP資料包：
代碼清單3：sender.cpp

#include <stdio.h>
#include <string.h>
#include "rtpsession.h"
// 錯誤處理函數
void checkerror(int err)
{
if (err < 0) {
char* errstr = RTPGetErrorString(err);
printf("Error:%s\\n", errstr);
exit(-1);
}
}
int main(int argc, char** argv)
{
RTPSession sess;
unsigned long destip;
int destport;
int portbase = 6000;
int status, index;
char buffer[128];
if (argc != 3) {
printf("Usage: ./sender destip destport\\n");
return -1;
}
// 獲得接收端的IP地址和連接埠號碼
destip = inet_addr(argv[1]);
if (destip == INADDR_NONE) {
printf("Bad IP address specified.\\n");
return -1;
}
destip = ntohl(destip);
destport = atoi(argv[2]);
// 建立RTP會話
status = sess.Create(portbase);
checkerror(status);
// 指定RTP資料接收端
status = sess.AddDestination(destip, destport);
checkerror(status);
// 設定RTP會話預設參數
sess.SetDefaultPayloadType(0);
sess.SetDefaultMark(false);
sess.SetDefaultTimeStampIncrement(10);
// 發送流媒體資料
index = 1;
do {
sprintf(buffer, "%d: RTP packet", index ++);
sess.SendPacket(buffer, strlen(buffer));
printf("Send packet !\\n");
} while(1);
return 0;
}
清單4則給出了資料接收端的完整代碼，它負責從指定的連接埠不斷地讀取RTP資料包：
代碼清單4：receiver.cpp#include <stdio.h>
#include "rtpsession.h"
#include "rtppacket.h"
// 錯誤處理函數
void checkerror(int err)
{
if (err < 0) {
char* errstr = RTPGetErrorString(err);
printf("Error:%s\\n", errstr);
exit(-1);
}
}
int main(int argc, char** argv)
{
RTPSession sess;
int localport;
int status;
if (argc != 2) {
printf("Usage: ./sender localport\\n");
return -1;
}
// 獲得使用者指定的連接埠號碼
localport = atoi(argv[1]);
// 建立RTP會話
status = sess.Create(localport);
checkerror(status);
do {
// 接受RTP資料
status = sess.PollData();
// 檢索RTP資料來源
if (sess.GotoFirstSourceWithData()) {
do {
RTPPacket* packet;
// 擷取RTP資料報
while ((packet = sess.GetNextPacket()) != NULL) {
printf("Got packet !\\n");
// 刪除RTP資料報
delete packet;
}
} while (sess.GotoNextSourceWithData());
}
} while(1);
return 0;
}

四、小結

隨著多媒體資料在Internet上所承擔的作用變得越來越重要，需要即時傳輸音頻和視頻等多媒體資料的場合也將變得越來越多，如IP電話、ApsaraVideo for VOD、線上會議等。RTP是用來在Internet上進行即時資料流媒體傳輸的一種協議，目前已經被廣泛地應用在各種場合，JRTPLIB是一個物件導向的RTP封裝庫，利用它可以很方便地完成Linux平台上的即時資料流媒體編程。
參考資料
1. 在JRTPLIB的網站http://lumumba.luc.ac.be/jori/jrtplib/jrtplib.html上，可以下載到JRTPLIB最新的源碼包，並且還能找到一些與RTP相關的資源。