用執行個體分析H264 RTP payload

H264的RTP中有三種不同的基本負載（Single NAL,Non-interleaved,Interleaved)

應用程式可以使用第一個位元組來識別。

 

在SDP中也說明了本次會話的屬性

SDP 參數

下面描述了如何在 SDP 中表示一個 H.264 流:

. "m=" 行中的媒體名必須是 "video"

. "a=rtpmap" 行中的編碼名稱必須是 "H264".

. "a=rtpmap" 行中的時鐘頻率必須是 90000.

. 其他參數都包括在 "a=fmtp" 行中.

如:
m=video 49170 RTP/AVP 98

a=rtpmap:98 H264/90000

a=fmtp:98 profile-level-id=42A01E; packetization-mode=1; sprop-parameter-sets=Z0IACpZTBYmI,aMljiA==

下面介紹一些常用的參數.
3.1 packetization-mode:

表示支援的封包模式.

當 packetization-mode 的值為 0 時或不存在時, 必須使用單一 NALU 單元模式.

當 packetization-mode 的值為 1 時必須使用非交錯(non-interleaved)封包模式.

當 packetization-mode 的值為 2 時必須使用交錯(interleaved)封包模式.

 

 

每個打包方式允許的NAL單元類型總結(yes = 允許, no = 不允許, ig = 忽略)

      Type   Packet    Single NAL    Non-Interleaved    Interleaved

                       Unit Mode           Mode             Mode

      -------------------------------------------------------------

      0      undefined     ig               ig               ig

      1-23   NAL unit     yes              yes               no

      24     STAP-A        no              yes               no

      25     STAP-B        no               no              yes

      26     MTAP16        no               no              yes

      27     MTAP24        no               no              yes

      28     FU-A          no              yes              yes

      29     FU-B          no               no              yes

      30-31  undefined     ig               ig               ig

這個參數不可以取其他的值.

3.2 sprop-parameter-sets:

SPS,PPS

這個參數可以用於傳輸 H.264 的序列參數集和映像參數 NAL 單元. 這個參數的值採用 Base64 進行編碼. 不同的參數集間用","號隔開.

3.3 profile-level-id:

這個參數用於指示 H.264 流的 profile 類型和層級. 由 Base16(十六進位) 表示的 3 個位元組. 第一個位元組表示 H.264 的 Profile 類型, 第三個位元組表示 H.264 的 Profile 層級:

3.4 max-mbps:

這個參數的值是一個整型, 指出了每一秒最大的宏塊處理速度.

 

Rtp payload的第一個位元組和264的NALU類似

 

+---------------+

|0|1|2|3|4|5|6|7|

+-+-+-+-+-+-+-+-+

|F|NRI| Type    |

+---------------+

 

F: 1 個位元.

forbidden_zero_bit. 在 H.264 規範中規定了這一位必須為 0.

NRI: 2 個位元.

nal_ref_idc. 取 00 ~ 11, 似乎指示這個 NALU 的重要性, 如 00 的 NALU 解碼器可以丟棄它而不影響映像的回放. 不過一般情況下不太關心這個屬性.

Type: 5 個位元.

nal_unit_type. 這個 NALU 單元的類型. 簡述如下:

0     沒有定義

1-23 NAL單元 單個 NAL 單元包.

24    STAP-A   單一時間的組合包

24    STAP-B   單一時間的組合包

26    MTAP16   多個時間的組合包

27    MTAP24   多個時間的組合包

28    FU-A     分區的單元

29    FU-B     分區的單元

30-31 沒有定義

例子：

0x5C=01011100 (F:0  NRI:10  Type:28) FU-A

0x41=01000001 (F:0  NRI:10  Type:01)Single NAL

0x68=01000100 (F:0  NRI:10  Type:08)Single NAL

 

Single NAL Unit Mode

:Type[1-23]

packetization-mode=0

對於 NALU 的長度小於 MTU 大小的包, 一般採用單一 NAL 單元模式.

對於一個原始的 H.264 NALU 單元常由 [Start Code] [NALU Header] [NALU Payload]

三部分組成, 其中 Start Code 用於標示這是一個 NALU 單元的開始, 必須是 "00 00 00 01" 或 "00 00 01", NALU 頭僅一個位元組, 其後都是 NALU 單元內容.

打包時去除 "00 00 01" 或 "00 00 00 01" 的開始碼, 把其他資料封包的 RTP 包即可.

 

 

 

 

Non-interleaved Mode:Type[1-23,24,28]

packetization-mode=1

       Type=[1-23]的情況 參照 packetization-mode=0

Type=28 FU-A

+---------------+---------------+

|0|1|2|3|4|5|6|7|0|1|2|3|4|5|6|7|

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|F|NRI| Type:28 |S|E|R| Type    |

+---------------+---------------+

 

S:開始標誌

E:結束標誌 (與 Mark相同）

R:必須為0

 

Type:h264的NALU Type

 

例：

 

0x7C85=01111100 10000101 (開始包)

0x7C05=01111100 00000101 (中間包)

0x7C45=01111100 01000101 (結束包)

Type=23  STAP-A

0               1             2                 3

|0 1 2 3 4 5 6 7|8 9 0 1 2 3 4|5 6 7 8 9 0 1 2 3|4 5 6 7 8 9 0 1

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|                          RTP Header                           |

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|STAP-A NAL HDR |         NALU 1 Size           | NALU 1 HDR    |

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|                         NALU 1 Data                           |

:                                                               :

+               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|               | NALU 2 Size                   | NALU 2 HDR    |

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|                         NALU 2 Data                           |

:                                                               :

|                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|                               :...OPTIONAL RTP padding        |

+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

 

class H264NALUParser<br />{<br />public:<br />H264NALUParser(int width , int height);<br />H264NALUParser();<br />virtual ~H264NALUParser();<br /> void SetBuffer(unsigned char * buffer,int len,int f,int nri,int type);<br /> BOOL readOnePacket(unsigned char * buffer,int &len);<br /> BOOL isPacketOutstanding();<br />private:<br /> unsigned char * m_pNaluBuffer;// NALU資料指向的緩衝區的指標<br />unsigned int m_nNaluSize;// NALU資料緩衝區的大小<br />unsigned char * m_pCurNaluPos;//指向下一個資料包要讀取的緩衝區指標<br /> int m_nFrameWidth;<br /> int m_nFrameHeight;<br />int m_nPacketCounts;<br />int m_nPacketSeqNum;<br />int m_nF;<br />int m_nNRI;<br />int m_nType;<br />enum {<br /> STAP_A = 24,<br /> STAP_B = 25,<br /> MTAP16 = 26,<br /> MTAP24 = 27,<br /> FU_A = 28,<br /> FU_B = 29<br />};<br />};</p><p>////////////////// class H264NALUParser /////////////////////////////<br />H264NALUParser::H264NALUParser(int width , int height)<br />{<br />m_nFrameWidth= width;<br />m_nFrameHeight= height;<br />m_pNaluBuffer= NULL;<br />m_nNaluSize= 0;<br />m_nPacketCounts= 0;<br />m_nPacketSeqNum= 0;<br />m_nF= 0;<br />m_nNRI= 0;<br />m_nType= 0;<br />}<br />H264NALUParser::H264NALUParser()<br />{<br />m_pNaluBuffer= NULL;<br />m_nNaluSize= 0;<br />m_nPacketCounts= 0;<br />m_nPacketSeqNum= 0;<br />m_nF= 0;<br />m_nNRI= 0;<br />m_nType= 0;<br />}<br />H264NALUParser::~H264NALUParser()<br />{<br />}<br />void H264NALUParser::SetBuffer(unsigned char * buffer,int len,int f,int nri,int type)<br />{<br />m_pNaluBuffer= buffer;<br />m_nNaluSize= len;<br />m_nF= f;<br />m_nNRI= nri;<br />m_nType= type;<br />m_pCurNaluPos= m_pNaluBuffer;<br />m_nPacketCounts = (m_nNaluSize + H264_MTU - 1) / H264_MTU;<br />m_nPacketSeqNum = 0;<br />}<br />BOOL H264NALUParser::readOnePacket(unsigned char * buffer,int &len)<br />{<br />if(m_pCurNaluPos >= m_pNaluBuffer + m_nNaluSize)<br />{<br />return FALSE;<br />}<br />struct h264_rtp_hdr header;<br />int headersize;<br />unsigned char * pCurBuf = buffer;<br />if(m_nNaluSize <= H264_MTU)// Single NALU<br />{<br />header.SingleNALU.f= m_nF;<br />header.SingleNALU.nri= m_nNRI;<br />header.SingleNALU.type= m_nType;<br />headersize = sizeof(header.SingleNALU);<br />memcpy(pCurBuf,&(header.SingleNALU),headersize);<br />pCurBuf += headersize;<br />}<br />else// FU-A<br />{<br />header.FU_A.f= m_nF;<br />header.FU_A.nri= m_nNRI;<br />header.FU_A.type_indicator= FU_A;<br />if(0 == m_nPacketSeqNum)<br />{<br />header.FU_A.s= 1;<br />}<br />else<br />{<br />header.FU_A.s= 0;<br />}<br />if(m_nPacketSeqNum == m_nPacketCounts - 1)<br />{<br />header.FU_A.e= 1;<br />}<br />else<br />{<br />header.FU_A.e= 0;<br />}<br />header.FU_A.r= 0;<br />header.FU_A.type_header= m_nType;<br />//<br />headersize = sizeof(header.FU_A);<br />memcpy(pCurBuf,&(header.FU_A),headersize);<br />pCurBuf += headersize;<br />}<br />if(m_nPacketSeqNum < m_nPacketCounts - 1)<br />{<br />memcpy(pCurBuf,m_pCurNaluPos,H264_MTU);<br />m_pCurNaluPos += H264_MTU;<br />len = headersize + H264_MTU;<br />}<br />else<br />{<br />int remainLen = m_nNaluSize % H264_MTU;<br />if(0 == remainLen)<br />{<br />remainLen = H264_MTU;<br />}<br />memcpy(pCurBuf,m_pCurNaluPos,remainLen);<br />m_pCurNaluPos += remainLen;<br />len = headersize + remainLen;<br />}<br />m_nPacketSeqNum ++;<br />return TRUE;<br />}<br />BOOL H264NALUParser::isPacketOutstanding()<br />{<br />return (m_nPacketSeqNum < m_nPacketCounts);<br />}</p><p>

Interleaved Mode:Type[26-29]

packetization-mode=2

 

待續

 

STAP-B

MTAP16

MTAP24

FU-B