ffmpeg（libavcodec）でRTPを介したH264ビデオをデコードする問題
https://stackoverflow.com/questions/3493742
-
28-09-2019 - |
italiano
english
français
española
中国
日本の
العربية
Deutsch
한국어
Português
Russian質問
SDPのプロファイルレベルID ET SPROPパラメーターセットを使用して、AVCODECCONTEXTのProfile_idc、level_idc、extradata et extradata_sizeを設定しました。
コード化されたスライス、SPS、PPS、NAL_IDR_SLICEパケットのデコードを分離します。
初期化：
uint8_t start_sequence [] = {0、0、1}; int size = recv（id_de_la_socket、（char*）rtpreceive、65535,0）;
コード化されたスライス：
char *z = new char[size-16+sizeof(start_sequence)];
memcpy(z,&start_sequence,sizeof(start_sequence));
memcpy(z+sizeof(start_sequence),rtpReceive+16,size-16);
ConsumedBytes = avcodec_decode_video(codecContext,pFrame,&GotPicture,(uint8_t*)z,size-16+sizeof(start_sequence));
delete z;
結果：消費されたbytes> 0およびgotpicture> 0（頻繁に）
SPSおよびPPS：
同一のコード。結果：消費されたbytes> 0およびgotpicture = 0
それは普通だと思います
新しいカップルSPS/PPSを見つけたら、このパケットとそのサイズのペイロードでExtradataとExtrada_sizeを更新します。
nal_idr_slice：
NALユニットタイプは28 => IDRフレームが断片化されています。
1）シーケンス0x000001の最初のフラグメント（RTPヘッダーなし）をプレフィックスし、avcodec_decode_videoに送信します。次に、残りのフラグメントをこの関数に送信します。
2）シーケンス0x000001で最初のフラグメント（RTPヘッダーなし）をプレフィックスし、残りのフラグメントを連結します。このバッファーをデコーダーに送ります。
どちらの場合も、エラーはありません（消費された> 0）が、フレームを検出しません（gotpicture = 0）...
何が問題ですか ？
解決
RTPでは、すべてのH264 Iフレーム（IDR）が通常断片化されています。 RTPを受信したら、最初にヘッダー（通常の最初の12バイト）をスキップしてから、NALユニット（最初のペイロードバイト）に到達する必要があります。 NALが28（1C）の場合、ペイロードに続くことは1つのH264 IDR（I-Frame）フラグメントを表し、H264 IDR（I-Frame）を再構築するためにそれらすべてを収集する必要があることを意味します。
断片化は、MTUが限られており、はるかに大きなIDRのために発生します。 1つのフラグメントは次のようになります。
BIT = 1を開始したフラグメント：
First byte: [ 3 NAL UNIT BITS | 5 FRAGMENT TYPE BITS]
Second byte: [ START BIT | END BIT | RESERVED BIT | 5 NAL UNIT BITS]
Other bytes: [... IDR FRAGMENT DATA...]
その他の断片：
First byte: [ 3 NAL UNIT BITS | 5 FRAGMENT TYPE BITS]
Other bytes: [... IDR FRAGMENT DATA...]
IDRを再構築するには、この情報を収集する必要があります。
int fragment_type = Data[0] & 0x1F;
int nal_type = Data[1] & 0x1F;
int start_bit = Data[1] & 0x80;
int end_bit = Data[1] & 0x40;
もしも fragment_type == 28 次に、それに続くペイロードは、IDRの1つのフラグメントです。次のチェックはです start_bit もしそうなら、そのフラグメントはシーケンスの最初のものです。最初のペイロードバイトから最初の3ビットを取得することにより、IDRのNALバイトを再構築するために使用します (3 NAL UNIT BITS) 2番目のペイロードバイトからの最後の5ビットと組み合わせます (5 NAL UNIT BITS) したがって、このようなバイトを取得します [3 NAL UNIT BITS | 5 NAL UNIT BITS]. 。次に、そのフラグメントから他のすべての次のバイトを使用して、そのnalバイトを最初にクリアバッファーに書き込みます。 IDRの一部ではなく、フラグメントのみを識別するため、最初のバイトをシーケンスでスキップすることを忘れないでください。
もしも start_bit と end_bit 0は、バッファーにペイロード（フラグメントを識別する最初のペイロードバイトをスキップする）を書き込むだけです。
start_bitが0で、end_bitが1の場合、それは最後のフラグメントであることを意味し、バッファーにそのペイロード（フラグメントを識別する最初のバイトをスキップ）を書き込むだけで、IDRが再構築されます。
コードが必要な場合は、コメントに尋ねてください、私はそれを投稿しますが、これはかなり明確だと思います... =）
デコードに関して
今日、IDRのデコードでエラーが発生した理由があるのはなぜですか（私はあなたがそれをうまく再構築したと思いました）。 AVCデコーダー構成レコードをどのように構築していますか？あなたが使用するLibはその自動化を持っていますか？そうでない場合、そしてあなたはこれを聞いていません、続けて読み続けます...
AVCDCRは、デコーダがH264（AVC）ビデオストリームをデコードするために必要なすべてのデータをすばやく解析できるように指定されています。データは次のとおりです。
- profileIdc
- profileiop
- levelidc
- SPS（シーケンスパラメーターセット）
- PPS（画像パラメーターセット）
このすべてのデータは、フィールドの下のSDPでRTSPセッションで送信されます。 profile-level-id と sprop-parameter-sets.
プロファイルレベルIDのデコード
PrifileレベルID文字列は3つのサブストリングに分割され、それぞれ2文字の長さ：
[PROFILE IDC][PROFILE IOP][LEVEL IDC]
各サブストリングは1つのバイトを表します Base16で！したがって、プロファイルIDCが28の場合、それはBase10で実際に40であることを意味します。後でbase10値を使用して、AVCデコーダー構成レコードを作成します。
スプロップパラメーターセットのデコード
スプロップは、コンマ分離されている通常の2つの弦（もっと多くの場合）です。 base64エンコード！それらの両方をデコードできますが、必要はありません。ここでの仕事は、後で使用するためにBase64文字列からバイト配列に変換することです。これで、2つのバイト配列、最初の配列sps、2つ目はppsです。
AVCDCRの構築
これで、AVCDCRを構築するために必要なものすべてがあります。新しいクリーンバッファーを作成することから始めます。ここで説明されている順序でこれらのことを書いてください。
1-価値があるバイト 1 バージョンを表します
2-プロファイルIDCバイト
3 -Prifile IOPバイト
4-レベルIDCバイト
5-値0xffのバイト（これが何であるかを確認するためのAVCデコーダー構成レコードをGoogle
6-値0xe1のバイト
7-SPSアレイの長さの値が短い
8 -SPSバイト配列
9-PPSアレイの数を持つバイト（Sprop-Parameter-Setにはさらに多くのバイトがあります）
10-次のPPSアレイの長さが短い
11 -PPSアレイ
ビデオストリームのデコード
これで、デコーダーにH264ビデオストリームをデコードする方法を伝えるバイト配列ができました。あなたのLIBがSDPからそれ自体を構築しない場合、私はあなたがこれが必要だと信じています...
他のヒント
私はあなたの実装の残りの部分については知りませんが、あなたが受け取っている「フラグメント」はNALユニットである可能性が高いようです。したがって、それぞれがNALU開始コードを必要とする場合があります（00 00 01 また 00 00 00 01）FFMPEGに送信する前にビットストリームを再構築するときに追加されます。
とにかく、H264 RTPパケット化のRFCが役立つ場合があります。
http://www.rfc-editor.org/rfc/rfc3984.txt
お役に立てれば！
この @の実装があります https://net7mma.codeplex.com/ C＃の場合、プロセスはどこでも同じです。
関連するコードは次のとおりです
/// <summary>
/// Implements Packetization and Depacketization of packets defined in <see href="https://tools.ietf.org/html/rfc6184">RFC6184</see>.
/// </summary>
public class RFC6184Frame : Rtp.RtpFrame
{
/// <summary>
/// Emulation Prevention
/// </summary>
static byte[] NalStart = { 0x00, 0x00, 0x01 };
public RFC6184Frame(byte payloadType) : base(payloadType) { }
public RFC6184Frame(Rtp.RtpFrame existing) : base(existing) { }
public RFC6184Frame(RFC6184Frame f) : this((Rtp.RtpFrame)f) { Buffer = f.Buffer; }
public System.IO.MemoryStream Buffer { get; set; }
/// <summary>
/// Creates any <see cref="Rtp.RtpPacket"/>'s required for the given nal
/// </summary>
/// <param name="nal">The nal</param>
/// <param name="mtu">The mtu</param>
public virtual void Packetize(byte[] nal, int mtu = 1500)
{
if (nal == null) return;
int nalLength = nal.Length;
int offset = 0;
if (nalLength >= mtu)
{
//Make a Fragment Indicator with start bit
byte[] FUI = new byte[] { (byte)(1 << 7), 0x00 };
bool marker = false;
while (offset < nalLength)
{
//Set the end bit if no more data remains
if (offset + mtu > nalLength)
{
FUI[0] |= (byte)(1 << 6);
marker = true;
}
else if (offset > 0) //For packets other than the start
{
//No Start, No End
FUI[0] = 0;
}
//Add the packet
Add(new Rtp.RtpPacket(2, false, false, marker, PayloadTypeByte, 0, SynchronizationSourceIdentifier, HighestSequenceNumber + 1, 0, FUI.Concat(nal.Skip(offset).Take(mtu)).ToArray()));
//Move the offset
offset += mtu;
}
} //Should check for first byte to be 1 - 23?
else Add(new Rtp.RtpPacket(2, false, false, true, PayloadTypeByte, 0, SynchronizationSourceIdentifier, HighestSequenceNumber + 1, 0, nal));
}
/// <summary>
/// Creates <see cref="Buffer"/> with a H.264 RBSP from the contained packets
/// </summary>
public virtual void Depacketize() { bool sps, pps, sei, slice, idr; Depacketize(out sps, out pps, out sei, out slice, out idr); }
/// <summary>
/// Parses all contained packets and writes any contained Nal Units in the RBSP to <see cref="Buffer"/>.
/// </summary>
/// <param name="containsSps">Indicates if a Sequence Parameter Set was found</param>
/// <param name="containsPps">Indicates if a Picture Parameter Set was found</param>
/// <param name="containsSei">Indicates if Supplementatal Encoder Information was found</param>
/// <param name="containsSlice">Indicates if a Slice was found</param>
/// <param name="isIdr">Indicates if a IDR Slice was found</param>
public virtual void Depacketize(out bool containsSps, out bool containsPps, out bool containsSei, out bool containsSlice, out bool isIdr)
{
containsSps = containsPps = containsSei = containsSlice = isIdr = false;
DisposeBuffer();
this.Buffer = new MemoryStream();
//Get all packets in the frame
foreach (Rtp.RtpPacket packet in m_Packets.Values.Distinct())
ProcessPacket(packet, out containsSps, out containsPps, out containsSei, out containsSlice, out isIdr);
//Order by DON?
this.Buffer.Position = 0;
}
/// <summary>
/// Depacketizes a single packet.
/// </summary>
/// <param name="packet"></param>
/// <param name="containsSps"></param>
/// <param name="containsPps"></param>
/// <param name="containsSei"></param>
/// <param name="containsSlice"></param>
/// <param name="isIdr"></param>
internal protected virtual void ProcessPacket(Rtp.RtpPacket packet, out bool containsSps, out bool containsPps, out bool containsSei, out bool containsSlice, out bool isIdr)
{
containsSps = containsPps = containsSei = containsSlice = isIdr = false;
//Starting at offset 0
int offset = 0;
//Obtain the data of the packet (without source list or padding)
byte[] packetData = packet.Coefficients.ToArray();
//Cache the length
int count = packetData.Length;
//Must have at least 2 bytes
if (count <= 2) return;
//Determine if the forbidden bit is set and the type of nal from the first byte
byte firstByte = packetData[offset];
//bool forbiddenZeroBit = ((firstByte & 0x80) >> 7) != 0;
byte nalUnitType = (byte)(firstByte & Common.Binary.FiveBitMaxValue);
//o The F bit MUST be cleared if all F bits of the aggregated NAL units are zero; otherwise, it MUST be set.
//if (forbiddenZeroBit && nalUnitType <= 23 && nalUnitType > 29) throw new InvalidOperationException("Forbidden Zero Bit is Set.");
//Determine what to do
switch (nalUnitType)
{
//Reserved - Ignore
case 0:
case 30:
case 31:
{
return;
}
case 24: //STAP - A
case 25: //STAP - B
case 26: //MTAP - 16
case 27: //MTAP - 24
{
//Move to Nal Data
++offset;
//Todo Determine if need to Order by DON first.
//EAT DON for ALL BUT STAP - A
if (nalUnitType != 24) offset += 2;
//Consume the rest of the data from the packet
while (offset < count)
{
//Determine the nal unit size which does not include the nal header
int tmp_nal_size = Common.Binary.Read16(packetData, offset, BitConverter.IsLittleEndian);
offset += 2;
//If the nal had data then write it
if (tmp_nal_size > 0)
{
//For DOND and TSOFFSET
switch (nalUnitType)
{
case 25:// MTAP - 16
{
//SKIP DOND and TSOFFSET
offset += 3;
goto default;
}
case 26:// MTAP - 24
{
//SKIP DOND and TSOFFSET
offset += 4;
goto default;
}
default:
{
//Read the nal header but don't move the offset
byte nalHeader = (byte)(packetData[offset] & Common.Binary.FiveBitMaxValue);
if (nalHeader > 5)
{
if (nalHeader == 6)
{
Buffer.WriteByte(0);
containsSei = true;
}
else if (nalHeader == 7)
{
Buffer.WriteByte(0);
containsPps = true;
}
else if (nalHeader == 8)
{
Buffer.WriteByte(0);
containsSps = true;
}
}
if (nalHeader == 1) containsSlice = true;
if (nalHeader == 5) isIdr = true;
//Done reading
break;
}
}
//Write the start code
Buffer.Write(NalStart, 0, 3);
//Write the nal header and data
Buffer.Write(packetData, offset, tmp_nal_size);
//Move the offset past the nal
offset += tmp_nal_size;
}
}
return;
}
case 28: //FU - A
case 29: //FU - B
{
/*
Informative note: When an FU-A occurs in interleaved mode, it
always follows an FU-B, which sets its DON.
* Informative note: If a transmitter wants to encapsulate a single
NAL unit per packet and transmit packets out of their decoding
order, STAP-B packet type can be used.
*/
//Need 2 bytes
if (count > 2)
{
//Read the Header
byte FUHeader = packetData[++offset];
bool Start = ((FUHeader & 0x80) >> 7) > 0;
//bool End = ((FUHeader & 0x40) >> 6) > 0;
//bool Receiver = (FUHeader & 0x20) != 0;
//if (Receiver) throw new InvalidOperationException("Receiver Bit Set");
//Move to data
++offset;
//Todo Determine if need to Order by DON first.
//DON Present in FU - B
if (nalUnitType == 29) offset += 2;
//Determine the fragment size
int fragment_size = count - offset;
//If the size was valid
if (fragment_size > 0)
{
//If the start bit was set
if (Start)
{
//Reconstruct the nal header
//Use the first 3 bits of the first byte and last 5 bites of the FU Header
byte nalHeader = (byte)((firstByte & 0xE0) | (FUHeader & Common.Binary.FiveBitMaxValue));
//Could have been SPS / PPS / SEI
if (nalHeader > 5)
{
if (nalHeader == 6)
{
Buffer.WriteByte(0);
containsSei = true;
}
else if (nalHeader == 7)
{
Buffer.WriteByte(0);
containsPps = true;
}
else if (nalHeader == 8)
{
Buffer.WriteByte(0);
containsSps = true;
}
}
if (nalHeader == 1) containsSlice = true;
if (nalHeader == 5) isIdr = true;
//Write the start code
Buffer.Write(NalStart, 0, 3);
//Write the re-construced header
Buffer.WriteByte(nalHeader);
}
//Write the data of the fragment.
Buffer.Write(packetData, offset, fragment_size);
}
}
return;
}
default:
{
// 6 SEI, 7 and 8 are SPS and PPS
if (nalUnitType > 5)
{
if (nalUnitType == 6)
{
Buffer.WriteByte(0);
containsSei = true;
}
else if (nalUnitType == 7)
{
Buffer.WriteByte(0);
containsPps = true;
}
else if (nalUnitType == 8)
{
Buffer.WriteByte(0);
containsSps = true;
}
}
if (nalUnitType == 1) containsSlice = true;
if (nalUnitType == 5) isIdr = true;
//Write the start code
Buffer.Write(NalStart, 0, 3);
//Write the nal heaer and data data
Buffer.Write(packetData, offset, count - offset);
return;
}
}
}
internal void DisposeBuffer()
{
if (Buffer != null)
{
Buffer.Dispose();
Buffer = null;
}
}
public override void Dispose()
{
if (Disposed) return;
base.Dispose();
DisposeBuffer();
}
//To go to an Image...
//Look for a SliceHeader in the Buffer
//Decode Macroblocks in Slice
//Convert Yuv to Rgb
}
他のさまざまなRFCの実装もあり、メディアをメディアエレメントや他のソフトウェアでプレイしたり、ディスクに保存したりするのに役立ちます。
コンテナ形式への書き込みが進行中です。
