博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
让WebRTC支持H264编解码
阅读量:6423 次
发布时间:2019-06-23

本文共 5508 字,大约阅读时间需要 18 分钟。

近期实验了下怎样让WebRTC支持H264编码。记录下,供有须要的人參考。

说明一下,我是在 Ubuntu Server 14.04 下编译的 WebRTC ,使用 native(C++) api 开发 WebRTC 应用。

所以我的调整都是基于 native 代码。

终于的效果是浏览器能够用H264发送视频。也能够接收H264视频。

注意,WebRTC 使用 OpenH264 来做 encoder (见 h264_encoder_impl.cc)。使用 ffmpeg 来做 decoder (见 h264_decoder_impl.cc )。

代码版本号

本文相应的代码是2017年2月8号的,能够使用 gclient revinfo -a来查看详细版本号,例如以下:

编译选项调整

WebRTC能够支持H264,但在Linux下编译时,默认没有打开。

rtc_use_h264。这个开关控制了是否使用 H264 (相应C++代码中的宏 WEBRTC_USE_H264),在 webrtc/webrtc.gni 文件里定义:

rtc_use_h264 = proprietary_codecs && !is_android && !is_ios

proprietary_codecs 在 build/config/features.gni 中定义:

proprietary_codecs = is_chrome_branded || is_chromecast

我在 Linux 下编译,branded 默认是 Chromium ,所以,proprietary_codecs 默认就是 false 。

想来想去,仅仅好通过 gn gen 时传入 args 来调整比較方便,使用以下的命令来生成 ninja 构建文件:

gn gen out/h264Debug --args="proprietary_codecs=true"

运行完成后,能够使用下列命令验证一下:

gn args out/h264Debug --list=proprietary_codecsgn args out/h264Debug --list=rtc_use_h264

看到 Current Value 为 true。就说明这个选项已经生效了。

打开 rtc_use_h264 。OpenH264 的编码支持就使能了。

WebRTC内部会使用 ffmpeg 来解码 H264 (见 h264_decoder_impl.cc ),与 ffmpeg 相关的另一个选项——rtc_initialize_ffmpeg。这个也得为 true ,否则 ffmpeg 的 avcodec 不会初始化,用不成。

rtc_initialize_ffmpeg 定义在 webrtc/webrtc.gni 中定义:

rtc_initialize_ffmpeg = !build_with_crhome

由于我们为 native 开发而编译。build_with_chrome 默觉得 false ,所以 rtc_initialize_ffmpeg 默觉得 true ,不用调整。

rtc_initialize_ffmpeg 开关相应一个 C++ 代码中的宏 WEBRTC_INITIALIZE_FFMPEG 。

要使用 ffmpeg 的 h264 decoder 功能。还须要改动一个宏: FFMPEG_H264_DECODER。

在 config.h 文件里,路径是 third_party/chromium/config/chromium/linux/x64。原来定义例如以下:

#define CONFIG_H264_DECODER 0

改动为 1 就可以。这样 avcodec_register_all() 方法才会把 H264 decoder 注冊到系统中。

等下,实际上另一部分很重要的工作要做。

由于 linux 下编译 WebRtc 。默认生成的 ninja 构建文件里。没有 ffmpeg 的 h264 decoder 相应的源代码,所以即便你打开 FFMPEG_H264_DECODER 也无论用,必须得改动 third_party/ffmpeg/ffmpeg_generated.gni 文件,找到包括 h264的那些条件。打开就可以。

注:由于我一開始编译时没有打开 H264 支持,所以在改动了ffmpeg_generated.gni 文件后,使用 gn gen 生成 ninja 构建文件时。指定了一个新的文件夹,然后把 ffmpeg 相关的 ninja 文件(三个),复制到了原来的构建文件夹中,然后使用 ninja ffmpeg 命令来编译出 so 文件。

codec 的顺序调整

网页使用 WebRTC 发送 SDP ,进行协商时,默认的 codec 顺序是:

  1. VP8
  2. VP9
  3. H264

在 C++ 代码里。会默认选择第一个来匹配(从PeerConnection::CreateAnswer/SetRemoteDescription两个方法跟进去,能够看到)。所以。我们要改动 C++ 代码,来改变这个选择逻辑。

WebRtcVideoChannel2(webrtcvideoengine2.cc)使用的 codec ,来自 InternalEncoderFactory类(internalencoderfactory.cc),无论是作为发送端还是接收端。编码格式都来自这里。

在InternalEncoderFactory的构造函数里,能够调整 codec 的顺序,默认代码例如以下:

supported_codecs_.push_back(cricket::VideoCodec(kVp8CodecName));if (webrtc::VP9Encoder::IsSupported())  supported_codecs_.push_back(cricket::VideoCodec(kVp9CodecName));if (webrtc::H264Encoder::IsSupported()) {  cricket::VideoCodec codec(kH264CodecName);  // TODO(magjed): Move setting these parameters into webrtc::H264Encoder  // instead.  codec.SetParam(kH264FmtpProfileLevelId,                 kH264ProfileLevelConstrainedBaseline);  codec.SetParam(kH264FmtpLevelAsymmetryAllowed, "1");  supported_codecs_.push_back(std::move(codec));}supported_codecs_.push_back(cricket::VideoCodec(kRedCodecName));supported_codecs_.push_back(cricket::VideoCodec(kUlpfecCodecName));....

仅仅要把 H264 那个 codec 调整到前面就可以。

做了这个调整,Native app 作为发送视频的一端,在 SDP 协商时。 H264 的支持就会放在前面,另外一端假设支持 H264 解码,就会优先选择 H264 格式。两边就能以 H264 来交互视频流了。

浏览器作为发送视频的一端时。它发过来的视频格式顺序是 VP8、VP9、H264。Native C++代码中会依据这个顺序来调整本地的 codec 的顺序,代码在 mediasession.cc 中:

template 
static void NegotiateCodecs(const std::vector
& local_codecs, const std::vector
& offered_codecs, std::vector
* negotiated_codecs) { for (const C& ours : local_codecs) { C theirs; // Note that we intentionally only find one matching codec for each of our // local codecs, in case the remote offer contains duplicate codecs. if (FindMatchingCodec(local_codecs, offered_codecs, ours, &theirs)) { C negotiated = ours; negotiated.IntersectFeedbackParams(theirs); if (IsRtxCodec(negotiated)) { const auto apt_it = theirs.params.find(kCodecParamAssociatedPayloadType); // FindMatchingCodec shouldn't return something with no apt value. RTC_DCHECK(apt_it != theirs.params.end()); negotiated.SetParam(kCodecParamAssociatedPayloadType, apt_it->second); } if (CodecNamesEq(ours.name.c_str(), kH264CodecName)) { webrtc::H264::GenerateProfileLevelIdForAnswer( ours.params, theirs.params, &negotiated.params); } negotiated.id = theirs.id; negotiated.name = theirs.name; negotiated_codecs->push_back(std::move(negotiated)); } } // RFC3264: Although the answerer MAY list the formats in their desired // order of preference, it is RECOMMENDED that unless there is a // specific reason, the answerer list formats in the same relative order // they were present in the offer. std::unordered_map
payload_type_preferences; int preference = static_cast
(offered_codecs.size() + 1); for (const C& codec : offered_codecs) { payload_type_preferences[codec.id] = preference--; } std::sort(negotiated_codecs->begin(), negotiated_codecs->end(), [&payload_type_preferences](const C& a, const C& b) { return payload_type_preferences[a.id] > payload_type_preferences[b.id]; });}

最后那个 sort 调用,依据发送端的 codec 顺序又一次调整了我们支持的解码格式的顺序。

所以,我们在这里也须要改动一下,把排序的部分去掉。或者针对 H264 去掉。

又一次编译

使用下列命令。能够编译特定模块:

ninja pc (针对 mediasession.cc )ninja media (针对 internalencoderfactory.cc 和 webrtcvideoengine2.cc )ninja ffmpeg (针对 ffmpeg )

然后再编译你自己的 native app 。


相关阅读:

你可能感兴趣的文章
删除N天前的M(天)个目录 、删除N天前最后修改的文件 ForFiles, dos command 批处理命令cmd/bat...
查看>>
十进制数1~n中1出现的次数
查看>>
PostgreSQL 的 语法分析的理解(五)
查看>>
[转载]Visual Studio 2010敏捷利剑:详解Scrum
查看>>
Java Collection: List、Set、 Map、 HashMap、 Hashtable、 Vector
查看>>
T-SQL查询进阶--流程控制语句
查看>>
Excel VBA小试
查看>>
备份Toad中保存的数据库连接用户名和密码
查看>>
ASP.NET中 Repeater 的使用前台绑定
查看>>
微信公众平台模拟群发技术
查看>>
C语言学习之指针详解
查看>>
学习使用Bing Maps Silverlight Control(一):准备和新建
查看>>
讲一讲什么叫阻塞非阻塞同步异步
查看>>
选择器补遗
查看>>
C# 实体集合和实体转换成相应的string、XDocument、XElement、XDocument
查看>>
轻松记住大端小端的含义(附对大端和小端的解释)
查看>>
dreamweaver中的 map怎么调用?_制作热点图像区域
查看>>
代码19
查看>>
Win10系列:UWP界面布局进阶5
查看>>
ABP Zero 本地化语言的初始化和扩展
查看>>