百度媒体云技术及架构陈彬
Agenda媒体云概要图片处理及识别人脸服务视频服务Q&A
百度媒体云–概要开发者及合作方充分利用百度闲散资源,业界最低成本实时+分布式多媒体处理架构,满足大并发实时请求高性能计算实现业界领先的处理算法(视频压缩、人脸及语音识别等)云存储+CDN实现媒体文件百度基础架构( 云存储、云数据库、云消息等高效分发)媒体云为媒体应用或服务开发者提供的媒体PaaS平台,基于该平台可以轻松快速搭建各类媒体应用或服务
百度媒体云–做什么?网…传媒教育政企…站媒体SaaS提供商开发者合作伙伴媒体云(Media PaaS)百度视频百度云百度文库视频课程百度浏览器三星S-Cloud儿童音像馆贝瓦儿歌英雄联盟视频Native APP WebApp
通用多媒体处理架构Web ServerDB通用多媒体前端Cache抓取器直连分布式消息队列图片图片人脸视频WorkerWorkerWorkerWorker
图像处理及识别图片转码•格式互转(JPG,PNG,GIF,BMP)、图像压缩•色度/亮度/对比度/锐化模糊/饱和度调节图像识别•二维码•人脸检测、识别、认证•二维码图像生成•验证码•叠加水印•Exif、IPTC、颜色空间、分辨率、颜色数等元信图片解析息•图片质量
图像处理及识别人脸识别及认证智能裁剪
图像处理及识别•同步图片处理–标准HTTP接入–同步返回图片结果数据•异步图片处理–标准HTTP接入–结果图存储到指定空间–结果回调通知
图像处理及识别cache服务Web server图片抓接入总控取服务服务消息队图片内列核服务
图像处理优化•第三方库的功能bug和性能问题图片处理•脏数据导致的宕机•原图抓取提速•分布式的图片cache集群访问提速•图片处理内核的速度优化•大规模的处理集群高吞吐大并•完备的机房预案发•高效异步消息队列进行数据解耦
访问提速•抓取提速–DNS解析加速(基于百度强大的DNS缓存服务)。–分机房抓取,尽量避免跨运营商抓取。分布式的cache服务,避免相同请求重复处理。•图片算法优化。–libjpe-turbo 提升jpeg图片处理速度。–DCT ,实现大图局部解码。–IPP,使用intel的ipp函数库替换编解码函数。•分布式的cache服务•图片CDN服务
人脸服务•以RESTfulAPI形式封装人脸图像智能分析接口•便捷、高效地将人脸分析能力分发给应用方•高可靠、高并发、高实时性人脸检测人脸认证属性分析人脸聚类人脸识别
系统功能
视频开发者及合作方第三方媒体组件百度云基础架构( 云存储、云数据库、云消息等)集成T5播放内核百度开发者或合作方百度CDN合作方CDN
开发视频应用的难题技术运转推广、门槛高成本大变现难碎片化终端全兼容困难存储成本高、同一个视频推广渠道少PC/手机/Pad/电视针对不同终端有不同版本变现手段缺乏,特别是跨平台支持困难带宽成本巨大移劢端IOS/Android/Flash/HTML5/WP计算、带宽资源空置率高多种需求:实时、高清、流畅、省流量、省电
核心优势-低技术门槛利用百度闲散资源进行计算,业界最低成本实时+分布式转码架构,满足大并发实时转码需求-低运营成本输入全格式支持,输出支持M3U8、Flash/HTML5等视频格式-轻松变现高效云转码跨终端统一接入的视极速智能频广告平台播放内核移动视频广VAST标准支持告智能广告匹配最佳完美支持M3U8,性能及稳定性业界压缩算法第一支持主流文件及流媒体格式业界领先的视频压缩算法Android/IOS/Flash/HTML5/WP平基于内容的智能压缩,相同主观质量下,台SDK存储与带宽占用最小多屏互劢(手机、Pad、PC、电视)
核心优势•强大的T5 播放内核对开发者开放–成功应用众多的百度及开发者产品,更好的性能和响应速度、上亿用户量的稳定性–全平台覆盖:Android,IOS,WP,Flash/HTML5–多屏互动(手机、Pad、PC、TV)–端+ 云:支持实时转码,HTTP Live Streaming (M3U8格式)百度视频百度云百度百度浏览器百度贴吧儿童音像馆贝瓦儿歌明星汇
Http Live Streaming云转码全平台只需一种格式:Android,IOS,WP,Flash点播、直播:HLS标准完全兼容动态码率切换:根据带宽的变化劢态切换码流WPAndroidHLSFlashIOS
视频转码API任务创建通过这些API的组合使用,开发者可以实现基本的视频文件转码操作及视频内容管理功能。媒体云任务查询视频转码API任务删除任务批量查询任务重试
0~15'2 3 54~150' 6 170~812'(1)嗅探实时与分布式转码(2)分段转码视频实时转码15'23455'683'....10s10sClient Player(1)嗅探(2)分片转码(3)分片播放视频分布式转码(3)视频合并012304~125'
视频实时转码Real-time transcoding-Input: video of any format-Output: format supported by iOS, Android or HTML5 video tagBaidu CloudReal-time streaming-HTTP Live Streaming (m3u8/ts)Video CrawlerVideo DataVideoClientSrc PageEngine AnalyzerIOSAndroidHTML5StreamSegment (Data & Index) CaHTML5 Videoche(HLS, mp4/3gp)Internet(Content Distribution Network)
视频分布式转码Clientrequestcallback分布式消息队列任务管理器Pipelined Workers抓取器云存储
实时+分布式转码实时+大并发请求通用多媒体前端支持图片、视频、人脸等云消息队列支持消息读写、查询、重试实时转码分布式CachewDATAorker云存储OUT云消息队列分布式转码云数据库Worker
系统优化•增加cache,减少云存储写操作架构•实时分布式转码结合, 单机QPS5倍提升•编码优化-> 码率25% down算法•汇编优化-> 速度增益51%•主观质量大幅提升后处理•MOS 打分分-> 4分
谢谢!@Bill_Chenbin