增强adxe引擎视频播放之 - windows视频播放支持

一、开发缘由

cocos2dx全系列不支持windows视频播放，给开发和测试带来不便
虚幻和unity都采用将视频渲染到纹理的方式，极大提升了视频和引擎渲染对象的融合，而cocos2dx全系列不支持

二、以windows视频播放渲染到纹理为开端

经过一番Google搜索和研究，确定微软windows sdk提供的Media Foundation（COM组件）为实现windows视频播放的最佳方案，相对于ffmpeg有如下优势：

• 由于是系统组件，无License问题，ffmpeg为LGPL，部分组件是GPL，不适合采用MIT开源协议的adxe引擎
• 使用Media Foundation无需关心音频采样，而ffmpeg需要手动处理音频
  Media Foundation为win7以上系统自带，没有额外三方库负担，且支持硬件加速，性能由系统保证，引擎无需关心
• 轻松支持多种视频格式（由Media Foundation COM组件提供支持，无需额外实现），例如.mp4, .webm等

三、基本实现原理和思路

通过参考微软官方的classic示例和官方文档确定实现思路。
protectedplayback
seeking–fast-forward–and-reverse-play

1. 视频文件的播放流程以及声音的渲染完全由Media Session控制
2. 创建Media Session后，将视频采样输出格式设置为NV12
3. 实现自定义视频采样器COM组件MFVideoSampler，继承自IMFSampleGrabberSinkCallback
4. 创建视频采样器并作为视频渲染活动目标，关键API: MFCreateSampleGrabberSinkActivate
5. 在视频采样回调接口 OnProcessSample 将视频采样帧数据上传到显卡
   在显卡片段着色过程中将YUV颜色空间转换为RGB，也就是常说的Fragment Shader

通过以上步骤，完整的媒体文件音视频播放功能基本就可以实现了，详见Github PR页面：
https://github.com/adxeproject/adxe/pull/577
​
该patch开发中，目前已经可以播放.mp4, .webm等视频文件，效果如下：
​

欢迎大佬指教。

标签：视频,adxe,Foundation,windows,Media,组件,播放
来源： https://blog.csdn.net/xyzzf/article/details/122839585