详解如何用Java实现对m3u8直播流抽帧

发布时间:

抽帧(frame extraction)是指从视频流中提取一些特定的帧,通常是关键帧或者随机帧,以供后续处理。对于m3u8直播流,可以使用Java中的FFmpeg库来实现抽帧功能。

详解如何用Java实现对m3u8直播流抽帧

什么是 FFmpeg

FFmpeg是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序。采用LGPL或GPL许可证。它提供了录制、转换以及流化音视频的完整解决方案。

什么是 JavaCV

JavaCV 是一款基于JavaCPP 调用方式,由多种开源计算机视觉库组成的包装库,封装了包含FFmpeg、OpenCV、tensorflow、caffe、tesseract、libdc1394、OpenKinect、videoInput和ARToolKitPlus等在内的计算机视觉领域的常用库和实用程序类。

最简单的抽帧

使用 Java 中的 FFmpeg 库实现的最简单的抽帧。

<dependency>
<groupId>org.bytedeco</groupId>
<artifactId>javacv</artifactId>
<version>1.4.1</version>
</dependency>
import org.bytedeco.javacv.*;
import java.io.IOException;

public class FrameExtractor {
public static void main(String[] args) throws IOException, FrameGrabber.Exception, FrameRecorder.Exception {
FFmpegFrameGrabber grabber = new FFmpegFrameGrabber("直播流地址xxx.m3u8");
grabber.setOption("rtsp_transport", "tcp");
grabber.start();

Frame frame;
Java2DFrameConverter converter = new Java2DFrameConverter();
int i = 0;

// grabber.grabImage() 获取帧图片,不包含音频
// grabber.grab() 包含音频
while ((frame = grabber.grabImage()) != null) {
// 在这里处理抽取到的帧
// 例如,将帧保存为图像文件
converter.convert(frame).createGraphics().dispose();
String outputFilename = "frame_" + i + ".jpg";
File f = new File(outputFilename);
if(!f.exists())f.mkdirs();
ImageIO.write(converter.convert(frame), "jpg", f);
i++;
}
grabber.stop();
}
}

抽帧算法

什么是帧率:每秒刷新几次就是几帧。例如25帧就是每秒展示25张图片。

指定每几秒抽取几帧。这里的核心思想是,平均数累加。

假设对帧率为25的视频。要实现每3秒抽3帧。

设:帧率=fps;时间=t;t时间内抽取总帧数=x;

avg=(fps.t)/x;

只需找出1*avg,2*avg,...,x*avg分别对应的值就找到了需要抽取的帧。

最后只需要使用一个变量对帧率计数。在指定的帧率进行抽取操作就可以了。

代码:

public class FrameExtractor {
public static void main(String[] args) throws IOException, FrameGrabber.Exception, FrameRecorder.Exception {
// 读取流
FFmpegFrameGrabber grabber = new FFmpegFrameGrabber("http:.m3u8");
grabber.setOption("rtsp_transport", "tcp");
grabber.start();

Frame frame;
Java2DFrameConverter converter = new Java2DFrameConverter();

// 控制读取帧数
int frameRate = (int) grabber.getFrameRate();
int targetFrameRateNum[] = {10,10}; //(每10秒读10帧) 目标帧率数量,每几秒钟读取几帧
SortedSet<Integer> targetFrameRate = new TreeSet<>(); // 需要抽取的目标帧率
// 计算需要抽取的目标帧
int calFrameRate = frameRate * targetFrameRateNum[0];
int partSize = calFrameRate / targetFrameRateNum[1];
int remainder = calFrameRate % targetFrameRateNum[1];
int current = 1;
for (int i = 0; i < targetFrameRateNum[1]; i++) {
// 避免出现帧数多一个
if (current <= calFrameRate){
targetFrameRate.add(current);
}
current += partSize;
if (i < remainder) {
current++;
}
}

// 计数器
int frameCount = 0;
int i = 0;
while ((frame = grabber.grabImage()) != null) {
// 每读取一帧,增加计数器
frameCount++;
// 如果计数器达到目标帧率,则进行处理
if (targetFrameRate.contains(frameCount)) {
// 处理抽取到的帧

}
// 重置计数器
if (calFrameRate == frameCount){
frameCount = 0;
}
}

grabber.stop();
}
}