Android屏幕镜像一:屏幕采集 + MediaCodec编码

接下来实现一个简单的Android屏幕镜像功能,主要涉及到以下这些知识点:

  • 1、Android屏幕采集
  • 2、MediaCodec编解码
  • 3、Android音频数据采集
  • 4、AudioTack播放pcm
  • 5、tcpudp传输

一、屏幕采集

Android5.0及更高版本支持屏幕采集,屏幕采集需要用动态申请权限。

    public static final int REQUEST_CODE = 1000;
    private MediaProjectionManager mMediaProjectionManager;
    private MediaProjection mediaProjection;

    private void requestScreenCapture() {
        mMediaProjectionManager = (MediaProjectionManager) getSystemService(MEDIA_PROJECTION_SERVICE);
        Intent captureIntent = mMediaProjectionManager.createScreenCaptureIntent();
        startActivityForResult(captureIntent, REQUEST_CODE);
    }

    @Override
    protected void onActivityResult(int requestCode, int resultCode, Intent data) {
        if (resultCode != RESULT_OK || requestCode != REQUEST_CODE)
            return;
        mediaProjection = mMediaProjectionManager.getMediaProjection(resultCode, data);
        if (mediaProjection == null) {
            return;
        }
        DisplayMetrics dm = getResources().getDisplayMetrics();
        mScreenCapture = new ScreenCapture(dm.widthPixels, dm.heightPixels, mediaProjection);
        mScreenCapture.setOnCaptureVideoCallback(mVideoCallback);
        mScreenCapture.startCapture();
    }

如上,获取截屏权限后,就可以开始截屏了。
通过MediaProjectioncreateVirtualDisplay方法可将截屏画面给到指定的surface中,这里我们截屏的画面不需要显示,而是需要将画面数据给到MediaCodec编码,所以这里需要通过MediaCodec生成一个surface用于接收截屏数据。

    public void initEncoder() {
        Log.i(TAG,"initEncoder");
        MediaFormat mediaFormat = MediaFormat.createVideoFormat(MediaFormat.MIMETYPE_VIDEO_AVC, width, height);
        // 设置视频输入颜色格式,这里选择使用Surface作为输入,可以忽略颜色格式的问题,并且不需要直接操作输入缓冲区。
        mediaFormat.setInteger(MediaFormat.KEY_COLOR_FORMAT, MediaCodecInfo.CodecCapabilities.COLOR_FormatSurface);
        // 码率
        mediaFormat.setInteger(MediaFormat.KEY_BIT_RATE, width * height);
        // 帧率
        mediaFormat.setInteger(MediaFormat.KEY_FRAME_RATE, 60);
        // I帧间隔
        mediaFormat.setInteger(MediaFormat.KEY_I_FRAME_INTERVAL, 5);
        try {
            mEncoder = MediaCodec.createEncoderByType(MediaFormat.MIMETYPE_VIDEO_AVC);
            mEncoder.configure(mediaFormat, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE);
            Surface surface = mEncoder.createInputSurface();
            mVirtualDisplay = mMediaProjection.createVirtualDisplay("-display", width, height, 1,
                    DisplayManager.VIRTUAL_DISPLAY_FLAG_PUBLIC, surface, null, null);
        } catch (Exception e) {
            Log.w(TAG, e);
            mEncoder = null;
        }
    }

二、获取编码数据

接下来调用MediaCodecstart方法,就可以获取编码数据

    public void startCapture() {
        if (isCapturing) {
            Log.w(TAG, "startCapture ignore 1");
            return;
        }

        initEncoder();
        if (mEncoder == null) {
            Log.w(TAG, "startCapture ignore 2");
            return;
        }
        Log.i(TAG, "startCapture");

        isCapturing = true;

        encodeAsync();
//        encodeSync();
//        encodeDeprecated();
    }

      /**
     * Android5.0之后异步获取
     */
    private void encodeAsync() {
        mCaptureThread = new Thread(new Runnable() {
            @Override
            public void run() {
                mEncoder.setCallback(new MediaCodec.Callback() {
                    @Override
                    public void onInputBufferAvailable(MediaCodec codec, int index) {
                        Log.i(TAG, "onInputBufferAvailable");
                    }

                    @Override
                    public void onOutputBufferAvailable(MediaCodec codec, int index, MediaCodec.BufferInfo info) {
                        //Log.i(TAG,"onOutputBufferAvailable");
                        ByteBuffer buffer = mEncoder.getOutputBuffer(index);
                        encodeFrame(buffer, info.size);
                        mEncoder.releaseOutputBuffer(index, false);
                    }

                    @Override
                    public void onError(MediaCodec codec, MediaCodec.CodecException e) {
                        Log.i(TAG, "onError");
                    }

                    @Override
                    public void onOutputFormatChanged(MediaCodec codec, MediaFormat format) {
                        Log.i(TAG, "onOutputFormatChanged");
                    }
                });
                mEncoder.start();
            }
        });
        mCaptureThread.start();
    }

由于是通过surface获取的编码数据,所以这里没有onInputBufferAvailable回调,只需监听onOutputBufferAvailable方法,就可以获得编码数据。Android5.0之后系统推荐使用这种通过异步获取编解码数据的方式,同时Android5.0之后系统也提供了同步获取编解码数据的方式。

    /**
     * Android5.0之后同步获取
     */
    private void encodeSync() {
        mCaptureThread = new Thread(new Runnable() {
            @Override
            public void run() {
                mEncoder.start();
                MediaCodec.BufferInfo bufferInfo = new MediaCodec.BufferInfo();
                while (isCapturing && mEncoder != null) {
                    try {
                        int index = mEncoder.dequeueOutputBuffer(bufferInfo, 0);
                        if (index >= 0) {
                            // Log.i(TAG, "dequeueOutputBuffer " + outId);
                            ByteBuffer buffer = mEncoder.getOutputBuffer(index);
                            encodeFrame(buffer, bufferInfo.size);
                            mEncoder.releaseOutputBuffer(index, false);
                        }
                    } catch (Exception e) {
                        Log.w(TAG, e);
                    }
                }
            }
        });
        mCaptureThread.start();
    }

Android5.0之前的同步获取方式已经标记废弃了。

    /**
     * Android5.0之前同步获取,已废弃
     */
    private void encodeDeprecated() {
        mCaptureThread = new Thread(new Runnable() {
            @Override
            public void run() {
                mEncoder.start();
                MediaCodec.BufferInfo bufferInfo = new MediaCodec.BufferInfo();
                while (isCapturing && mEncoder != null) {
                    try {

                        ByteBuffer[] buffers = mEncoder.getOutputBuffers();
                        int index = mEncoder.dequeueOutputBuffer(bufferInfo, 0);
                        if (index == MediaCodec.INFO_OUTPUT_FORMAT_CHANGED) {
                            Log.i(TAG, "captureDeprecated INFO_OUTPUT_FORMAT_CHANGED");
                        } else if (index >= 0) {
                            // Log.i(TAG, "dequeueOutputBuffer " + outId);
                            ByteBuffer buffer = buffers[index];
                            encodeFrame(buffer, bufferInfo.size);
                            mEncoder.releaseOutputBuffer(index, false);
                        }
                    } catch (Exception e) {
                        Log.w(TAG, e);
                    }
                }
            }
        });
        mCaptureThread.start();
    }

接下来可以在encodeFrame方法中处理h264数据

    private void encodeFrame(ByteBuffer buffer, int bufferSize) {
        final byte[] bytes = new byte[bufferSize];
        buffer.get(bytes);
        if (null != mVideoCallback) {
            mVideoCallback.onCaptureVideoCallback(bytes);
        }
    }

    private OnCaptureVideoCallback mVideoCallback;

    public void setOnCaptureVideoCallback(OnCaptureVideoCallback videoCallback) {
        mVideoCallback = videoCallback;
    }

    public interface OnCaptureVideoCallback {
        void onCaptureVideoCallback(byte[] bytes);
    }

这里将数据回调给调用者处理,调用者可以储存为文件,也可以直接通过socket发送到服务器处理。

三、关闭屏幕采集、释放编码器

结束屏幕录制的时候要及时释放这些系统资源

    public void stopCapture() {
        Log.i(TAG, "stopCapture");
        isCapturing = false;
        if (mVirtualDisplay != null) {
            mVirtualDisplay.release();
            mVirtualDisplay = null;
        }
        if (mMediaProjection != null) {
            mMediaProjection.stop();
            mMediaProjection = null;
        }
        if (mEncoder != null) {
            mEncoder.stop();
            mEncoder.release();
            mEncoder = null;
        }
    }

屏幕的采集编码暂到这里,接下来我们要在本机完成解码显示。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,752评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,100评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,244评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,099评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,210评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,307评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,346评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,133评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,546评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,849评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,019评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,702评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,331评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,030评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,260评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,871评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,898评论 2 351