图片和视频编辑之旋转角度问题

在做图片和视频编辑时，不可避免的是旋转角度问题，这里仅记录下相关处理策略。

图片旋转角度

获取图片旋转角度

一般情况下，Camera拍摄的图片和视频都存在旋转角度问题，真正渲染时，需要进行旋转操作。在Android平台上可以通过ExifInterface类获取JPEG的EXIF信息，其中就包括了旋转角度，如下所示：

// 图片旋转角度，该角度表示在正常图片的基础上逆时针旋转的角度
var degree = 0
val exifInterface = ExifInterface(path)
val orientation = exifInterface.getAttributeInt(ExifInterface.TAG_ORIENTATION, ExifInterface.ORIENTATION_NORMAL)
when (orientation) {
    ExifInterface.ORIENTATION_ROTATE_90 -> degree = 90
    ExifInterface.ORIENTATION_ROTATE_180 -> degree = 180
    ExifInterface.ORIENTATION_ROTATE_270 -> degree = 270
}

除此之外，简单列举几个通过ExifInterface获取的元数据：

ExifInterface.TAG_ORIENTATION ：逆时针的旋转角度
ExifInterface.TAG_IMAGE_WIDTH ：图片宽度（处理旋转角度之前的宽度，顺时针旋转扶正后的高度）
ExifInterface.TAG_IMAGE_LENGTH ：图片高度（处理旋转角度之前的高度，顺时针旋转扶正后的宽度）
ExifInterface.TAG_DATETIME ：拍摄时间，例如：2018:01:15 15:13:50
ExifInterface.TAG_MODEL ：设备型号，例如：ONEPLUS A6010
ExifInterface.TAG_MAKE ：设备生产厂商，例如：OnePlus

更详细的EXIF信息，可以通过以下工具进行查看：

EXIF(EXchangeable Image File Format)是专门为数码相机照片设定的可交换图像文件格式，可以记录数码照片的属性信息和拍摄数据。

通过Mac的显示检查器（打开图片->工具->显示检查器）也可以查看图片的EXIF信息，如下所示。因此我们需要顺时针旋转90度，以修正图片，所以最终上屏的Size是3456*4608。

处理图片旋转角度

上述获取了图片的逆时针旋转角度degree，所以我们需要顺时针旋转相同的角度，以修正图片旋转问题，而Matrix的旋转API正好就是顺时针旋转，所以处理逻辑如下所示：

val matrix = Matrix()
val originWidth = originBitmap.width
val originHeight = originBitmap.height
val originRectF = RectF(0f, 0f, originWidth.toFloat(), originHeight.toFloat())
val tempRectF = RectF()
// 首先围绕图片中心点旋转上面获取的degree（因为degree是逆时针旋转角度，所以这里需要顺时针旋转进行修正，而Matrix的setRotate正好是顺时针旋转）
matrix.setRotate(degree, originWidth / 2f, originHeight / 2f)
matrix.mapRect(tempRectF, originRectF)
// 修正旋转导致的位移
matrix.postTranslate(0 - tempRectF.left, 0 - tempRectF.top)

因此，通过上述获得的matrix，去canvas.drawBitmap，就修正了图片的旋转问题。整个流程，可以通过下面的示意图描述：

上述degree表示在正常图片的基础上逆时针旋转的角度，即为了修正图片，我们需要顺时针旋转相同的角度。

视频旋转角度

获取视频旋转角度

val mediaPlayerWrapper = MediaMetadataRetriever()
mediaPlayerWrapper.setDataSource(inputPath)
// 视频旋转角度，该角度表示在正常视频的基础上逆时针旋转的角度（与图片旋转角度含义一致） 
val rotation = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_ROTATION)
// 配合上述旋转角度的视频宽度
val width = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_WIDTH)
// 配合上述旋转角度的视频高度
val height = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_HEIGHT)
// 视频时长
val duration = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_DURATION)

上述通过MediaMetadataRetriever获取的rotation表示在正常视频的基础上逆时针旋转的角度（与图片旋转角度degree含义一致）。

处理视频旋转角度

一般情况下，播放器在硬解后拿到的OES Texture就是逆时针旋转rotation之后纹理，所以我们只要对纹理坐标顺时针旋转相同角度就可以了。

在对纹理坐标进行旋转时，有一个重要的差异点：屏幕纹理坐标系和FBO纹理坐标系的坐标原点(0,0)在Y轴上是相反的，如下所示：

屏幕纹理坐标系

FBO纹理坐标系

所以，渲染到FBO与屏幕时，需要使用不同的纹理坐标。

假设顶点坐标是

  float pos[] = {
    -1.0f, 1.0f,
    -1.0f, -1.0f,
    1.0f, 1.0f,
    1.0f, -1.0f,
    };

若是渲染到FBO时，旋转角度和纹理坐标的对应关系如下所示：

val rotation = 90
val textureCoord = when (rotation) {
    90 -> floatArrayOf(
        1.0f, 1.0f,
        0.0f, 1.0f,
        1.0f, 0.0f,
        0.0f, 0.0f
        )
    180 -> floatArrayOf(
        1.0f, 0.0f,
        1.0f, 1.0f,
        0.0f, 0.0f,
        0.0f, 1.0f
        )
    270 -> floatArrayOf(
        0.0f, 0.0f,
        1.0f, 0.0f,
        0.0f, 1.0f,
        1.0f, 1.0f
        )
    // 0
    else -> floatArrayOf(
        0.0f, 1.0f,
        0.0f, 0.0f,
        1.0f, 1.0f,
        1.0f, 0.0f
        )
}

相反的，若是渲染到屏幕时，旋转角度和纹理坐标的对应关系如下所示：

val rotation = 90
val textureCoord = when (rotation) {
    90 -> floatArrayOf(
        0.0f, 1.0f,
        1.0f, 1.0f,
        0.0f, 0.0f,
        1.0f, 0.0f
        )
    180 -> floatArrayOf(
        1.0f, 1.0f,
        1.0f, 0.0f,
        0.0f, 1.0f,
        0.0f, 0.0f
        )
    270 -> floatArrayOf(
        1.0f, 0.0f,
        0.0f, 0.0f,
        1.0f, 1.0f,
        0.0f, 1.0f
        )
    // 0
    else -> floatArrayOf(
        0.0f, 0.0f,
        0.0f, 1.0f,
        1.0f, 0.0f,
        1.0f, 1.0f
        )
}

整个流程，可以通过下面的示意图描述：

上述rotation表示在正常视频的基础上逆时针旋转的角度，即为了修正视频，我们需要针对纹理坐标顺时针转相同的角度（与处理图片旋转角度的方式一致）。

GLES20.glReadPixels

众所周知，我们可以通过GLES20.glReadPixels从指定的Read Buffer中获取一帧图像。但是实践中发现，当从FBO和屏幕Buffer（FBO0）中分别读取帧数据时，得到的图像是镜像关系，原因就是我们上面提及的***屏幕纹理坐标系和FBO纹理坐标系在Y轴上是反序的***。

首先看下如何读取并保存帧数据，如下所示：

// 一帧图像的Size
val buffer = ByteBuffer.allocateDirect(width * height * 4)
buffer.order(ByteOrder.LITTLE_ENDIAN)
GLES20.glReadPixels(0, 0, width, height, GLES20.GL_RGBA, GLES20.GL_UNSIGNED_BYTE, buffer)
buffer.rewind()

// outputFile表示存储的目标文件
val bos = BufferedOutputStream(FileOutputStream(outputFile))
val bmp = Bitmap.createBitmap(width, height, Bitmap.Config.ARGB_8888)
// 填充像素数据
bmp.copyPixelsFromBuffer(buffer)
bmp.compress(Bitmap.CompressFormat.JPEG, 100, bos)
bmp.recycle()
bos.close()

然后看下真实的案例：

首先，把一张纹理绘制到FBO（按照纹理坐标原点在左下角），此时FBO中的纹理数据应该是正常的（非反序）。
其次，通过GLES20.glReadPixels从FBO中读取并保存帧数据，得到图片1
然后，把FBO对应的纹理绘制到屏幕（按照纹理坐标原点在左上角），此时屏幕上的纹理数据也应该是正常的（非反序）。
最后，通过GLES20.glReadPixels从屏幕（FBO0）中读取并保存帧数据，得到图片2
截取屏幕图像得到图片0，与图像1和图像2进行对比

最后我们来看下几张图片的对比：首先是最终上屏的图片0，如下所示：

然后是从FBO读取并保存的图片1，如下所示：

最后是从屏幕（FBO0）读取并保存的图片2，如下所示：

可见，从FBO中读取的图片1是正常的，而从屏幕（FBO0）读取的图片2是反序的。

参考文章

OpenGLES帧缓冲