燃烧我的卡路里——Flutter瘦内存、瘦包之图片渲染组件

阅读 67
收藏
2019-04-04
原文链接:mp.weixin.qq.com

背景

在电商类APP里,图片到现在为止仍然是最重要的信息承载媒介,不得不说逛淘宝的过程,其实就是一个看图片的过程。而商品详情页中的图片,通常是页面中内存占用最多的内容,占用了整个页面内存的超过 50%,因此是通常容易引起app闪退的场景之一。

闲鱼在Flutter化的过程中,选择了商品详情页作为第一个落地的场景。通过多版本的迭代完善,基于Flutter的详情页已经在闲鱼稳定运行。然而正因为详情页的图片量大,导致Flutter里图片相关的问题一直挥之不去。

1:内存问题 --- 连续push flutter界面内存累积

2:安装包问题 --- 过渡时期两份重复资源文件

3:寻址缓存问题 --- 原有的寻址缓存策略无法复用

4:图片复用问题 --- Native和Flutter重复下载相同图片

解决方案——FXTexImage_V1

为了解决这些问题,我们尝试着寻找一种新的思路,一种能够将flutter与native串联起来的思路。而之前做视频播放器的方案给了我们启发。

熟悉Flutter的同学应该都知道,Flutter的视频组件是基于一个Flutter提供的一个叫“外接纹理”的技术实现的,关于flutter外接纹理,本人另外有一篇文章有更详细的论述,这里不再赘述《mp.weixin.qq.com/s/KkCsBvnRa…

我们将每一张图片假想成一个:静态的视频。图片的内容由一个externaltexture来负责显示,而这个externaltexture则由native端提供具体的渲染数据。

通过这种方案,我们便可以通过external_texture这座桥梁,将flutter作为native端图片的一个最终展示场所。而所有的下载、缓存、裁剪等逻辑都可以复用原来的native图片库。

基于这个基本框架,我们形成了我们第一版本的图片渲染组件:FXTexImage----V1。这个组件很好的解决了Flutter引入的安装包、图片缓存、图片复用等问题。

但是图片最大的问题:内存问题,并没有得到解决。

内存优化——FXTexImage_V2

为了用户体验,通常会有连续push若干个界面的场景(比如闲鱼的详情页,点击底部的推荐列表,可以一直往下push新的详情页),这种场景下,每一个界面都有大量的图片展示。所以在引入flutter以后,闲鱼在iPhone 6P等机型上通常只能push10个左右详情页就挂了。

在考虑到在显示过程中,真正用户可见的页面,其实只有当前栈顶的两个页面,基于这个特征我们就做了优化逻辑:

1:在push详情页过程中,我们只保留了当前展示页和当前页的前一页的图片资源,而之前的资源全部都做了释放(只是图片资源的释放,整个页面还有页面中的其他元素还是做了保留)。

2:为了做到用户无感知,我们在pop过程中,会预先去加载当前界面下一个界面的图片资源。

通过这种方式,理论上我们可以释放掉不可见的资源,从而保证在持续Push界面过程中内存缓慢增长,但是实践过程中发现内存仍然持续增长。

经过排查,我们发现flutter 1.0版本以及0.8.2版本里,SurfaceTextureRegistry提供了release方法,这里将会把创建的SurfaceTexture进行释放。然而测试过程中发现,单单对SurfaceTexture释放,并没有完全释放内存,当反复创建对象时仍然会闪退。为此,我们在AndroidExternalTextureGL的析构函数中增加了纹理的释放glDeleteTextures逻辑。

然而,AndroidExternalTextureGL的析构是在flutter的GPU线程调用的,而external_texture的release方法通常是在主线程,也就是PlatForm线程调用的。不同线程调用的问题就是会导致一个诡异的问题:

推测是不同线程释放的逻辑影响了GL环境,导致文字渲染出了问题。

所以,为了解决该问题,我们删除了SurfaceTextureRegistry的release方法里面SufaceTexture的释放逻辑,并且将SurfaceTexture的释放,放到AndroidExternalTextureGL析构阶段,通过Jni调用java方法实现资源释放。

    AndroidExternalTextureGL::~AndroidExternalTextureGL(){

    if (state_ == AttachmentState::attached) {

    Detach();

    if (texture_name_ != 0)

    {

    glDeleteTextures(1, &texture_name_);

    texture_name_ = 0;

    }

    }

    Release();

    state_ = AttachmentState::detached;

    }

    void AndroidExternalTextureGL::Release() {

    JNIEnv* env = fml::jni::AttachCurrentThread();

    fml::jni::ScopedJavaLocalRef<jobject> surfaceTexture =

    surface_texture_.get(env);

    if (!surfaceTexture.is_null()) {

    SurfaceTextureRelease(env, surfaceTexture.obj());

    }

    }

    void SurfaceTextureRelease(JNIEnv* env, jobject obj) {

    env->CallVoidMethod(obj, g_release_method);

    FML_CHECK(CheckException(env));

    }

    g_release_method = env->GetMethodID(g_surface_texture_class->obj(), "release", "()V");

CPU优化——FXTexImage_V3

通过外界纹理渲染图片+不可见页面资源释放,我们解决了上述提出的一系列问题,但是又引入了新的问题:CPU偏高,滑动帧率偏低。通过测试,在详情页滑动过程中,IOS和Android的CPU都比Flutter原生组件高10%以上,这个显然无法应用。

经过排查,发现CPU高的原因是:

IOS端: iOS的IOSExternalTextureGL模型是一个拉数据的模型,native端register一个CVPixelBuffer的生产者,当需要绘制时,都会调用一次这个生产者的copyPixelbuffer方法去拉一次数据。然后将拉到的CVPixelBuffer对象转换成GPU Texture。这里每一次转换都换造成CPU较大开销。

并且这种拉数据的机制就要求这个生产者的必须一直保留着这个CVPixelBuffer对象(否则界面重刷以后,图片区域就显示白屏)。

Android端: android 的数据存储在SurfaceTexture中。每一次external_texture layer需要绘制时候都会从SurfaceTexture中去update 数据到纹理中,由于SurfaceTexture使用基于EGLImage共享内存,所以虽然没有双份内存的问题,但是每一次update 都会带来较大的CPU开销。

在之前外接纹理的文章中,我们提出了一种新的基于共享上下文的外接纹理方案。并在我们视频的拍摄和编辑中得到了很好的应用。该方案当初提出来,是为了解决视频数据从CPU -> GPU -> CPU -> GPU 输送的问题而提出来的。

但是在图片这个场景下, 新的外接纹理方案下,一张图片在native端加载完成以后,立刻被转换成一个OpenGL的Texture,然后图片的资源马上被释放。当界面刷新时,对于同一张图片的重新渲染,IOSExternalTextureGL不需要再去做将数据(CVPixelBuffer或者SurfaceTexture)转换到Texture的逻辑,而是直接使用之前创建好的Texture。

经过这一步优化,我们很好的限制了iOS的CPU和内存,Android的CPU。

通过测试对比,V3版本的图片组件,相比于Flutter原生图片组件,在详情页正常滑动操作过程中,平均CPU高出3%左右,虽然仍差于原生组件,单相对是可以接受的。

效果

内存: 基于新图片组件,我们很好的限制住了连续push 下的内存增长速度,顺利的将iPhone 6P上的详情页push 最大数量从10个增加到了30个以上

在同一线上版本中,我们通过控制ABTest开关,测试新的图片渲染方案和Flutter自带图片组件方案的Abort率,发现新图片组件下闲鱼的Abort率降低20%

安装包: 新组件下,所有的资源组件与原来native资源共用,所有flutter期间新引入的资源出了gif图,全部删除,减少安装包900k+。并且后续可以 不用继续新增

寻址策略: 复用native图片组件,基于阿里系自己的图片下载组件,这样可以做到随着集团组件升级版本,兼容版本过程中各种新的寻址方式和图片格式。

图片复用:复用native图片组件,当图片地址命中缓存,可直接缓存加载,尺寸不一致时可以预先返回缓存图同时加载大图,这样大大增强详情页大图预览的浏览体验。

遗留问题

CPU问题

我们在CPU上做了各种优化,然而由于图片的离散型,每张图片从请求到展示,中间不可避免的需要有若干次native和flutter的channel交互,因此当界面内图片数量较多时,频繁的channel操作会占用Platform线程的时间,导致界面不够流畅。这个在debug阶段或者一些低端机器上能够有体感上差异,这里后续需要针对性的优化比如批量的channel操作等逻辑。

图片放大锯齿问题

在native端加载到的图片比较小的时候,直接转成纹理在flutter显示时有比较明显的锯齿问题。现在的做法是在native端做一次图片放大,然后再传给flutter,性能消耗较大。这里需要研究为何flutter放大显示时为何没有抗锯齿。

最后,FXTexImage组件还在持续优化中,当解决上述遗留问题以后便会在Github上开源。

已开源|2亿用户背后的Flutter应用框架Fish Redux

重磅系列文章|“UI2Code”智能生成Flutter代码

老代码多=过度耦合=if else?阿里工程师这么捋直老代码

评论