瓦特 线上出现堆外内存溢出

文本已收录至我的GitHub仓库，欢迎Star：github.com/bin39232820…
种一棵树最好的时间是十年前，其次是现在

絮叨

本来打算是准备着一支烟 一杯咖啡 一个bug写一天的，但是一来公司，运维就把昨天生产线的日志怼过来说，线上报错了。。。

堆外内存报错

2020-03-24 03:35:39.486 ERROR --- [ForkJoinPool.commonPool-worker-0] com.hq.tiku.sync.bw.listener.ClassPlainListenter Line:101 - 同步消息队列push.userClassplan.tiku出现异常ClassPlanEntity(classplanId=2c7cc389822b4181a591c9890a2d3eeb, teacherId=276, teacherName=陈文文, teacherTeam=null, userId=18658702, className=2020年初级冲剌班, courseId=2900, courseNo=2020005CJ, courseName=2020年初级会计实务冲刺阶段, classplanName=2020年初级会计实务（冲刺阶段）, classId=5864, tkUserId=null, courseTkNo=null, planNum=null)
org.springframework.data.redis.RedisSystemException: Redis exception; nested exception is io.lettuce.core.RedisException: io.netty.util.internal.OutOfDirectMemoryError: failed to allocate 855638016 byte(s) of direct memory (used: 985661440, max: 1823473664)
    at org.springframework.data.redis.connection.lettuce.LettuceExceptionConverter.convert(LettuceExceptionConverter.java:74)
    at org.springframework.data.redis.connection.lettuce.LettuceExceptionConverter.convert(LettuceExceptionConverter.java:41)
    at org.springframework.data.redis.PassThroughExceptionTranslationStrategy.translate(PassThroughExceptionTranslationStrategy.java:44)
    at org.springframework.data.redis.FallbackExceptionTranslationStrategy.translate(FallbackExceptionTranslationStrategy.java:42)
    at org.springframework.data.redis.connection.lettuce.LettuceConnection.convertLettuceAccessException(LettuceConnection.java:257)
    at org.springframework.data.redis.connection.lettuce.LettuceStringCommands.convertLettuceAccessException(LettuceStringCommands.java:718)
    at org.springframework.data.redis.connection.lettuce.LettuceStringCommands.set(LettuceStringCommands.java:143)
    at org.springframework.data.redis.connection.DefaultedRedisConnection.set(DefaultedRedisConnection.java:231)
    at org.springframework.data.redis.core.DefaultValueOperations$3.inRedis(DefaultValueOperations.java:202)
    at org.springframework.data.redis.core.AbstractOperations$ValueDeserializingRedisCallback.doInRedis(AbstractOperations.java:59)
    at org.springframework.data.redis.core.RedisTemplate.execute(RedisTemplate.java:224)
    at org.springframework.data.redis.core.RedisTemplate.execute(RedisTemplate.java:184)
    at org.springframework.data.redis.core.AbstractOperations.execute(AbstractOperations.java:95)
    at org.springframework.data.redis.core.DefaultValueOperations.set(DefaultValueOperations.java:198)
    at com.hq.tiku.sync.bw.listener.ClassPlainListenter.lambda$synClassPlan$0(ClassPlainListenter.java:92)
    at java.util.stream.ForEachOps$ForEachOp$OfRef.accept(ForEachOps.java:184)
    at java.util.stream.Nodes$ArrayNode.forEach(Nodes.java:684)
    at java.util.stream.ForEachOps$ForEachOrderedTask.onCompletion(ForEachOps.java:490)
    at java.util.concurrent.CountedCompleter.tryComplete(CountedCompleter.java:577)
    at java.util.stream.ForEachOps$ForEachOrderedTask.onCompletion(ForEachOps.java:505)
    at java.util.concurrent.CountedCompleter.tryComplete(CountedCompleter.java:577)
    at java.util.stream.ForEachOps$ForEachOrderedTask.onCompletion(ForEachOps.java:505)
    at java.util.concurrent.CountedCompleter.tryComplete(CountedCompleter.java:577)
    at java.util.stream.ForEachOps$ForEachOrderedTask.doCompute(ForEachOps.java:483)
    at java.util.stream.ForEachOps$ForEachOrderedTask.compute(ForEachOps.java:400)
    at java.util.concurrent.CountedCompleter.exec(CountedCompleter.java:731)
    at java.util.concurrent.ForkJoinTask.doExec(ForkJoinTask.java:289)
    at java.util.concurrent.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1056)
    at java.util.concurrent.ForkJoinPool.runWorker(ForkJoinPool.java:1692)
    at java.util.concurrent.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:157)
Caused by: io.lettuce.core.RedisException: io.netty.util.internal.OutOfDirectMemoryError: failed to allocate 855638016 byte(s) of direct memory (used: 985661440, max: 1823473664)
    at io.lettuce.core.LettuceFutures.awaitOrCancel(LettuceFutures.java:125)
    at io.lettuce.core.FutureSyncInvocationHandler.handleInvocation(FutureSyncInvocationHandler.java:62)
    at io.lettuce.core.internal.AbstractInvocationHandler.invoke(AbstractInvocationHandler.java:80)
    at com.sun.proxy.$Proxy227.set(Unknown Source)
    at org.springframework.data.redis.connection.lettuce.LettuceStringCommands.set(LettuceStringCommands.java:141)
    ... 23 common frames omitted

上面是报错的信息，这个模块是一个同步模块，代码同事写的，就是把一些数据通过mq同步到数据库去，上面报错的就是因为堆外内存不够了，failed to allocate 855638016 byte(s) of direct memory (used: 985661440, max: 1823473664)

分析事故原因

首先我定位到代码处，把代码拿出来康康

在Rediss操作的时间报错了，然后网上各种百度，还真没找到具体的原因，不过自己定位了个大概。觉得有以下可能

• 第一就是因为它这个是循环set 然后用的redis spring data连的redis redis导致的，然后我想着用Pipeline批量拆入会不会好一点，把它改成批量插入。对netty不熟悉导致的
• 第二个就是确实是堆外内存不够了，默认情况下堆外内存是和堆内存的是一样的，但是我这个报错刚好是不够了，但是我只能暂时给他加大一点点，因为我不知道具体为啥会变大了这个还没排查出来，然后重启之后也没再出现这个错误了。。真的是玄学，唉d
• 或者是get的时候 从redis中拿得数据放到了直接内存中？？
• 下次叫运维dump一下堆栈信息看看吧，这次没得搞了，已经重现不来了
• 可以通过 -XX:MaxDirectMemorySize调整大小，内存不足时抛出 OutOfMemoryError或者OutOfMemoryError:Direct buffer memory ，目前我已经让运维设置的大了一点了
• 后面我又想是不是因为这个服务一直在写数据，但是写的话虽然会创建很多对象，但是是在堆里面的，最多youngGC的时候就会把它清除了，并不会导致堆外内存溢出呀，百思不得其解

Redis客户端Lettuce源码【二】Lettuce是如何基于Netty建立连接的

结尾

其实也没啥，就是自己记录一下一些东西，哈哈。不过有大佬碰到的可以下面留言哦。

日常求赞

好了各位，以上就是这篇文章的全部内容了，能看到这里的人呀，都是真粉。

创作不易，各位的支持和认可，就是我创作的最大动力，我们下篇文章见

六脉神剑 | 文 【原创】如果本篇博客有任何错误，请批评指教，不胜感激 ！