国内首位中间件Oracle ACE:WebLogic执行线程耗尽解决方案

王超 2016-08-16 10:05:35
作者介绍

王超,国内第一位中间件ORACLE ACE,东方宏达中间件技术总监,原ORACLE|BEA 资深中间件现场支持工程师,14年现场支持工作经验,WebLogic 6.1/7.0/8.1/9.2/10.3/11g/12c、Tuxedo技术认证专家。深厚的中间件架构规划、性能调优、问题解决经验,常年为为电信、金融等领域客户提供现场技术支持。


1WebLogic执行线程耗尽


1.1、概述
 

WebLogic服务器执行线程耗尽后就不再响应后续请求,WebLogic即出现挂起现象。


WebLogic线程耗尽产生的原因有多种,一般而言线程耗尽是由于线程在争夺某种资源。当一种资源处于缺少状态,比如数据库JDBC连接池的达到最大连接数,就会导致后续的业务线程都卡在等待获取JDBC的连接上,最终导致服务器无法响应后续的服务请求。


1.2、常见线程耗尽原因
 

WebLogic服务器线程耗尽,最常见的几种原因如下:


  • WebLogic、JDK自身的Bug

  • 业务系统中采用的开源软件的Bug

  • 主机硬件到达上限瓶颈,无法承担更多的负载

  • 数据库JDBC连接池耗光,后续业务线程无法获取到可用JDBC连接而一直处于等待状态

  • 应用程序同步调用。比如业务线程A执行的过程中锁定了资源1,而由于同步调用的原因导致其他业务线程不得不一直无限等待资源1的锁被释放。

  • 业务系统没有使用WebLogic线程池,而使用自定义的线程池。当自定义线程池全部被占用,就会导致没有线程可用于新工作。

  • 线程都处于等待RJVM、RMI响应

  • 应用配置不合理,比如设置了错误的JSP PageCheckSeconds参数等


1.3、判断条件
 

在出现以下情况时怀疑WebLogic服务器线程耗尽:


  • 服务器不响应新的请求

  • 请求超时

  • 请求处理的时间越来越长(其最终结果可能是挂起)


通常,服务器挂起不会表现为服务器崩溃,但服务器挂起之后可能会崩溃。


1.4、收集信息
 

当服务器挂起时,首先使用 java weblogic.Admin t3://server:port PING 来 ping 该服务器。如果服务器能够响应此 ping,则可能是应用程序所使用的线程池耗尽而不是服务器自身。


WebLogic Server 在8.1版本之前使用“Default”线程池响应客户端服务请求,在9.0版本以后使用Default (self-tuning)线程池响应客户端服务请求。这些是在发生线程耗尽时应当检查的线程池。通常情况下,用收集JVM的Thread Dump的办法来分析线程池运行信息。


  • Linux / Unix系统

任何WebLogic版本均可使用 kill -3 创建诊断问题所需的 Thread Dump。确保在每个服务器上执行几次,每次间隔大约 3 到 5秒,以帮助诊断死锁问题。


在WebLogic 9.2版本或者是更高的版本中,可以直接通过使用JDK的jstack命令来收集Thread Dump信息。


  • Windows操作系统

任何WebLogic版本均可使用 - 来创建诊断问题所需的 Thread Dump。确保在每个服务器上执行几次,每次间隔大约 3 到 5 秒,以帮助诊断死锁问题。


在WebLogic 9.2版本或者是更高的版本中,可以直接通过使用JDK的jstack命令来收集Thread Dump信息。


1.5、实施步骤
 

  • 收集操作系统、WebLogic运行相关基本信息

  • 收集出现线程耗尽时间段WebLogic运行日志

  • 采集Thread Dump

  • 在服务器上快速分析Thread Dump,初步定位线程耗尽问题

  • 重启线程耗尽WebLogic服务器,使其尽快对外提供服务

  • 将采集到的Thread Dump下载到本地,进行详细的离线分析


1.6、分析Thread Dump
 

WebLogic除了包含业务系统所使用的执行线程池以外,还包括ListenThread线程池、Socket Reader线程池以及自定义线程池等等。由于WebLogic软件是非常复杂的企业软件,所以在分析的时候,我们不但需要关注业务执行线程池,同时也需要关注其他线程池。WebLogic线程池简易图示如下:


Thread Dump线程转储是将当前JVM包含的所有的线程的运行状态的一个映像,包含了:


  • 各个线程的栈 (stacktrace)

  • 线程当前的状态

  • 线程名字

  • 线程号(tid)以及对应的native thread id (nid) 等信息


分析WebLogic服务器线程耗尽的最有用的办法是分析一系列 的Thread Dump。一系列 Thread Dump(一般每隔3 到 5 秒进行三个或更多 Thread Dump)可以帮助分析每个线程从一个 Thread Dump 到另一个 Thread Dump 过程中的状态变化或所缺少的变化。WebLogic服务器线程耗尽导致服务器挂起后,服务器的 Thread Dump 一般显示线程状态从第一个 Thread Dump 到最后一个 Thread Dump 中变化很小。


  • 在 Thread Dump 中查看的内容


所有请求都通过 ListenThread 进入 WebLogic Server。如果 ListenThread 丢失,就无法接收任何工作,因此也无法完成任何工作。确认在 Thread Dump 中存在 ListenThread。ListenThread 应当在 socketAccept 方法中。下面示例说明监听线程 (Listen Thread) 的形式。



Socket Reader 线程接受来自监听线程队列的传入请求,并将该请求放入执行线程队列。如果 Thread Dump 中没有 Socket Reader 线程,则在某个地方存在导致 Socket Reader 线程消失的错误。应当始终保持至少有三个 Socket Reader 线程。一个 Socket Reader 线程一般用于轮询功能,另外两个用于处理请求。下面是一个 Thread Dump 示例中的 Socket Reader 线程。



通常,业务代码使用的是WebLogic默认的执行线程池,在WebLogic 8.1之前以“Default”命名,在9.x以后以“weblogic.kernel.Default(self-tuning)”命名。查看执行线程的状态,主要看thread dump里面的state的值。同时,为了更快的定位问题,WebLogic服务器会将运行时间超过600秒的执行线程标记为“STUCK”状态,如下所示:



  • java中线程的状态


Thread Dump中,Java线程的各种状态如下:


状态

说明

NEW

初始状态。线程刚刚被创建,并且start()方法还未被调用

RUNNABLE

运行状态。表示线程正在java虚拟机中执行,但是可能正在等待操作系统的其他资源,比如CPU

BLOCKED

阻塞状态。表示线程正在等待监视器锁。表示线程正在等待获取监视器锁,以便进入同步方法或者同步代码快,也有可能是从wait()方法被唤醒而等待再次进入同步方法或者同步代码块

WAITING

等待状态。表示当前线程需要等待其他线程执行一些特殊操作,比如当前线程调用了a.wait()方法,它正在等待其他线程调用a.notify或a.notifyAll方法;如果当前线程调用了threada.join(),那么它在等待threada执行完成

TIMED_WAITING

超时等待。与WAITING的不同在于,该状态有超时时间

TERMINATED

终止状态,表示当前线程已经执行完毕


线程状态的详细介绍请参考Java源代码的Thread内部类:State。


其中线程状态中WAITING与TIMED_WAITING区别如下:


调用以下三个方法会进入WAITING状态:

  • Object.wait() 不设置超时时间

  • Thread.join() 不设置超时时间

  • LockSupport.park() 不设置超时时间


调用下面的方法会进入TIMED_WAITING状态:

  • Object.wait(time)

  • Thread.join(time)

  • Thread.sleep(time)

  • LockSupport.parkNanos(time)

  • LockSupport.parkUntil(time)


1.6、相关脚本
 

收集thread dump的示例脚本如下:

 


 
 
精选专题(点击蓝色标题可阅读全文)

 

◆  近期热文  ◆  

 

首席DBA用SQL洪荒之力,造一把通向数据库的钥匙

解开发者之痛:中国移动MySQL数据库优化最佳实践

20年资深Oracle老兵:一个经典老问题在12c中的优化实践

慎重选型:PG还是MySQL?Uber的案例不能作为参考!

可用性高达五个9!支付系统高可用架构设计实战

 

◆  专家专栏  ◆  

杨志洪杨建荣陈能技丁俊卢钧轶李海翔

魏兴华邹德裕周正中高强白鳝卢飞王佩

 

◆  近期活动  ◆  

Gdevops全球敏捷运维峰会广州站


峰会官网:www.gdevops.com

活动预告