三合一网站建站,网站建设技术问题,哈尔滨手机网站建设价格低,网站服务器崩溃故障分析# 导致系统不可用情况(频率较大)#xff1a;1)代码中某个位置读取数据量较大#xff0c;导致系统内存耗尽#xff0c;进而出现Full GC次数过多#xff0c;系统缓慢#xff1b;2)代码中有比较消耗CPU的操作#xff0c;导致CPU过高#xff0c;系统运行缓慢#x…故障分析# 导致系统不可用情况(频率较大)1)代码中某个位置读取数据量较大导致系统内存耗尽进而出现Full GC次数过多系统缓慢2)代码中有比较消耗CPU的操作导致CPU过高系统运行缓慢# 导致某功能运行缓慢(不至于导致系统不可用)3)代码某个位置有阻塞性的操作导致调用整体比较耗时但出现比较随机4)某线程由于某种原因进入WAITTING状态此时该功能整体不可用但无法复现5)由于锁使用不当导致多个线程进入死锁状态导致系统整体比较缓慢。# 说明对于后三种情况而言是具有一定阻塞性操作CPU和系统内存使用情况都不高但功能却很慢所以通过查看资源使用情况是无法查看出具体问题的应急处理###对于线上系统突然产生的运行缓慢问题如果导致线上系统不可用。首先要做的是导出jstack和内存信息重启服务器尽快保证系统的高可用。### 导出jstack信息为避免重复赘述此操作将在后面的”排查步骤”章节中体现### 导出内存堆栈信息# 查看要导出的Java项目的pid# jps -lor# ps -ef |grep java# 导出内存堆栈信息jmap -dump:live,formatb,fileheap8 # heap8是自定义的文件名# 运行导出的堆栈文件# lsheap8# hostname -I10.2.2.162# jhat -port 9998 heap8# 浏览器访问http://10.2.2.162:9998/排查步骤# 环境说明因平台做了线上推广导致管理平台门户网页进统计页面请求超时随进服务器操作系统查看负载信息load average超过了4负载较大PID为7163的进程cpu资源占用较高。# 定位故障# 处理思路找出CPU占用率高的线程再通过线程栈信息找出该线程当时正在运行的问题代码段。# 操作如下# 查看高占用的”进程”中占用高的”线程”# top -Hbp 7163 | awk ‘/java/ $950’# 将16298的线程ID转换为16进制的线程ID# printf “%x\n” 162983faa# 通过jvm的jstack查看进程信息并保存以供研发后续分析# jstack 7163 | grep “3faa” -C 20 7163.log# 重点说明通过排查步骤可得排查问题需要掌握的信息如下1)资源占用高对应的进程a的PID;2)进程a对应的资源占用高且最频繁的线程b的ID3)将线程b的ID转换为16进制的ID。数据库问题引发的资源占用过高## 通过”排查步骤”章节可基本定位问题后续请见下文确认问题及处理# jstack $pid | grep “3faa” -C 20 # 3faa指的是高占用进程中的高占用的线程对应的16进制id# 查看到是数据库的问题排查思路先打印所有在跑的数据库线程检查后发现并跟进情况找到问题表# 打印MySQL现有进程信息文件# mysql -uroot -p -e “show full processlist” mysql_full_process.log# 过滤出查询最多的表grep Query mysql_full_process.log# 统计查询最多的表的数据量 use databases_name select count(1) from table_name# 结合MySQL日志信息可判断问题是查询时间过长导致排查后发现表未创建索引 show create table table_name\G# 询问研发确认数据不重要检查字段由时间字段根据时间确认只保留一个月的数据 delete from table_name where xxxx_time ‘2019-07-01 00:00:00’ or xxxx_time is null;# 创建索引 alter table table_name add index (device_uuid);# 确认索引是否创建 show create table table_name;总结处理后进程的CPU占用降至正常水平本次排查主要用到了jvm进程查看及dump进程详细信息的操作确认是由数据库问题导致的原因并对数据库进行了清理并创建了索引。在处理问题后又查询了一下数据库相关问题的优化通常的优化方法还是添加索引。该方法添加参数具体如下innodb_buffer_pool_size4GFull GC次数过多## 通过”排查步骤”章节可基本定位问题后续请见下文确认问题及处理# 特征说明对于Full GC较多的情况有以下特征1)进程的多个线程的CPU使用率都超过100%通过jstack命令可看到大部分是垃圾回收线程2)通过jstat查看GC情况可看到Full GC次数非常多并数值在不断增加。# 3faa指的是高占用进程中的高占用的线程对应的16进制id# jstack $pid | grep “3faa” -C 20说明VM Thread指垃圾回收的线程。故基本可确定当前系统缓慢的原因主要是垃圾回收过于频繁导致GC停顿时间较长。# 查看GC情况(1000指间隔1000ms4指查询次数)# jstat -gcutil $pid 1000 4说明FGC指Full GC数量其值一直在增加图中显现高达6783进一步证实是由于内存溢出导致的系统缓慢。# 因笔者是运维故确认了问题后Dump内存日志后交由研发解决代码层面问题总结# 对于Full GC次数过大主要有以下两种原因1)代码中一次性获取大量对象导致内存溢出(可用Eclipse的Mat工具排查)2)内存占用不高但Full GC数值较大可能是显示的System.gc()调用GC次数过多可通过添加 -XX:DisableExplicitGC 来禁用JVM 对显示 GC 的响应。服务不定期出现接口响应缓慢情况说明某个接口访问经常需要3~4s甚至更长时间才能返回。一般而言其消耗的CPU和内存资源不多通过上述方式排查问题无法行通。由于接口耗时较长问题不定时出现导致通过jstack命令得到线程访问的堆栈信息根据其信息也不一定能定位到导致耗时操作的线程(概率事件)。定位思路在排除网络因素后通过压测工具对问题接口不断加大访问力度。当该接口中有某个位置是比较耗时的由于访问的频率高将导致大多数的线程都阻塞于该阻塞点。通过分析多个线程日志能得到相同的TIMED_WAITING堆栈日志基本上就可定位到该接口中较耗时的代码的位置。# 示例# 代码中有比较耗时的阻塞操作通过压测工具得到的线程堆栈日志如下说明由图可得多个线程都阻塞在了UserController的第18行说明此时一个阻塞点也是导致该接口较缓慢的原因。大总结# 总体性的分析思路当Java应用出现问题时处理步骤如下通过 top 命令定位异常进程pid再 top -Hp 命令定位出CPU资源占用较高的线程的id并将其线程id转换为十六进制的表现形式再通过 jstack | grep 命令查看日志信息定位具体问题。# 此处根据日志信息分析可分为两种情况如下# A情况A.a)若用户线程正常则通过该线程的堆栈信息查看比较消耗CPU的具体代码区域A.b)若是VM Thread则通过 jstat -gcutil 命令查看当前GC状态然后通过 jmap -dump:live,formatb,file 导出当前系统内存数据用Eclipse的Mat工具进行分析进而针对比较消耗内存的代码区进行相关优化。# B情况若通过top命令查看到CPU和内存使用率不高则可考虑以下三种情况。B.a)若是不定时出现接口耗时过长则可通过压测方式增大阻塞点出现的概率从而通过jstack命令查看堆栈信息找到阻塞点B.b)若是某功能访问时突然出现停滞(异常)状况重启后又正常了同时也无法复现。此时可通过多次导出jstack日志的方式对比并定位出较长时间处于等待状态的用户线程再从中筛选出问题线程B.c)若通过jstack命令查看到死锁状态则可检查产生死锁的线程的具体阻塞点进而相应处理。作者卡子火
