Linux性能监控与分析
Linux服务器性能查看
CPU性能查看
查看物理CPU个数:
1 | cat /proc/cpuinfo |grep "physical id"|sort|uniq|wc -l |
查看每个物理CPU中的core个数:
1 | cat /proc/cpuinfo |grep "cpu cores"|wc -l |
逻辑CPU个数
1 | cat /proc/cpuinfo |grep "processor"|wc -l |
物理cpu个数*核数=逻辑cpu个数(不支持超线程技术的情况下)
内存查看
查看内存使用情况
1 | #free -m |
硬盘查看
查看硬盘及分区信息
1 | fdisk -l |
查看文件系统的磁盘空间占用情况:
1 | df -h |
查看硬盘的I/O性能(每隔一秒显示一次,显示五次)
1 | iostat -x 1 5 |
iostat是含在套装systat中的,可以用yum -y install systat来安装
常关注的参数:
1 | 如%util接近100%,说明产生的I/O请求太多,I/O系统已经满负荷,该磁盘可能存在瓶颈。 |
查看linux下某目录的大小
1 | du -sh 目录 |
如发现某个分区空间接近用完,可以进入该分区的挂载点,用以下命令找出占用空间最多的文件或目录
,然后按照从达到小的顺序,找出系统中占用最多空间的前10个文件或目录:
1 | du -cksh *|sort -rn|head -n 10 |
查看平均负载
有时候系统响应很慢,又找不到原因,这是就要查看平均负载,看它是否有大量的进程在排队等待
最简单的命令:
1 | uptime--查看过去的1分钟、5分钟和15分钟内进程队列中的平均进程数量。 |
还有动态命令top
我们只关心以下部分:
1 | top - 21:33:09 up 1:00, 1 user, load average: 0.00, 0.01, 0.05 |
一般计算方法:负载值/逻辑CPU个数
还可以结合vmstat
命令来判断是否繁忙,其中:
1 | procs |
其他参数
1 | 查看内核版本号: |
Linux 服务器性能评估
影响Linux服务器性能的因素
操作系统
1 | CPU |
程序应用级
系统性能评估标准
影响性能因素 | 好 | 坏 | 糟糕 |
---|---|---|---|
CPU | user% + sys%< 70% | user% + sys%= 85% | user% + sys% >=90% |
内存 | Swap In(si)=0 Swap Out(so)=0 | Per CPU with 10 page/s | More Swap In & Swap Out |
磁盘 | iowait % < 20% | iowait % =35% | iowait % >= 50% |
其中:
1 | %user:表示CPU处在用户模式下的时间百分比。 |
系统性能分析工具
常用系统命令:vmstat
,sar
,iostat
,netstat
,free
,top
常用组合方式:
1 | vmstat、sar、iostat检测是否是CPU瓶颈 |
Linux性能评估与优化
系统整体性能评估(uptime命令)uptime
1 | 16:38:00 up 118 days, 3:01, 5 users,load average: 1.22, 1.02, 0.91 |
注意:
- load average三值大小一般不能大于系统CPU的个数。
1
系统有8个CPU,如load average三值长期大于8,说明CPU很繁忙,负载很高,可能会影响系统性能。
- 但偶尔大于8,一般不会影响系统性能。
- 如load average输出值小于CPU个数,则表示CPU有空闲时间片,比如本例中的输出,CPU是非常空闲的
CPU性能评估
vmstat监控CPU
显示系统各资源之间相关性能简要信息,主要看CPU负载情况
下面是vmstat输出结果:
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# vmstat 2 3 |
r–运行和等待cpu时间片的进程数,这个值如果长期大于系统CPU的个数,说明CPU不足,需要增加CPU
b–在等待资源的进程数,比如正在等待I/O、或者内存交换等。
CPU
us
用户进程消耗的CPU时间百分比
us的值比较高时,说明用户进程消耗的cpu时间多,但是如果长期大于50%,就需要考虑优化程序或算法。
sy
内核进程消耗的CPU时间百分比,Sy的值较高时,说明内核消耗的CPU资源很多
根据经验,us+sy的参考值为80%,如果大于80%可能存在CPU资源不足。
sar命令监控系统CPU
sar
对系统每个方面进行单独统计,但会增加系统开销,不过开销可以评估,对系统的统计结果不会有很大影响
下面是sar命令对系统CPU的统计输出:
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# sar -u 3 5 |
输出解释如下:
1 | %user列显示了用户进程消耗的CPU 时间百分比。 |
问题:你是否遇到过系统CPU整体利用率不高,而应用缓慢的现象?
1 | 在一个多CPU的系统中,如果程序使用了单线程,会出现一个现象,CPU的整体使用率不高,但是系统应用却响应缓慢,这可能是由于程序使用单线程的原因,单线程只使用一个CPU,导致这个CPU占用率为100%,无法处理其他请求,而其他CPU却闲置,这就导致了整体CPU使用率不是很高,而应用缓慢 |
内存性能评估
free监控内存
free是监控Linux内存使用情况的最常用指令:
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# free -m |
经验公式:
1 | 应用程序可用内存/系统物理内存>70%,表示系统内存资源非常充足,不影响系统性能; |
vmstat 监控内存
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# vmstat 2 3 |
memory
1 | swpd--切换到内存交换区的内存数量(k为单位)。如swpd值偶尔非0,不影响系统性能 |
1 | 一般作为文件系统cached,频繁访问的文件都会被cached,如cache值较大,说明cached的文件数较多,如果此时IO中bi比较小,说明文件系统效率比较好。 |
swap
1 | si--由磁盘调入内存,也就是内存进入内存交换区的数量。 |
si、so的值长期不为0,表示系统内存不足。需增加系统内存。
磁盘I/O性能评估
磁盘存储基础
频繁访问的文件或数据尽可能用内存读写
代替直接磁盘I/O
,效率高千倍。
将经常进行读写的文件与长期不变的文件独立出来,分别放置到不同的磁盘设备上。
1 | 对于写操作频繁的数据,可以考虑使用裸设备代替文件系统 |
裸设备优点:
1 | 数据可以直接读写,不需要经过操作系统级缓存,节省内存资源,避免内存资源争用; |
裸设备缺点:
1 | 数据管理、空间管理不灵活,需要很专业的人来操作 |
iostat 评估磁盘性能
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# iostat -d 2 3 |
字段解释:
1 | Blk_read/s--每秒读取数据块数 |
可通过Blk_read/s和Blk_wrtn/s值对磁盘的读写性能有一个基本的了解
如Blk_wrtn/s值很大,表示磁盘写操作很频繁,考虑优化磁盘或程序
如Blk_read/s值很大,表示磁盘直接读操作很多,可将读取的数据放入内存
规则遵循:
1 | 长期的、超大的数据读写,肯定是不正常的,这种情况一定会影响系统性能 |
sar 评估磁盘性能
sar -d
,可以对系统的磁盘IO做一个基本的统计:
1 | [root@izuf6b0a7e5agj4lm7aj3mz ~]# sar -d 2 3 |
参数含义:
1 | await--平均每次设备I/O操作等待时间(毫秒) |
对磁盘IO性能评判标准:
正常svctm应小于await值,而svctm和磁盘性能有关,CPU、内存符合也会对svctm值造成影响,过多的情趣也会间接导致svctm值的增加
1 | await值取决于svctm和I/O队列长度以及I/O请求模式 |
%util
–衡量磁盘I/O重要指标:
1 | 如%util接近100%,表示磁盘产生的I/O请求太多,I/O系统已经满符合工作,该磁盘可能存在瓶颈 |
可优化程序或者通过更换更高、更快的磁盘
网络性能评估
1 | (1)通过ping命令检测网络的连通性 |
Linux服务器性能调优
为磁盘I/O调整Linux内核电梯算法
选择文件系统之后,该算法可以平衡低延时需求,搜集足够数据,有效组织对磁盘读写请求
禁用不必要的守护进程,节省内存和CPU资源
1 | 许多守护进程或服务通常非必需,消耗宝贵内存和CPU时间,将服务器置于险地。 |
一些被禁用的Linux守护进程,默认自动启动:
Apmd 高级电源管理守护进程
Nfslock 用于NFS文件锁定
Isdn ISDN Moderm支持
Autofs 在后台自动挂载文件系统(如自动挂载CD-ROM)
Sendmail 邮件传输代理
Xfs X Window的字体服务器
关掉GUI
清理不需要的模块或功能
服务器软件包中太多被启动的功能或模块实际上是不需要的(如Apache中的许多功能模块),禁用掉有助于提高系统内存可用量,腾出资源给哪些真正需要的软件
禁用控制面板
在Linux中,有许多流行的控制面板,如Cpanel,Plesk,Webmin和phpMyAdmin等,禁用释放出大约120MB内存
改善Linux Exim服务器性能
使用DNS缓存守护进程,可降低解析DNS记录需要的带宽和CPU时间,DNS缓存通过消除每次都从根节点开始查找DNS记录的需求,从而改善网络性能。
Djbdns是一个非常强大的DNS服务器,它具有DNS缓存功能,Djbdns比BIND DNS服务器更安全,性能更好,可以直接通过http://cr.yp.to/下载,或通过Red Hat提供的软件包获得。
使用AES256增强gpg文件加密安全
为提高备份文件或敏感信息安全,许多Linux系统管理员都使用gpg进行加密,在使用gpg时,最好指定gpg使用AES256加密算法,AES256使用256位密钥,它是一个开放的加密算法,美国国家安全局(NSA)使用它保护绝密信息
远程备份服务安全
安全是选择远程备份服务最重要的因素,大多数系统管理员都害怕两件事:(黑客)可以删除备份文件,不能从备份恢复系统。
为了保证备份文件100%的安全,备份服务公司提供远程备份服务器,使用scp脚本或RSYNC通过SSH传输数据,这样,没有人可以直接进入和访问远程系统,因此,也没有人可以从备份服务删除数据。在选择远程备份服务提供商时,最好从多个方面了解其服务强壮性,如果可以,可以亲自测试一下。
更新默认内核参数设置
为了顺利和成功运行企业应用程序,如数据库服务器,可能需要更新一些默认的内核参数设置,例如,2.4.x系列内核消息队列参数msgmni有一个默认值(例如,共享内存,或shmmax在Red Hat系统上默认只有33554432字节),它只允许有限的数据库并发连接,下面为数据库服务器更好地运行提供了一些建议值(来自IBM DB2支持网站):
kernel.shmmax=268435456 (32位)
kernel.shmmax=1073741824 (64位)
kernel.msgmni=1024
fs.file-max=8192
kernel.sem=”250 32000 32 1024″
优化TCP
优化TCP协议有助于提高网络吞吐量,跨广域网的通信使用的带宽越大,延迟时间越长时,建议使用越大的TCP Linux大小,以提高数据传输速率,TCP Linux大小决定了发送主机在没有收到数据传输确认时,可以向接收主机发送多少数据
选择正确的文件系统
1 | 使用ext4文件系统代替ext3 |
- Ext4是ext3文件系统的增强版,扩展了存储限制
- 具有日志功能,保证高水平的数据完整性(在非正常关闭事件中)
- 非正常关闭和重启时,它不需要检查磁盘(这是一个非常耗时的动作)
- 更快的写入速度,ext4日志优化了硬盘磁头动作
使用noatime文件系统挂载选项
在文件系统启动配置文件fstab中使用noatime选项,如果使用了外部存储,这个挂载选项可以有效改善性能。
调整Linux文件描述符限制
Linux限制了任何进程可以打开的文件描述符数量,默认限制是每进程1024,这些限制可能会阻碍基准测试客户端(如httperf和apachebench)和Web服务器本身获得最佳性能,Apache每个连接使用一个进程,因此不会受到影响,但单进程Web服务器,如Zeus是每连接使用一个文件描述符,因此很容易受默认限制的影响。
打开文件限制是一个可以用ulimit命令调整的限制,ulimit -aS命令显示当前的限制,ulimit -aH命令显示硬限制(在未调整/proc中的内核参数前,你不能增加限制)。
Linux第三方应用程序性能技巧
对于运行在Linux上的第三方应用程序,一样有许多性能优化技巧,这些技巧可以帮助你提高Linux服务器的性能,降低运行成本。
正确配置Mysql
为了给MySQL分配更多的内存,可设置MySQL缓存大小,要是MySQL服务器实例使用了更多内存,就减少缓存大小,如果MySQL在请求增多时停滞不动,就增加MySQL缓存。
正确配置Apache
检查Apache使用了多少内存,再调整StartServers和MinSpareServers参数,以释放更多的内存
分析Linux服务器性能
提高系统效率最好的办法是找出导致整体速度下降的瓶颈并解决掉,下面是找出系统关键瓶颈的一些基本技巧:
- 当大型应用程序,如OpenOffice和Firefox同时运行时,计算机可能会开始变慢,内存不足的出现几率更高
- 如果启动时真的很慢,可能是应用程序初次启动需要较长的加载时间,一旦启动好后运行就正常了,否则很可能是硬盘太慢了。
- CPU负载持续很高,内存也够用,但CPU利用率很低,可以使用CPU负载分析工具监控负载时间。
学习5个linux性能命令
使用几个命令就可以管理Linux系统的性能了,下面列出了5个最常用的Linux性能命令,包括top
、vmstat
、iostat
、free
和sar
,它们有助于系统管理员快速解决性能问题。
将日志文件转移到内存中
当一台机器处于运行中时,最好是将系统日志放在内存中,当系统关闭时再将其复制到硬盘,当你运行一台开启了syslog功能的笔记本电脑或移动设备时,ramlog可以帮助你提高系统电池或移动设备闪存驱动器的寿命,使用ramlog的一个好处是,不用再担心某个守护进程每隔30秒向syslog发送一条消息,放在以前,硬盘必须随时保持运转,这样对硬盘和电池都不好。
先打包,后写入
在内存中划分出固定大小的空间保存日志文件,这意味着笔记本电脑硬盘不用一直保持运转,只有当某个守护进程需要写入日志时才运转,注意ramlog使用的内存空间大小是固定的,否则系统内存会很快被用光,如果笔记本使用固态硬盘,可以分配50-80MB内存给ramlog使用,ramlog可以减少许多写入周期,极大地提高固态硬盘的使用寿命
一般调优技巧
尽可能使用静态内容替代动态内容,如果你在生成天气预告,或其它每隔1小时就必须更新的数据,最好是写一个程序,每隔1小时生成一个静态的文件,而不是让用户运行一个CGI动态地生成报告。
为动态应用程序选择最快最合适的API,CGI可能最容易编程,但它会为每个请求产生一个进程,通常,这是一个成本很高,且不必要的过程,FastCGI是更好的选择,和Apache的mod_perl一样,都可以极大地提高应用程序的性能。