Linux Archives

我对Linode有些误会…..

最早的时候 Linode 推出了 Volume 服务
申请了免费测试
那I/O 读写1M, 然后就不考虑这个服务了…..

最近有ＥＬＫ的存储需求
建了个５１２Ｍ的测试
结果震惊到了速度425M/秒比SSD都快

这个可商用了
100美金1T算便宜吧

后来算明白了测试有限制I/O

最近通过搜索访问本文章的关键词:

CentOS7 e1000 / 82574 网卡系列的bug和修复

这个也算是个奇葩问题了
这么多年就是不能打个补丁

这破问题害我损失不少客户

yum install epel-* -y
yum install pciutils net-tools iftop -y
yum update -y

#检查网卡
lspci |grep -i ethernet
# 如果是82754系列 那么恭喜你 你买到古董机器了

检查驱动版本
modinfo e1000e | grep 'version:'

#不出意外话 应该是这样
[root@web1 ~]# modinfo e1000e |grep version
filename:       /lib/modules/3.10.0-514.26.2.el7.x86_64/kernel/drivers/net/ethernet/intel/e1000e/e1000e.ko
version:        3.2.6-k
license:        GPL
description:    Intel(R) PRO/1000 Network Driver
author:         Intel Corporation, <linux.nics@intel.com>
rhelversion:    7.3
srcversion:     08D3BD37D763F6255639A98

#好吧 需要更新
rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
# C7安装这
rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-3.el7.elrepo.noarch.rpm
# C6安装这
rpm -Uvh http://www.elrepo.org/elrepo-release-6-8.el6.elrepo.noarch.rpm
yum clean all
yum update -y
yum -y install kmod-e1000e.x86_64

#等待完成，在检查下版本
modinfo e1000e | grep 'version:'


# 现在应该这样

[root@web1 ~]# modinfo e1000e
filename:       /lib/modules/3.10.0-514.26.2.el7.x86_64/weak-updates/e1000e/e1000e.ko
version:        3.3.5.3-NAPI
license:        GPL
description:    Intel(R) PRO/1000 Network Driver
author:         Intel Corporation, <linux.nics@intel.com>
rhelversion:    7.3
注意那个3.3系列 升级成功了


## 你以为这就完了 不可能的
curl --connect-timeout 15 -m 15 "http://djlab.com/stuff/fixeep.sh" > ~/fixeep.sh
chmod +x ~/fixeep.sh
~/fixeep.sh eth0
~/fixeep.sh eth1
~/fixeep.sh eno1
~/fixeep.sh eno2
~/fixeep.sh enp2s0
~/fixeep.sh enp3s0
~/fixeep.sh enp4s0
~/fixeep.sh enp5s0
rm -rf fixeep.sh
修复网卡  你看看你网卡什么名 改下对应的就行


## 最后一步骤
grubby --update-kernel=ALL --args="pcie_aspm=off"
更新内核关闭下PCIE

最后重新启动机器
reboot

Okay, anything has done

yum install epel-* -y

yum install pciutils net-tools iftop -y

yum update -y

#检查网卡

lspci |grep -i ethernet

# 如果是82754系列那么恭喜你你买到古董机器了

检查驱动版本

modinfo e1000e | grep 'version:'

#不出意外话应该是这样

[root@web1 ~]# modinfo e1000e |grep version

filename: /lib/modules/3.10.0-514.26.2.el7.x86_64/kernel/drivers/net/ethernet/intel/e1000e/e1000e.ko

version: 3.2.6-k

license: GPL

description: Intel(R) PRO/1000 Network Driver

author: Intel Corporation, <linux.nics@intel.com>

rhelversion: 7.3

srcversion: 08D3BD37D763F6255639A98

#好吧需要更新

rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org

# C7安装这

rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-3.el7.elrepo.noarch.rpm

# C6安装这

rpm -Uvh http://www.elrepo.org/elrepo-release-6-8.el6.elrepo.noarch.rpm

yum clean all

yum update -y

yum -y install kmod-e1000e.x86_64

#等待完成，在检查下版本

modinfo e1000e | grep 'version:'

# 现在应该这样

[root@web1 ~]# modinfo e1000e

filename: /lib/modules/3.10.0-514.26.2.el7.x86_64/weak-updates/e1000e/e1000e.ko

version: 3.3.5.3-NAPI

license: GPL

description: Intel(R) PRO/1000 Network Driver

author: Intel Corporation, <linux.nics@intel.com>

rhelversion: 7.3

注意那个3.3系列升级成功了

## 你以为这就完了不可能的

curl --connect-timeout 15 -m 15 "http://djlab.com/stuff/fixeep.sh" > ~/fixeep.sh

chmod +x ~/fixeep.sh

~/fixeep.sh eth0

~/fixeep.sh eth1

~/fixeep.sh eno1

~/fixeep.sh eno2

~/fixeep.sh enp2s0

~/fixeep.sh enp3s0

~/fixeep.sh enp4s0

~/fixeep.sh enp5s0

rm -rf fixeep.sh

修复网卡你看看你网卡什么名改下对应的就行

## 最后一步骤

grubby --update-kernel=ALL --args="pcie_aspm=off"

更新内核关闭下PCIE

最后重新启动机器

reboot

Okay, anything has done

最近通过搜索访问本文章的关键词:

CONV (1)

无语了，我要换硬盘，你每次给加硬盘什么意思……

有几台古董机器配的老硬盘几年了最近Raid报警
过去几个月一直在换，联系机房值班
原来搭配的N块盘，每次有盘坏了就给我加一块
坏盘也不给我拔掉，真鸡巴懒
结果现在挂了一堆硬盘了……

CentOS 7.* 下的FFMPEG 自动安装脚本 FFMPEG一键安装

CentOS 7.* 下的FFMPEG 自动安装脚本

https://github.com/hostsoft/ffmpegtoolkit

上次撸了一个这个版本……

4.x的内核,在部分CentOS7系统下会异常

4.x的内核,在部分CentOS7系统下会异常
不是特别稳定,测试差不多的配置, 4台机器
3.x的内核正常
尝试升级到4.x 会出现负载升高,失去响应的问题

这个各种因素影响比较大,所以也没时间定位哪里触发的崩溃

LVM SATA SSD缓存性能比较

给客户部署测试的

做了个性能测试比较

pvcreate /dev/md126p3  #板载Raid0  3x2000G SATA 垃圾硬盘
pvcreate /dev/sdd1     #120G SSD硬盘

vgcreate cache /dev/md126p3
lvcreate -l 100%FREE -n hls cache

vgextend cache /dev/sdd1
lvcreate -n CacheMetaLV -L 1G cache /dev/sdd1
lvcreate -n CacheDataLV -L 109G cache /dev/sdd1  #这里注意硬盘需要预留一定空闲,否则不能转换
# 大约 512M Meta = 160G Data

lvconvert --type cache-pool --cachemode writethrough --poolmetadata \
cache/CacheMetaLV cache/CacheDataLV

lvconvert --type cache --cachepool cache/CacheDataLV cache/hls

pvcreate /dev/md126p3 #板载Raid0 3x2000G SATA 垃圾硬盘

pvcreate /dev/sdd1 #120G SSD硬盘

vgcreate cache /dev/md126p3

lvcreate -l 100%FREE -n hls cache

vgextend cache /dev/sdd1

lvcreate -n CacheMetaLV -L 1G cache /dev/sdd1

lvcreate -n CacheDataLV -L 109G cache /dev/sdd1 #这里注意硬盘需要预留一定空闲,否则不能转换

# 大约 512M Meta = 160G Data

lvconvert --type cache-pool --cachemode writethrough --poolmetadata \

cache/CacheMetaLV cache/CacheDataLV

lvconvert --type cache --cachepool cache/CacheDataLV cache/hls

测试结果

[root@cache02 ~]# dd if=/dev/zero of=/cache/hls/test1.img bs=1G count=1 oflag=dsync 
1+0 records in
1+0 records out
1073741824 bytes (1.1 GB) copied, 4.76144 s, 226 MB/s
开启了SSD缓存 写入速度226MB/秒
[root@cache02 ~]# dd if=/dev/zero of=/cache/web/test1.img bs=1G count=1 oflag=dsync
1+0 records in
1+0 records out
1073741824 bytes (1.1 GB) copied, 6.24878 s, 172 MB/s
没缓存 172MB/秒

[root@cache02 ~]# dd if=/dev/zero of=/cache/hls/test1.img bs=1G count=1 oflag=dsync

1+0 records in

1+0 records out

1073741824 bytes (1.1 GB) copied, 4.76144 s, 226 MB/s

开启了SSD缓存写入速度226MB/秒

[root@cache02 ~]# dd if=/dev/zero of=/cache/web/test1.img bs=1G count=1 oflag=dsync

1+0 records in

1+0 records out

1073741824 bytes (1.1 GB) copied, 6.24878 s, 172 MB/s

没缓存 172MB/秒

提升了56M的写入速度,读取速度一般不会是不会成为瓶颈的
这个是未进行LVM差数优化的结果, 根据应用场景,应该有提升空间
例如图片存储,优化meta size的大写, 更换文件系统, 使用XFS,ZFS等等

总结
有效提升空间不是特别大

服务器异常关机最想不到的原因

说出来可能不信

客户上架一个机柜40台机器
39台正常只有一台老是自动关机

分析发现
操作系统日志提示温度过高断电保护

最后检查发现
5个风扇少3个,1个低速1000多转, 1个坏了

能不自动关机吗?

使用Linux Route路由表来取得公网网卡

route -n | awk '$1 == "0.0.0.0" {print $8}'

Raid卡的自动化管理

实现自动化安装系统并不难

难在如何实现按客户选的Raid级别
去自动实现Raid的Rebuild

终于明白逻辑了还是传参

第一步
Raid卡是不是存在存在=允许客户选择Raid级别
第二步
客户选择Raid级别, 计算是不是满足需求,满足就放行,否则返回False
例如, 客户选Raid5, 但是设备只有2块硬盘,只能建Raid0或Raid1
第三步
客户选择了Raid
系统开机,PXE启动维护盘,下载对应的Raid规则和脚本预定义
建立物理卷和逻辑卷,分区
完成后重新启动

第四步
继续PXE启动,进行网络安装系统!

CentOS 7 开启 Google BBR TCP 加速

#1 检查内核

uname -r

uname -r

如果非4版本的话,继续

#2 更新内核源

su root
rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
yum install http://www.elrepo.org/elrepo-release-7.0-2.el7.elrepo.noarch.rpm
yum --enablerepo=elrepo-kernel install kernel-ml

su root

rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org

yum install http://www.elrepo.org/elrepo-release-7.0-2.el7.elrepo.noarch.rpm

yum --enablerepo=elrepo-kernel install kernel-ml

#3 调整内核

awk -F\' '$1=="menuentry " {print i++ " : " $2}' /boot/grub2/grub.cfg
#查看下有没有新安装的4.9内核
grub2-set-default 0 # 这个有时候不生效 下面这个OK
grub2-set-default  "CentOS Linux (4.9.0-1.el7.elrepo.x86_64) 7 (Core)"

awk -F\' '$1=="menuentry " {print i++ " : " $2}' /boot/grub2/grub.cfg

#查看下有没有新安装的4.9内核

grub2-set-default 0 # 这个有时候不生效下面这个OK

grub2-set-default "CentOS Linux (4.9.0-1.el7.elrepo.x86_64) 7 (Core)"

#4 重启

reboot

reboot

#5 开启TCP控制给bbr接管

cat >>/etc/sysctl.conf  EOF<<<
net.core.default_qdisc=fq
net.ipv4.tcp_congestion_control=bbr
EOF
sysctl -p

cat >>/etc/sysctl.conf EOF<<<

net.core.default_qdisc=fq

net.ipv4.tcp_congestion_control=bbr

EOF

sysctl -p

#6 检查
检查内核

uname -r

uname -r

返回4.9版本
代表OK

检查BBR

sysctl net.ipv4.tcp_available_congestion_control

1	sysctl net.ipv4.tcp_available_congestion_control

返回 net.ipv4.tcp_available_congestion_control = bbr cubic reno
代表OK

内核崩溃了 again

阵列没问题

重启XFS自修复耗时20分钟
我以为硬盘阵列挂了
结果检查阵列都正常