临近五一节,想到有 5 天假期,小林开始飘了。
写个简单的 Bash 脚本都不上心了,写完连检查都不检查,直接拖到到实体服务器跑。
结果一跑起来,发现不对劲,怎么一个简单脚本跑了 10 秒还没结束,于是立马直接 ctrl + c 一顿操作停掉了运行中的脚本。
接着,习惯性的输入了 ls,结果 what?找不到 ls 命令?
瞬间背后一凉,慌慌张张打开了脚本。
发现问题了,小林我写了个巨蠢的 Bug,间接执行了 rm -fr /* ,这不意味着我删库了?
这台是公司的授权服务器呀,被小林这么一整,公司历史的授权记录和其他重要信息不就丢了?
心里慌得一批的小林,跟朋友们说了这件事,朋友建议我第一时间上报给 leader,不要把删库的事情瞒着。
于是,小林就向 leader 说了删库事情,本以为会被痛批一顿。
结果 leader 笑着说:“没事,你先看看重要的文件还在不在。不过你这么一整,我突然想起编译服务器半年没备份,我先备份一下我的编译服务器,防止哪天也被你们删库了。”
我:“????”
吃瓜的小伙伴,是不是觉得小林要删库跑路了?哈哈哈,小林没跑路,反而是恢复了回来,所以接下来说说小林是如何「从删库到恢复」的。
来看看小林写的垃圾代码,是如何引发这次的删库。
既然发生了 rm -fr /* 的现象,那必然 new_lic_dir 这个变量是空的。
所以导致执行 rm -fr $new_lic_dir/* 这条语句的时候,变成了 rm -fr /* 删库语句。很好,凶器找到了。
那为什么 new_lic_dir 会是空的呢?
细心的小伙伴肯定察觉出来了,是因为给 new_lic_dir 变量赋值的时使用了反引号。
没错,就是反引号的原因。
反引号在 Linux Shell 命令行中有特殊的含义:反引号间的内容,会被 Shell 先执行。其输出被放入主命令后,主命令再被执行。
也就是说, new_lic_dir 的值是 ${lic_path}/new_license 这条命令执行的结果,问题这哪是命令啊,所以肯定返回空值给 new_lic_dir 变量。
小林写得那么温柔的代码,竟然变成了穷凶极恶的删库代码。
这下原因是找到了,反引号应该改成双引号才对。
小林你真菜呀,那么简单的赋值命令都写错。
哈哈哈,确实菜,都说了嘛,快五一了,小林是飘着写这份代码的。
所以习惯性开启程序员内容的第一大武功:crtl+c 和 crtl+v。
把第一条赋值 lic_path=`pwd` 语句,复制粘贴了,然后只改了变量名,没注意反引号要修改成双引号,所以造成了删库的悲剧。
既然发生了删库的事情,千万不要重启服务器,也不要关闭 ssh 连接的会话,而是要保留案发现场,接着查查还剩什么。
小林,这不是吹大炮嘛?ls 都没了,还怎么查?
还好这次比较幸运,因为在执行脚本的时候,第一时间发现不对劲,立马掐断了还在运行的脚本,所以并非 Linux 所有文件都被删除了。
只要我掐得快,rm -fr /* 就干不死我。
虽然 ls 被删了,但所幸发现 cd 命令还能用。
只要 cd 用得好,它也能用出 ls 的效果。很简单,只需 cd + Tab 键就会自动出现指定目录下的所有文件。
有了 cd + Tab 键,我们就可以查看每个目录下的文件,于是就可以一步一步来确认哪些系统文件被删了。
通过一番的确认和对比后,发现主要被删除的有四个目录分别是:
/bin 、/boot 、/dev 这三个目录整个都被删除了;
/lib 目录里的动态库部分被删除。
来复习一下上面这四个目录主要是存放了什么:
/bin 存放常用系统命令,ls、cp、rm、chmod 等常用命令都在此目录;
/boot 系统启动目录,保存与系统启动相关的文件,如内核文件和启动引导程序;
/dev 设备文件保存位置;
/lib 存放程序所需的动态库和静态库文件。
/boot 都被删除了,还好小林没有重启服务器,要是重启了服务器,就完犊子了,系统肯定起不来了。
cd 命令是在 /sin 目录下,/sin 还健全,所以 cd 是可以正常使用。
所幸重要的数据库信息和文件都还没删除,所以小林首要的目标是要恢复 /bin、/boot、/dev、/lib 这四个目录。
由于 /bin 目录 和 /lib 部分动态文件被删除,常用的传递文件的方式是无法使用的,如 ftp、scp、mount 等。
小林摸索了很久,竟然发现 wget 可以使用,wget 命令是在 /usr/bin 目录,所幸 /usr/bin 还健全。
于是,用了取巧的方法,先另一台正常的服务器,把 /bin 目录放到了 Web 服务器的 Web 目录,接着通过 wget 进行下载。
有戏,看到了成功的曙光。
但是新的问题就来了,我下载过来的命令文件,是没有执行权限的。
而 chmod 命令是在 /bin 目录的,它同样也被删除了,无法使用它来给予文件权限。
还在,在网上搜到了一个伟大命令 perl,可以通过它来给予文件权限:
perl -e "chmod 777, 'ls'"
真是个神奇的命令。
好了,这下赋值权限问题也解决了,成功在望了。
wget 是无法直接把 /bin 目录下载下来的,只能下载一个文件。
但是小林我不可能一个一个去下载来进行恢复,这得要何年何月才能完成。。。
小林就想到了一个方法:
先通过 wget 的方式下载 tar 命令,并通过 perl 给予 tar 命令权限;
接着把另一台服务器把 /bin 目录打包成压缩文件,然后通过 wget 下载 bin 目录的压缩包文件;
最后通过 tar 命令把 bin 压缩包解压出来。
/bin 就这样恢复回来啦,剩余的其他目录 也是通过同样的操作恢复了回来。
小林的笑容渐渐恢复了回来,哈哈哈哈哈哈哈哈哈哈哈哈~
遇到 rm -fr /* 删库事件发生,一定要沉住气,稳住心态!
本次删库事件,之所以小林能幸运的恢复回来,有非常关键两点:
小林发现脚本执行不正常,果断立马的掐断它,没有造成重要的数据库信息被删除,如果掐断的时候再晚一点,可能就真没了;
小林发现常用命令无法使用的时候,没有重启服务器,不然服务器就起不来了,也没有关闭 ssh 会话,不然无法在重新连接 ssh 会话了,也就无法进行操作了。
如果以上两点都没做好,服务器恢复的难度就加大了很多,更严重的是五一节就没法过了。
既然 rm -fr /* 是残忍的凶器,那么预防它是很有必要的,接下来跟大家讨论讨论预防它的几种方案。
#!/bin/bash
work_path=`pwd`
#如果目录不为空,才执行删除操作
if [ ${work_path} != "" ];then
rm -fr ${work_path}/*
fi
在执行删除目录操作前,先判断要删除的目录是否为空,不为空才执行删除操作。
执行脚本的时候,如果遇到不存在的变量,Bash 默认忽略它。
#!/bin/bash
echo $a
echo hello
上面代码中,$a 是一个不存在的变量,执行结果如下。
$ bash test.sh
hello
可以发现,echo $a 输出了一个空行,Bash 忽略了不存在的 $a,然后继续执行 echo hello。
最好是遇到变量不存在,脚本应该报错,而不是一声不响地往下执行。
set -u 就用来改变这种行为,在脚本加上它,遇到不存在的变量就会报错,并停止执行。
#!/bin/bash
set -u
rm -fr $a/*
echo hello
运行结果如下:
$ bash test.sh
test.sh: line 4: a: unbound variable
可以看到,因为 a 是未定义变量,脚本报错了,并且不再执行后面的语句。
safe-rm 是一个开源软件工具,这名字听起来就很安全嘛,所以它是用来替代不太安全的 rm。
它可以在 /etc/safe-rm.conf 中配置路径黑名单,定义哪些不能被 safe-rm 删除。
我们可以将 safe-rm 更名为 rm,假设定义了 /etc/ 无能被删除,那么删除 /etc 时就会报错:
$ rm -rf /etc/
safe-rm: skipping /etc/
Windows 是有回收站的,即使误删了,也可以在回收站恢复。
所以,我们也可以在 Linux 实现回收站的机制。
实现思路:
删除文件时,它并不真正执行删除操作,而是将文件移动到一个特定目录,可以设置定时清除回收站,或者在回收站里面的文件大小达到一定容量时(或者用时间做判断)执行删除操作以腾出空间。
可以写个 Shell 脚本替换 rm 命令,或者在需要删除文件的时候使用 mv 命令将文件移动到回收站。
1)创建回收站目录
mkdir /home/.trash
2)编写 remove.sh 脚本,内容如下
3)修改 ~/.bashrc, 用我们自建的 remove.sh 替代 rm 命令
alias rm="sh /home/remove.sh"
4)设置 crontab,定期清空垃圾箱,如每天 0 点清空垃圾箱:
0 0 * * * rm -rf /home/.trash/*
5)最后,执行以下命令,使之生效
source ~/.bashrc
在 /etc/fstab 文件,把 / 文件系统挂载成只读的方式。
其中 remount,ro,就表示只读的方式挂载。
只读的方式挂载后,进行删除操作是无法成功的:
涉及到 rm -fr 命令的代码,要留个心眼,要反复检查,要做好预防误执行 rm -fr /*,并在测试机验证完后,再拖到实体机上跑,千万不可大意。
就算的发生了 rm -fr /*,要第一时间停掉它,并且要做到三不要:
不要慌,不要心跳爆炸(稳住稳住);
不要隐瞒删库事件(不丢人);
不要重启服务器或断开 ssh 会话(保留现场)。
只要立马掐断 rm -fr /* ,它是干不死我们的。
利用当下环境剩有的命令,冷静分析,是有机会恢复的。
小林现在是一个删过库没跑路的男人了,Goodbye, 我们下次见~
难道救火注定是运维绕不开的宿命吗?突破运维转型困局,9月11日在北京,让Gdevops全球敏捷运维峰会给你新思路:
《浙江移动AIOps实践》浙江移动云计算中心NOC及AIOps负责人 潘宇虹
《数据智能时代:构建能力开放的运营商大数据DataOps体系》中国联通大数据基础平台负责人/资深架构师 尹正军
《银行日志监控系统优化手记》中国银行DevOps负责人 付大亮 & 中国银行高级软件工程师 李晓宁
《民生银行智能运维平台实践之路》民生银行智能运维平台负责人/应用运维专家 张舒伟
《建设敏捷型消费金融中台及云原生下的DevOps实践》中邮消费金融总经理助理 李远鑫
如果字段的最大可能长度超过255字节,那么长度值可能…
只能说作者太用心了,优秀
感谢详解
一般干个7-8年(即30岁左右),能做到年入40w-50w;有…
230721