liunx文件系统,日志分析

文章目录

  • 1.inode与block
    • 1.1 inode与block概述
    • 1.2 inode的内容
    • 1.3 文件存储
    • 1.4 inode的大小
    • 1.5 inode的特殊作用
  • 2.硬链接与软链接
    • 2.1链接文件分类
  • 3.恢复误删除的文件
    • 3.1 案例:恢复EXT类型的文件
    • 3.2 案例:恢复XFS类型的文件
      • 3.2.1 xfsdump使用限制
  • 4.分析日志文件
    • 4.1日志文件
    • 4.2 内核及系统日志
    • 4.3用户日志分析
    • 4.4 程序日志分析
      • 4.4.1由相应的应用程序独立进行管理
      • 4.4.2分析工具
      • 4.4.3日志管理策略

1.inode与block

1.1 inode与block概述

  • 文件数据包括元信息与实际数据
    • 文件存储在硬盘上,硬盘最小存储单位是“扇区”,每个
  • 扇区存储512字节
    • block(块)
      • 连续的八个扇区组成一个 block (8x512) 元信息--------------inode
      • 是文件存取的最小单位
    • **inode(索引节点) ** 数据----------------block
      • 中文译名为“索引节点”,也叫i节点 一个文件必须占用一个inode,但至少占用一block
      • 用于存储文件元信息

1.2 inode的内容

  • inode包含文件的元信息

    • 文件的字节数
    • 文件拥有者的User ID 不包含文件名
    • 文件的Group ID
    • 文件的读、写、执行权限
    • 文件的时间戳
  • 用stat命令可以查看某个文件的inode信息

    • 示例:stat aa.txt

image.png

  • Linux系统文件三个主要的时间属性
    • atime(access time)

最后一次访问文件或目录的时间

  • ctime(change time)

最后一次改变文件或目录(属性)的时间

  • mtime(modify time)

最后一次修改文件或目录(内容)的时间

image.png
输入内容后时间会变化成最近一次操作的时间
image.png
用查看会让atime变化
image.png

  • 目录文件的结构
    • 目录也是一种文件
    • 目录文件的结构
  • 每个inode都有一个号码,操作系统用inode号码来识别不同的文件
  • Linux系统内部不使用文件名,而使用inode号码来识别文件
  • 对于用户,文件名只是inode号码便于识别的别称

用户通过文件名打开文件时,系统内部的过程
1.系统找到这个文件名对应的inode号码
2.通过inode号码,获取inode信息
3.根据inode信息,找到文件数据所在的block,读出数据

查看inode号码的方法
ls-i命令:查看文件名对应的inode号码
Is -i aa.txt

stat命令:查看文件inode信息中的inode号码
stat aa.txt
image.png

1.3 文件存储

硬盘分区后的结构
image.png
访问文件的简单流程
image.png

1.4 inode的大小

  • inode也会消耗硬盘空间
    • 每个inode的大小
    • 一般是128字节或256字节
  • 格式化文件系统时确定inode的总数
  • 使用df-i命令可以查看每个硬盘分区的inode总数和已经使用的数量

image.png

1.5 inode的特殊作用

  • 由于inode号码与文件名分离,导致Linux系统具备以下几种特有的现象
    • 文件名包含特殊字符,可能无法正常删除。这时直接删除inode,能够起到删除文件的作用;
    • 移动文件或重命名文件,只是改变文件名,不影响inode 号码
    • 打开一个文件以后,系统就以inode 号码来识别这个文件,不再考虑文件名
    • 文件数据被修改保存后,会生成一个新的inode 号码

删除的两种格式
find ./ -inum inode号 -exec rm -i {} ;
find ./ -inum inode号 -delete

添加硬盘分30M,挂载在test1中,使用命令创建多个文件实现故障现象,查看空余空间,尝试在/opt/test下创建目录无法创建

2.硬链接与软链接

2.1链接文件分类

  • 为文件或目录建立链接文件
  • 链接文件分类
特性软链接(符号链接)硬链接
删除原始文件后链接失效,变成一个指向不存在的文件的符号链接仍旧可用,因为链接指向的是文件的数据块,而非文件名
使用范围适用于文件或目录只可用于文件
保存位置可以与原始文件位于不同的文件系统中必须与原始文件在同一个文件系统内(例如同一个Linux分区)
文件大小链接本身的大小是符号链接的大小,通常很小硬链接不增加文件大小,因为它们共享相同的数据块
创建方式ln -s [源文件或目录] [链接名]ln [源文件] [链接名]
文件属性软链接有自己的权限和所有者,与原始文件无关硬链接没有自己的权限和所有者,与原始文件相同
文件计数查看链接数时,软链接不计入原始文件的链接数每个硬链接都会增加原始文件的链接数(ls -l 中的 ln 值)
跨文件系统可以创建跨文件系统的软链接不能创建跨文件系统的硬链接,因为不同文件系统的数据块结构不同
  • 硬链接
  • In 源文件 目标位置

image.png

  • 软链接
  • In -s 源文件或目录 … 链接文件或目标位置

image.png

3.恢复误删除的文件

3.1 案例:恢复EXT类型的文件

extundelete 是一一个开源的Linux 数据恢复工具,支持ext3、 ext4文件系统。 ( ext4只能在centos6版本恢复)

  • 编译安装extundelete软件包
    • 安装依赖包
      • +e2fsprogs-libs-1.41.12-18.el6.x86_64.rpm
      • +e2fsprogs-devel-1.41.12-18.el6.x86_64.rpm
    • 配置、编译及安装
      • extundelete-0.2.4.tar.bz2
  • 模拟删除并执行恢复操作

模拟过程
1.使用fdisk创建分区/dev/sdc1, 格式化ext3文件系统
fdisk /dev/sdc
partprobe /dev/sdc
mkfs.ext3 /dev/sdc1
mkdir /test
mount /dev/sdc1/test
df -hT
2.安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs gcc gcc-c++
3.编译安装extundelete
cd /test
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/1ocal/extundelete && make && make install 或
./configure && make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin/
4.模拟删除并执行恢复操作
cd /test
echo a>a
echo a>b
echo a>c
echo a>d
ls
extundelete /dev/sdc1 --inode 2 #查看文件系统/dev/sdc1下存在哪些文件,i节点是从2开始的,2代表该文件系统最开始的目录
rm -rf a b
extundelete /dev/sdc1 --inode 2
cd ~
umount /test
extundelete /dev/sdc1 --restore-all #恢复/dev/sdc1 文件系统下的所有内容
在当前目录下会出现一个RECOVERED_FILES/目录,里面保存了已经恢复的文件
ls RECOVERED FILES/

添加一块硬盘并分512M
image.png
image.png
格式化文件系统
image.png
创建一个目录把/dev/sdb1挂载在上面,yum下载e2fsprogs-devel e2fsproges-libs
image.png
把extundelete-0.2.1.tar.bz2上传到linux并解压
image.png
将extundelete-0.2.1.tar.bz2移动到新建目录下./configure安装,make制作
image.png
在hj目录下创建四个文件并输入内容,使用extundelete保存inode号2以后的
image.png
删除两个测试文件
image.png
使用extundelete查看
image.png
image.png
解除挂载/de/sdb1并查看
image.png
使用extundelete恢复数据
image.png
切换到extundelete保存的目录下查看删除的文件
image.png
接着将文件拷贝到源目录下

3.2 案例:恢复XFS类型的文件

  • xfsdump命令格式

xfsdump-f +备份存放位置 +要备份的路径或设备文件

  • xfsdump备份级别(默认为0)
    • 0:完全备份
    • 1-9:增量备份
  • **xfsdump常用选项 **
      • f 指定备份文件目录
    • -L 指定标签session label
    • -M指定设备标签media labe
    • -S 备份单个文件,-s后面不能直接跟路径
  • xfsrestore命令格式

xfsrestore -f 恢复文件的位置 存放恢复后文件的位置

  • 模拟删除并执行恢复操作

模拟过程
1.使用fdisk创建分区/dev/sdb1,格式化xfs文件系统
fdisk /dev/sdb 或 partprobe /dev/sdb
mkfs.xfs /dev/sdb1 或者 mkfs.xfs [-f] /dev/sdb1
mkdir /data
mount /dev/sdb1 /data/
cd /data
cp /etc/passwd ./
mkdir test
touch test/a
2.使用xfsdump命令备份整个分区
rpm -qa | grep xfsdump
yum install -y xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M sdb1]
xfsdump -f /opt/dump_sdb /dev/sdb1 -L dump_sdb -M sdb1
3.模拟数据丢失并使用xfsrestore 命令恢复文件
cd /data/
rm -rf ./*
ls
xfsrestore -f /opt/dump_sdb1 /data/

备份有两种·0·表示完全备份(默认),1-9·表示增量备份呢
xfsdump.按照·inode·顺序备份·一个·xfs·文件系统
第二次备份也就是增量备份
xfsdump .- 1.1 .- f/opt/dump_sdb1_level_1/dev/sdb2 .- L.dump_sdb2_level 1-M.sdb2

使用fdisk创建分区/dev/sdb2,格式化xfs文件系统,挂载在创建的hk目录
image.png
image.pngimage.png
创建文件在hk目录下
image.png
用rpm查看xfsdump是否安装
image.png
使用xfsdump命令备份hk目录,并保存在opt下
image.png
保存的文件位置 磁盘位置 磁盘
备份成功提示
image.png
备份文件位置
image.png
删除文件
image.pngimage.png
查看hk目录确认已删除
image.png
恢复备份
image.png
成功提示
image.png
查看恢复的文件
image.png

3.2.1 xfsdump使用限制

  • 只能备份已挂载的文件系统
  • 必须使用root的权限才能操作
  • 只能备份XFS文件系统
  • 备份后的数据只能让xfsrestore解析
  • 不能备份两个具有相同UUID的文件系统

4.分析日志文件

4.1日志文件

4.1.1日志的功能

  • 用于记录系统、程序运行中发生的各种事件
  • 通过阅读日志,有助于诊断和解决系统故障

4.1.2日志文件的分类

  • 内核及系统日志
    • 由系统服务rsyslog统一进行管理,日志格式基本相似
  • 用户日志
    • 记录系统用户登录及退出系统的相关信息
  • 程序日志
    • 由各种应用程序独立管理的日志文件,记录格式不统一

4.1.3日志保存位置

  • 默认位于:/var/lcg目录下

4.1.4主要日志文件介绍
内核及公共消息日志 · /var/log/messages
记录Linux内核消息及各种应用程序的公共日志信息,包括启动、IO错误、网络错误、程序故障等,对于未使用独立日志文件的应用程序或服务,一般都可以从该日志文件中获得相关的事件记录信息

计划任务日志 · /var/log/cron
记录crond计划任务产生的事件信息

系统引导日志 · /var/log/dmesg
记录Linux系统在引导过程中的各种事件信息

邮件系统日志 · /var/log/maillog
记录进入或发出系统的电子邮件活动

用户登录日志 · /var/log/lastlog
记录每个用户最近的登录事件,是二进制格式
可以用lastlog查看

                                     · /var/log/secure记录用户认证相关的安全事件信息       · /var/log/wtmp记录每个用户登录、注销及系统启动和停机事件,是二进制格式可以用lastlog查看,存放在./var/log/secure· /var/run/btmp记录失败的、错误的登录尝试及验证事件,是二进制格式可以用lastlog查看,存放在./var/log/secure

4.2 内核及系统日志

4.2.1 由系统服务 rsyslog 统一管理

  • 软件包:rsyslog-7.4.7-16.el7.x86 64
  • 主要程序:/sbin/rsyslogd(服务)
  • 配置文件:/etc/rsyslog.conf

4.2.1.1rsyslog服务常用命令
ps -ef | grep rsyslogd 查看服务是否开启
grep -v “^$” /etc/rsyslog.conf 过滤掉空行

4.2.1.2自定义日志
用编辑器配置vim /etc/rsyslog.conf

加入一行内容*.info /var/log/info.log

日志中符号
mail.* 代表比*等级高的都记录,代表任何,也就是说任何日志都记录
.none 代表不记录日志
日志存放位置为
:所有日志高于这个等级就会对所有在线用户广播
.=代表只记录=后面级别的日志
.!代表除了!后面级别的日志不记录其他的都记录
存放路径之前有“-”代表先放入缓存足够大之后再存放在路径

systemctl restart rsyslog 重启服务之后/var/log下面就生成info.log

用vim编辑器查看

4.2.2日志消息的级别
级号 消息 级别 说明
0 EMERG 紧急 会导致主机系统不可用的情况
1 ALERT 警告 必须马上采取措施解决的问题
2 CRIT 严重 比较严重的情况
3 ERR 错误 运行出现错误
4 WARNING 错误 可能会影响系统功能的事件
5 NOTICE 注意 不会影响系统但值得注意
6 INFO 信息 一般信息
7 DEBUG 调试 程序或系统调试信息等

4.2.3日志记录的一般格式
image.png

4.3用户日志分析

4.3.1保存了用户登录、退出系统等相关信息

  • /var/log/lastlog:最近的用户登录事件
  • /var/log/wtmp:用户登录、注销及系统开、关机事件
  • /var/run/utmp:当前登录的每个用户的详细信息
  • /var/log/secure:与用户验证相关的安全性事件

4.3.2分析工具

  • users、who、w、last、lastb(查询登录失败的)

image.png

4.4 程序日志分析

4.4.1由相应的应用程序独立进行管理

  • Web服务:/var/log/httpd/
    • access_log error_log

设置httpd的登录和报错日志
image.png
serverroot"/etc/httpd"
image.png
重启httpd服务查看实时的倒数access_log
image.png
查询结果
image.png

  • 代理服务:/var/log/squid/
    • access.log cache.log
  • FTP服务:/var/log/xferlog

编译安装不在上面的位置

4.4.2分析工具

  • 文本查看、grep过滤检索、Webmin管理套件中查看
  • awk、sed等文本过滤、格式化编辑工具
  • Webalizer、Awstats等专用日志分析工具

journalctl工具
是CentOS-7独有的工具
Systemd 统一管理所有 Unit 的启动日志。好处就是 ,可以只用journalctl一个命令,查看所有日志(内核日志和 应用日志)
日志的配置文件/etc/systemd/journald.conf
ps -ef | grep journald
journalctl -b 查看本次启动的日志
journalctl -k 查看内核日志
journalctl | wc -l 查看系统总共的日志
journalctl -xe 经常用来查看最近报错的日志
-e:从结尾开始看
-x:提供问题相关的网址
journalctl -u httpd.service 指定服务服务报错
journalctl -p err 指定日志等级查看级别

4.4.3日志管理策略

  • 及时作好备份和归档
  • 延长日志保存期限
  • 控制日志访问权限
    • 日志中可能会包含各类敏感信息,如账户、口令等
  • 集中管理日志
    • 将服务器的日志文件发到统一的日志文件服务器
    • 便于日志信息的统一收集、整理和分析
    • 杜绝日志信息的意外丢失、恶意篡改或删除

将日志文件全部放在日志文件服务器上(集中管理)
1.rpm -ql rsyslog 查看模块有么有
2.服务端配置
[root@localhost ~]#vim /etc/rsyslog.conf

3.编辑文件取消第19 20 行注释允许服务器使用TCP 514端口接收日志 ;开启日志的远程传输功能在192.168.10.19
19 $ModLoad imtcp
20 $InputTCPServerRun 514
image.png
4.重启rsyslog日志服务
[root@localhost ~]# systemctl restart rsyslog
image.png
5.查看514端口是否开启
[root@localhost ~]#netstat -ntap |grep 514
image.png
6.客户端配置
[root@www1 ~]# vim /etc/rsyslog.conf
image.png
7.修改日志服务配置文件
90 . @@192.168.72.20:514
行数 所有 TCP 服务端IP 端口

8.把所有日志采用TCP协议发送到192.168.72.20的514端口上 ; #两个@ 代表使用 tcp 一个代表udp
[root@localhost ~]# systemctl restart rsyslog
image.png
9.客户端创建用户
image.png
10.去服务端查看
image.png
image.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/39507.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

element-ui Tree之懒加载叶子节点强制设置父级半选效果

效果: 前言: 我们是先只展示一级的,二级的数据是通过点击之后通过服务器获取数据,并不是全量数据直接一起返回回来的。 问题: 当你设置了默认选中的子节点,但是由于刚进入页面此时tree中数据暂是没有这个…

A*——AcWing 179. 八数码

A* 定义 A* 算法是一种在图形或地图中寻找最短路径的启发式搜索算法。它通过综合考虑起始节点到当前节点的实际代价和当前节点到目标节点的预估代价,来决定下一步的搜索方向。 运用情况 路径规划:如在地图导航中为车辆、行人规划最优路线。游戏开发&…

学会python——用python制作一个登录和注册窗口(python实例十八)

目录 1.认识Python 2.环境与工具 2.1 python环境 2.2 Visual Studio Code编译 3.登录和注册窗口 3.1 代码构思 3.2 代码实例 3.3 运行结果 4.总结 1.认识Python Python 是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本语言。 Python 的设计具有很强的可读…

免杀笔记 ---> PE

本来是想先把Shellcode Loader给更新了的,但是涉及到一些PE相关的知识,所以就先把PE给更了,后面再把Shellcode Loader 给补上。 声明:本文章内容来自于B站小甲鱼 1.PE的结构 首先我们要讲一个PE文件,就得知道它的结构…

SPI四种模式--极性与相位

SPI的四种模式:相位和极性 极性 定义时钟空闲状态: CPOL0:时钟线在空闲状态为低电平 CPOL1:时钟线在空闲状态为高电平 这个设置决定了设备不进行通信时时钟线的状态。 兼容性: 不同的SPI设备可能需要不同的时钟极性…

【Linux开发实战指南】基于TCP、进程数据结构与SQL数据库:构建在线云词典系统(含注册、登录、查询、历史记录管理功能及源码分享)

目录 项目演示: 1. 主界面 技术讲解: TCP连接 进程的并发 链表 SQLite3 IO对文件的读写 功能实现 实现逻辑 我遇到的问题: 服务器端代码思路解析 必要条件 步骤详解 客户端代码思路解析 步骤详解 服务器源码如下:…

windows电脑如何运行python的定时任务

这里需要使用:windows系统设置-控制面板里的计划任务 1.打开计划任务之后,选择:创建基本任务 2.填写名称,这里根据自己具体的项目需求填写,然后点击下一步。 3.选择每日,再点击下一步 4.设置时间&…

科普文:linux I/O原理、监控、和调优思路

Linux 文件系统 磁盘和文件系统的关系: 磁盘为系统提供了最基本的持久化存储。 文件系统则在磁盘的基础上,提供了一个用来管理文件的树状结构。 文件系统工作原理 索引节点和目录项 文件系统,本身是对存储设备上的文件,进行…

多维度多场景文档门户,鸿翼ECM文档云打造文档管理新范式

​在现代企业运营中,内容协作的效率直接影响到组织的整体表现和竞争力。传统的文档管理系统都是通过目录结构的方式进行文件管理,在实际业务中无法满足用户多视角、多维度、多场景的文档业务需求。因此,搭建结合文档体系的业务门户是许多企业…

策略模式入门:基本概念与应用

目录 策略模式策略模式结构策略模式应用场景策略模式优缺点练手题目题目描述输入描述输出描述题解 策略模式 策略模式,又称政策模式,是一种行为型设计模式,它能让你定义一系列算法,并将每种算法分别放入独立的类中,以…

数字研发·驱动变革 | 2024达索系统装备行业数字化研发专题研讨会成功举办

2024年6月28日,由百世慧举办的“数字研发驱动变革|2024达索系统装备行业数字化研发专题研讨会”在达索系统(重庆)智能制造创新中心成功举办。 随着全球制造业向着智能化、数字化转型,我国工业装备行业也面临着转型升级的压力和机遇…

Gym cuda error: invalid resource handle

gym模拟的时候, 出现问题: sim和gym的定义如下: from isaacgym import gymapi,gymtorch import math,random# 1. Simulation Setup gym gymapi.acquire_gym()# get default set of parameters sim_params gymapi.SimParams() sim_params.u…

企业多存储方式如何兼顾安全统一管理、便捷流畅访问的双向需求?

数据和文件存储是企业最基础的需求,常见的存储方式有磁盘存储、NAS存储、SAN存储、云存储、分布式存储、闪存存储等;随着企业规模的扩大、业务结构的复杂化,企业内部可能会同时出现多种存储方式、多个存储设备并行使用的情况。 这样的使用场景…

【启明智显技术分享】Model3C芯片电阻屏RTP配置、调试与测试指南

一、背景 本指南将详细介绍启明智显的Model3C芯片电阻屏RTP配置、调试与测试指南。无论您是电子爱好者、开发者还是工程师,这份指南都能助您快速上手并充分利用这款触摸屏的各项功能。 二、芯片介绍 Model3C是一款基于RISC-V的高性能、国产自主、工业级高清显示与…

面试篇-系统设计题总结

这里记录一些有趣的系统设计类的题目,一般大家比较喜欢出的设计类面试题目会和高可用系统相关比如秒杀和抢红包等。欢迎大家在评论中评论自己遇到的题目,本篇文章会持续更新。 1、设计一个抢红包系统 抢红包系统其实也是秒杀类中的一个场景&#xff0…

类的动态加载-双亲委派模型

java反射基础 Java 基础 - 反射机制详解 | Java 全栈知识体系 (pdai.tech) 类的动态加载 参考链接:类的动态加载 构造是和实例化也就是对象相关的。 静态代码块是在初始化的时候就调用的 Class.forName();就会调用静态代码块 forName,加载类时默认…

你们叫AI,我们叫DI

大家好,才是真的好。 最近Notes/Domino产品在做哪些更新,想必大家都很好奇。 从2022年年末到现在,快两年了,任何一个有追求的大企业或巨头,应该都在追求实现一件事情:AI人工智能。 从小道消息来看&#…

【高级篇】分区与分片:MySQL的高级数据管理技术(十三)

引言 在上一章,我们探讨了MySQL的主从复制与高可用性,这是构建健壮数据库架构的基石。现在,让我们深入到更高级的主题——分区与分片,这些技术对于处理大规模数据集和提升数据库性能至关重要。我们将详细介绍表分区的概念、类型及分片技术的应用,为下一章讨论MySQL集群与…

解决Vue3中路由页面跳转出现白屏,刷新页面之后展示正常的问题

遇到这个问题,首先需要检查根组件标签最外层是否包含了个最大的div盒子来包裹内容。如下图所示: 我的项目就是因为没有将两块内容放到一个大盒子里面,所以才会出现白屏的问题。然后我去查了相关的资料,了解到这个问题是Vue组件渲染…

TSINGSEE智能分析网关V4人员区域徘徊AI检测:算法原理介绍及技术应用场景

一、引言 在现代社会,随着科技的不断发展,视频监控系统已广泛应用于各个领域,如公共安全、商业管理、交通监控等。其中,区域徘徊检测算法作为一种重要的视频分析技术,能够有效地识别出特定区域内人员的徘徊行为&#…