生产级 Linux 磁盘 IO 调优

磁盘 IO 性能是 Linux 服务器最常见的瓶颈之一。iowait 高、响应延迟增、吞吐下降时，掌握从原理到工具到优化的完整方法论至关重要。

一、IO 性能三要素

三者关系： IOPS × 平均 IO 大小 = 吞吐量。

二、存储介质与调度算法

存储类型选择

IO 调度算法

# 查看当前调度器
cat /sys/block/sda/queue/scheduler

# 临时修改（重启失效）
echo mq-deadline > /sys/block/sda/queue/scheduler

# 永久修改（udev 规则）
cat > /etc/udev/rules.d/60-io-scheduler.rules << 'EOF'
# SSD → noop
ACTION=="add|change", SUBSYSTEM=="block", KERNEL=="sd[a-z]", ATTR{queue/rotational}=="0", ATTR{queue/scheduler}="noop"
# HDD → deadline
ACTION=="add|change", SUBSYSTEM=="block", KERNEL=="sd[a-z]", ATTR{queue/rotational}=="1", ATTR{queue/scheduler}="deadline"
EOF
udevadm control --reload-rules

三、文件系统选型与挂载选项

挂载选项

# 高性能场景（可接受数据风险）
mount -o noatime,nodiratime,nobarrier,data=writeback /dev/sdb1 /data

# 标准安全场景（推荐）
mount -o noatime,nodiratime /dev/sdb1 /data

四、性能评估工具

iostat 核心指标解读

fio 基准测试

# 随机读（模拟数据库）
fio --name=randread --ioengine=libaio --iodepth=4 --rw=randread --bs=4k \
  --size=1G --numjobs=4 --runtime=60 --time_based=1 --filename=/data/fio_test

# 顺序写（模拟大文件）
fio --name=seqwrite --ioengine=libaio --iodepth=16 --rw=write --bs=128k \
  --size=2G --runtime=60 --time_based=1 --filename=/data/fio_test

五、瓶颈识别模式

六、IO 优化实战

6.1 内核参数（脏页回写）

# /etc/sysctl.conf
# 脏页参数优化（高 IO 压力场景）
vm.dirty_ratio = 40              # 触发强制回写的内存比例（默认20）
vm.dirty_background_ratio = 10   # 后台回写的内存比例（默认10）
vm.dirty_expire_centisecs = 3000 # 脏页过期时间（30秒）
vm.dirty_writeback_centisecs = 500 # 回写间隔（5秒）

6.2 预读与队列深度

# 预读值
cat /sys/block/sda/queue/read_ahead_kb

# 数据库随机读场景 → 128-512KB（减小，不需要大预读）
# 大文件顺序读 → 1-4MB（增大）
echo 4096 > /sys/block/sda/queue/read_ahead_kb

# IO 队列深度
cat /sys/block/sda/queue/nr_requests
echo 256 > /sys/block/sda/queue/nr_requests

6.3 应用层优化

• 批量操作： 合并多次小 IO 为一次大 IO
• 异步 IO： 非关键 IO 异步处理，不阻塞主流程
• 缓存： 使用内存缓存减少磁盘 IO
• 预取： 对可预测的读操作提前预取

6.4 MySQL 数据库 IO 优化

[mysqld]
# Buffer Pool（设为可用内存 60-80%）
innodb_buffer_pool_size = 12G
innodb_buffer_pool_instances = 4

# IO 相关
innodb_flush_method = O_DIRECT      # 绕过页面缓存，直接 IO
innodb_io_capacity = 2000            # SSD 建议 2000-10000
innodb_io_capacity_max = 4000
innodb_flush_log_at_trx_commit = 1   # 1=最安全, 2=折中, 0=最快（最多丢1秒数据）

# Redo log 优化
innodb_log_file_size = 1G
innodb_log_files_in_group = 3
innodb_log_buffer_size = 64M

6.5 LVM SSD 缓存加速 HDD

# 使用 SSD 加速 HDD 数据盘
lvcreate --type cache-pool -l 100%FREE -n cache_pool vg_data /dev/sda1
lvconvert --cache --cachemode writethrough vg_data/lv_data --cachepool vg_data/cache_pool

七、监控与告警

关键指标

Prometheus + node_exporter

# 磁盘利用率
rate(node_disk_io_time_seconds_total[5m]) * 100

# IO 延迟（读 await）
rate(node_disk_read_time_seconds_total[5m]) / rate(node_disk_reads_completed_total[5m]) * 1000

# 吞吐量
rate(node_disk_read_bytes_total[5m]) / 1024 / 1024

八、案例复盘

案例 1：MySQL 响应延迟（促销期 iowait 45%）

根因： innodb_flush_log_at_trx_commit=1 导致每次事务提交刷日志，促销事务量激增。

优化：

1. 折中：改为 innodb_flush_log_at_trx_commit = 2（每秒刷一次，最多丢 1 秒数据）
2. 增大 redo log：innodb_log_file_size = 4G, innodb_log_files_in_group = 4
3. 合并小事务、使用批量插入

案例 2：日志服务器写入阻塞

根因： 日志轮转未开启压缩，大量日志顺序写满机械硬盘。

优化： 开启 compress + delaycompress；将日志目录迁移至 SSD；使用异步写入。

案例 3：5000 万小文件 inode 耗尽

根因： EXT4 inode 耗尽，单目录 500 万文件，元数据操作成为瓶颈。

优化： 改用 XFS（inode 动态分配）；拆分为多级哈希目录结构；或使用对象存储。

九、作业检查清单

新服务器部署：

• [ ] 根据 IO 特征选择存储类型
• [ ] 合理分区（数据/日志/临时文件分开）
• [ ] SSH → noop, HDD → deadline
• [ ] 挂载选项：noatime,nodiratime
• [ ] 内核脏页参数按业务调整
• [ ] 部署监控 + 配置告警阈值

日常巡检：

• [ ] df -h 空间 < 80%, df -i inode 充足
• [ ] iostat -xcz 1 %util < 80%, await 正常
• [ ] pidstat -d 1 检查异常 IO 进程
• [ ] dmesg | grep -i error 检查硬件错误

关联页面

关联页面