做网站 工资高吗,免费建站的站点网站,分类达人介绍,网站常用图标素材作者 | 张彦飞allen来源 | 开发内功修炼在日常开发中一些看似司空见惯的问题上#xff0c;我觉得可能大多数人其实并没有真正理解#xff0c;或者理解的不够透彻。不信我们来看以下一段简单的读取文件的代码#xff1a;上图中的代码仅仅只是对某个文件读取了一个字节#x… 作者 | 张彦飞allen来源 | 开发内功修炼在日常开发中一些看似司空见惯的问题上我觉得可能大多数人其实并没有真正理解或者理解的不够透彻。不信我们来看以下一段简单的读取文件的代码上图中的代码仅仅只是对某个文件读取了一个字节基于这个代码片段我们来思考1、读取文件 1 个字节是否会导致磁盘 IO 2、如果发生了磁盘 IO那发生的是多大的 IO 呢大家平时用的各种语言 C、PHP、Java、Go 啥的封装层次都比较高把很多细节都给屏蔽的比较彻底。如果想把上面的问题搞清楚需要剖开 Linux 的内部来看 Linux 的 IO 栈。一、大话 Linux IO 栈废话不多说我画了一个 Linux IO 栈的简化版本。通过 IO 栈可以看到我们在应用层简单的一次 read 而已内核就需要 IO 引擎、VFS、PageCache、通用块管理层、IO 调度层等许多个组件来进行复杂配合才能完成。那这些组件都是干啥的呢我们挨个简单过一遍。不想看这个的同学可以直接跳到第二节的读文件读过程。1.1 IO 引擎开发同学想要读写文件的话在 lib 库层有很多套函数可以选择比如 read writepread pwrite。这事实上就是在选择 Linux 提供的 IO 引擎。常见的 IO 引擎种类如下我们开篇中代码片用的 read 函数就属于 sync 引擎。IO 引擎仍然处于上层它需要内核层的提供的系统调用、VFS、通用块层等更底层组件的支持才能实现。接着让我们继续深入到内核来介绍各个内核组件。1.2 系统调用当进入到系统调用以后也就进入到了内核层。系统调用将内核中其它组件的功能进行封装然后通过接口的形式暴露给用户进程来访问。对于我们的读取文件的需求系统调用需要依赖 VFS 内核组件。1.3 VFS 虚拟文件系统VFS 的思想就是在 Linux 上抽象一个通用的文件系统模型对我们开发人员或者是用户提供一组通用的接口让我们不用 care 具体文件系统的实现。VFS 提供的核心数据结构有四个它们定义在内核源代码的 include/linux/fs.h 和 include/linux/dcache.h 中。superblockLinux 用来标注具体已安装的文件系统的有关信息。inodeLinux 中的每一个文件/目录都有一个 inode记录其权限、修改时间等信息。desty目录项是路径中的一部分所有的目录项对象串起来就是一棵 Linux 下的目录树。file文件对象用来和打开它的进程进行交互。围绕这这四个核心数据结构VFS 也都定义了一系列的操作方法。比如inode 的操作方法定义 inode_operations在它的里面定义了我们非常熟悉的 mkdir 和 rename 等。对于 file 对象定义了对应的操作方法 file_operations 如下// include/linux/fs.h
struct file {......const struct file_operations *f_op
}
struct file_operations {......ssize_t (*read) (struct file *, char __user *, size_t, loff_t *);ssize_t (*write) (struct file *, const char __user *, size_t, loff_t *);......int (*mmap) (struct file *, struct vm_area_struct *);int (*open) (struct inode *, struct file *);int (*flush) (struct file *, fl_owner_t id);
}注意 VFS 是抽象的所以它的 file_operations 里定义的 read、write 都只是函数指针 实际中需要具体的文件系统来实现例如 ext4 等等。1.4 Page CachePage Cache。它的中文译名叫页高速缓存。它是 Linux 内核使用的主要磁盘高速缓存是一个纯内存的工作组件。Linux 内核使用搜索树来高效管理大量的页面。有了它Linux 就可以把一些磁盘上的文件数据保留在内存中然后来给访问相对比较慢的磁盘来进行访问加速。当用户要访问的文件的时候如果要访问的文件 block 正好存在于 Page Cache 内那么 Page Cache 组件直接把数据从内核态拷贝到用户进程的内存中就可以了。如果不存在那么会申请一个新页发出缺页中断然后用磁盘读取到的 block 内容来填充它 下次直接使用。看到这里开篇的问题可能你就明白一半了如果你要访问的文件近期访问过那么 Linux 大概率就是从 Page cache 内存中的拷贝给你就完事并不会有实际的磁盘 IO 发生。不过有一种情况下Pagecache 不会生效 那就是你设置了 DIRECT_IO 标志。1.5 文件系统Linux 下支持的文件系统有很多常用的有 ext2/3/4、XFS、ZFS 等。要用哪种文件系统是在格式化的时候指定的。因为每一个分区都可以单独进行格式化所以一台 Linux 机器下可以同时使用多个不同的文件系统。文件系统里提供对 VFS 的具体实现。除了数据结构每个文件系统还会定义自己的实际操作函数。例如在 ext4 中定义的 ext4_file_operations。在其中包含的VFS中定义的 read 函数的具体实现do_sync_read 和 do_sync_write。const struct file_operations ext4_file_operations {.llseek ext4_llseek,.read do_sync_read,.write do_sync_write,.aio_read generic_file_aio_read,.aio_write ext4_file_write,......
}和 VFS 不同的是这里的函数就是实实在在的实现了。1.6 通用块层文件系统还要依赖更下层的通用块层。对上层的文件系统通用块层提供一个统一的接口让供文件系统实现者使用而不用关心不同设备驱动程序的差异这样实现出来的文件系统就能用于任何的块设备。通过对设备进行抽象后不管是磁盘还是机械硬盘对于文件系统都可以使用相同的接口对逻辑数据块进行读写操作。对下层。I/O 请求添加到设备的 I/O 请求队列。它定义了一个叫 bio 的数据结构来表示一次 IO 操作请求include/linux/bio.h1.7 IO 调度层当通用块层把 IO 请求实际发出以后并不一定会立即被执行。因为调度层会从全局出发尽量让整体磁盘 IO 性能最大化。对于机械硬盘来说调度层会尽量让磁头类似电梯那样工作先往一个方向走到头再回来这样整体效率会比较高一些。具体的算法有 deadline 和 cfg 算法细节就不展开了感兴趣同学可以自行搜索。对于固态硬盘来说随机 IO 的问题已经被很大程度地解决了所以可以直接使用最简单的 noop 调度器。在你的机器上通过dmesg | grep -i scheduler来查看你的 Linux 支持的调度算法。通用块层和 IO 调度层一起为上层文件系统屏蔽了底层各种不同的硬盘、U盘的设备差异。二、读文件过程我们已经把 Linux IO 栈里的各个内核组件都简单介绍一遍了。现在我们再从头整体过一下读取文件的过程图中源代码基于 Linux 3.10这一张长图把整个 Linux 读取文件的过程都串了一遍。三、回顾开篇问题回到开篇的第一个问题读取文件 1 个字节是否会导致磁盘 IO 从上述流程中可以看到如果 Page Cache 命中的话根本就没有磁盘 IO 产生。所以大家不要觉得代码里出现几个读写文件的逻辑就觉得性能会慢的不行。操作系统已经替你优化了很多很多内存级别的访问延迟大约是 ns 级别的比机械磁盘 IO 快了好几个数量级。如果你的内存足够大或者你的文件被访问的足够频繁其实这时候的 read 操作极少有真正的磁盘 IO 发生。假如 Page Cache 没有命中那么一定会有传动到机械轴上进行磁盘 IO 吗其实也不一定为什么因为现在的磁盘本身就会带一块缓存。另外现在的服务器都会组建磁盘阵列在磁盘阵列里的核心硬件Raid卡里也会集成RAM作为缓存。只有所有的缓存都不命中的时候机械轴带着磁头才会真正工作。再看开篇的第二个问题如果发生了磁盘 IO那发生的是多大的 IO 呢如果所有的 Cache 都没有兜住 IO 读请求那么我们来看看实际 Linux 会读取多大。真的按我们的需求来只去读一个字节吗整个 IO 过程中涉及到了好几个内核组件。而每个组件之间都是采用不同长度的块来管理磁盘数据的。Page Cache 是以页为单位的Linux 页大小一般是 4KB文件系统是以块(block)为单位来管理的。使用dumpe2fs可以查看一般一个块默认是 4KB通用块层是以段为单位来处理磁盘 IO 请求的一个段为一个页或者是页的一部分IO 调度程序通过 DMA 方式传输 N 个扇区到内存扇区一般为 512 字节硬盘也是采用“扇区”的管理和传输数据的可以看到虽然我们从用户角度确实是只读了 1 个字节开篇的代码中我们只给这次磁盘IO留了一个字节的缓存区。但是在整个内核工作流中最小的工作单位是磁盘的扇区为512字节比1个字节要大的多。另外 block、page cache 等高层组件工作单位更大。其中 Page Cache 的大小是一个内存页 4KB。所以一般一次磁盘读取是多个扇区512字节一起进行的。假设通用块层 IO 的段就是一个内存页的话一次磁盘 IO 就是 4 KB8 个 512 字节的扇区一起进行读取。另外我们没有讲到的是还有一套复杂的预读取的策略。所以在实践中可能比 8 更多的扇区来一起被传输到内存中。最后啰嗦几句操作系统的本意是做到让你简单可依赖 让你尽量把它当成一个黑盒。你想要一个字节它就给你一个字节但是自己默默干了许许多多的活儿。我们虽然国内绝大多数开发都不是搞底层的但如果你十分关注你的应用程序的性能你应该明白操作系统的什么时候悄悄提高了你的性能是怎么来提高的。以便在将来某一个时候你的线上服务器扛不住快要挂掉的时候你能迅速找出问题所在。往期推荐使用开源工具 k8tz 优雅设置 Kubernetes Pod 时区如何优雅保护 Kubernetes 中的 SecretsRedis 内存满了怎么办这样置才正确云原生的本手、妙手和俗手点分享点收藏点点赞点在看
