什么样的网站域名好,零基础学平面设计怎么学,个人网站空间申请,wordpress给图片加logo文章目录1 什么是IO多路复用2 解决什么问题说在前面I/O模型阻塞I/O非阻塞I/OIO多路复用信号驱动IO异步IO3 目前有哪些IO多路复用的方案解决方案总览常见软件的IO多路复用方案4 具体怎么用selectpollepolllevel-triggered and edge-triggered状态变化通知(edge-triggered)模式下…
文章目录1 什么是IO多路复用2 解决什么问题说在前面I/O模型阻塞I/O非阻塞I/OIO多路复用信号驱动IO异步IO3 目前有哪些IO多路复用的方案解决方案总览常见软件的IO多路复用方案4 具体怎么用selectpollepolllevel-triggered and edge-triggered状态变化通知(edge-triggered)模式下的epoll5 不同IO多路复用方案优缺点poll vs selectepoll vs pollselect1 什么是IO多路复用
一句话解释单线程或单进程同时监测若干个文件描述符是否可以执行I/O操作。
2 解决什么问题
说在前面
应用程序通常需要处理来自多条事件流中的事件比如我现在用的电脑需要同时处理键盘鼠标的输入、中断信号等等事件再比如web服务器如nginx需要同时处理来来自N个客户端的事件。
逻辑控制流在时间上的重叠叫做 并发而CPU单核在同一时刻只能做一件事情一种解决办法是对CPU进行时分复用(多个事件流将CPU切割成多个时间片不同事件流的时间片交替进行)。在计算机系统中我们用线程或者进程来表示一条执行流通过不同的线程或进程在操作系统内部的调度来做到对CPU处理的时分复用。这样多个事件流就可以并发进行不需要一个等待另一个太久在用户看起来他们似乎就是并行在做一样。
但凡事都是有成本的。线程/进程也一样有这么几个方面
线程/进程创建成本CPU切换不同线程/进程成本 Context Switch多线程的资源竞争
有没有一种可以在单线程/进程中处理多个事件流的方法呢一种答案就是IO多路复用。
因此IO多路复用解决的本质问题是在用更少的资源完成更多的事。
为了更全面的理解先介绍下在Linux系统下所有IO模型。
I/O模型
目前Linux系统中提供了5中IO处理模型
阻塞IO非阻塞IOIO多路复用信号驱动IO异步IO
阻塞I/O
这是最常用的简单的IO模型。阻塞IO意味着当我们发起一次IO操作后一直等待成功或失败之后才返回在这期间程序不能做其它的事情。阻塞IO操作只能对单个文件描述符进行操作详见read或write。
非阻塞I/O
我们在发起IO时通过对文件描述符设置O_NONBLOCK flag来指定该文件描述符的IO操作为非阻塞。非阻塞IO通常发生在一个for循环当中因为每次进行IO操作时要么IO操作成功要么当IO操作会阻塞时返回错误EWOULDBLOCK/EAGAIN然后再根据需要进行下一次的for循环操作这种类似轮询的方式会浪费很多不必要的CPU资源是一种糟糕的设计。和阻塞IO一样非阻塞IO也是通过调用read或write来进行操作的也只能对单个描述符进行操作。
IO多路复用
IO多路复用在Linux下包括了三种select、poll、epoll抽象来看他们功能是类似的但具体细节各有不同首先都会对一组文件描述符进行相关事件的注册然后阻塞等待某些事件的发生或等待超时。更多细节详见下面的 “具体怎么用”。IO多路复用都可以关注多个文件描述符但对于这三种机制而言不同数量级文件描述符对性能的影响是不同的下面会详细介绍。
信号驱动IO
信号驱动IO是利用信号机制让内核告知应用程序文件描述符的相关事件。这里有一个信号驱动IO相关的例子。
但信号驱动IO在网络编程的时候通常很少用到因为在网络环境中和socket相关的读写事件太多了比如下面的事件都会导致SIGIO信号的产生
TCP连接建立一方断开TCP连接请求断开TCP连接请求完成TCP连接半关闭数据到达TCP socket数据已经发送出去(如写buffer有空余空间)
上面所有的这些都会产生SIGIO信号但我们没办法在SIGIO对应的信号处理函数中区分上述不同的事件SIGIO只应该在IO事件单一情况下使用比如说用来监听端口的socket因为只有客户端发起新连接的时候才会产生SIGIO信号。
异步IO
异步IO和信号驱动IO差不多但它比信号驱动IO可以多做一步相比信号驱动IO需要在程序中完成数据从用户态到内核态(或反方向)的拷贝异步IO可以把拷贝这一步也帮我们完成之后才通知应用程序。我们使用 aio_read 来读aio_write 写。 同步IO vs 异步IO 1. 同步IO指的是程序会一直阻塞到IO操作如read、write完成 2.异步IO指的是IO操作不会阻塞当前程序的继续执行 所以根据这个定义上面阻塞IO当然算是同步的IO非阻塞IO也是同步IO因为当文件操作符可用时我们还是需要阻塞的读或写同理IO多路复用和信号驱动IO也是同步IO只有异步IO是完全完成了数据的拷贝之后才通知程序进行处理没有阻塞的数据读写过程。 3 目前有哪些IO多路复用的方案
解决方案总览
Linux: select、poll、epoll
MacOS/FreeBSD: kqueue
Windows/Solaris: IOCP
常见软件的IO多路复用方案
redis: Linux下 epoll(level-triggered)没有epoll用select
nginx: Linux下 epoll(edge-triggered)没有epoll用select
4 具体怎么用
select
相关函数定义如下 /* According to POSIX.1-2001, POSIX.1-2008 */#include sys/select.h/* According to earlier standards */#include sys/time.h#include sys/types.h#include unistd.hint select(int nfds, fd_set *readfds, fd_set *writefds,fd_set *exceptfds, struct timeval *timeout);void FD_CLR(int fd, fd_set *set);int FD_ISSET(int fd, fd_set *set);void FD_SET(int fd, fd_set *set);void FD_ZERO(fd_set *set);#include sys/select.hint pselect(int nfds, fd_set *readfds, fd_set *writefds,fd_set *exceptfds, const struct timespec *timeout,const sigset_t *sigmask);
select的调用会阻塞到有文件描述符可以进行IO操作或被信号打断或者超时才会返回。
select将监听的文件描述符分为三组每一组监听不同的需要进行的IO操作readfds是需要进行读操作的文件描述符writefds是需要进行写操作的文件描述符exceptfds是需要进行异常事件处理的文件描述符。这三个参数可以用NULL来表示对应的事件不需要监听。
nfds: 要监视的文件描述符的范围一般取监视的描述符数的最大值1如这里写 10 这样的话描述符 01, 2 …… 9 都会被监视
当select返回时每组文件描述符会被select过滤只留下可以进行对应IO操作的文件描述符也就是说能进行IO操作的文件描述符会被设置。成功就绪描述符的数目超时返回 0出错-1 。
FD_xx系统函数时用来操作文件描述符组合文件描述符的关系。
FD_ZERO用来清空文件描述符组。每次调用select前都需要清空一次。
fd_set writefds;
FD_ZERO(writefds)FD_SET添加一个文件描述符到组中FD_CLR对应将一个文件描述符移出组中
FD_SET(fd, writefds);
FD_CLR(fd, writefds);FD_ISSET检测一个文件描述符是否在组中我们用这个来检测一次select调用之后有哪些文件描述符可以进行IO操作
if (FD_ISSET(fd, readfds)){/* fd可读 */
}select可同时监听的文件描述符数量是通过FS_SETSIZE来限制的在Linux系统中该值为1024当然我们可以增大这个值但随着监听的文件描述符数量增加select的效率会降低我们会在『不同IO多路复用方案优缺点』一节中展开。
打开链接查看完整的使用select的例子
#include stdio.h
#include sys/time.h
#include sys/types.h
#include unistd.h#define TIMEOUT 5 /* select timeout in seconds */
#define BUF_LEN 1024 /* read buffer in bytes */int main (void) {struct timeval tv;fd_set readfds;int ret;/* Wait on stdin for input. */FD_ZERO(readfds);FD_SET(STDIN_FILENO, readfds);/* Wait up to five seconds. */tv.tv_sec TIMEOUT;tv.tv_usec 0;/* All right, now block! */ret select (STDIN_FILENO 1, readfds,NULL,NULL, tv);if (ret −1) {perror (select);return 1; } else if (!ret) {printf (%d seconds elapsed.\n, TIMEOUT);return 0; }/** Is our file descriptor ready to read?* (It must be, as it was the only fd that* we provided and the call returned* nonzero, but we will humor ourselves.)*/if (FD_ISSET(STDIN_FILENO, readfds)) {char buf[BUF_LEN1];int len;/* guaranteed to not block */len read (STDIN_FILENO, buf, BUF_LEN);if (len −1) {perror (read);return 1; }if (len) {buf[len] \0;printf (read: %s\n, buf);}return 0; }fprintf (stderr, This should not happen!\n);return 1;
}poll
相关函数定义 #include poll.hint poll(struct pollfd *fds, nfds_t nfds, int timeout);#define _GNU_SOURCE /* See feature_test_macros(7) */#include signal.h#include poll.hint ppoll(struct pollfd *fds, nfds_t nfds,const struct timespec *tmo_p, const sigset_t *sigmask);struct pollfd {int fd; /* file descriptor */short events; /* requested events */short revents; /* returned events */};
poll函数监视在fds数组指明的一组文件描述符上发生的动作当满足条件或者超时的时候会退出
参数fds是一个指向pollfd数组的指针监视的文件描述符和条件放在里面参数nfds是比监视的最大描述符的值大于1的值参数timeout是超时时间单位为毫秒当为负值时表示永远等待
结构体struct pollfd的成员含义如下
成员fd表示监视的文件描述符成员events表示输入的监视事件成员revents表示返回的监视事件即返回时发生的事件
和select用三组文件描述符不同的是poll只有一个pollfd数组数组中的每个元素都表示一个需要监听IO操作事件的文件描述符。events参数是我们等待的事件revents是实际发生了的事件。
打开链接查看完整的使用poll的例子
#include stdio.h
#include unistd.h
#include poll.h
#define TIMEOUT 5 /* poll timeout, in seconds */
int main (void) {struct pollfd fds[2];int ret;/* watch stdin for input */fds[0].fd STDIN_FILENO;fds[0].events POLLIN;/* watch stdout for ability to write (almost always true) */fds[1].fd STDOUT_FILENO;fds[1].events POLLOUT;/* All set, block! */ret poll (fds, 2, TIMEOUT * 1000);if (ret −1) {perror (poll);return 1; }if (!ret) {printf (%d seconds elapsed.\n, TIMEOUT);return 0; }if (fds[0].revents POLLIN)printf (stdin is readable\n);if (fds[1].revents POLLOUT)printf (stdout is writable\n);return 0;
}/*$ ./pollstdout is writable$ ./poll some_filestdin is readablestdout is writable
*/epoll
相关函数定义如下 #include sys/epoll.hint epoll_create(int size);int epoll_create1(int flags);int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);int epoll_wait(int epfd, struct epoll_event *events,int maxevents, int timeout);int epoll_pwait(int epfd, struct epoll_event *events,int maxevents, int timeout,const sigset_t *sigmask);
// 保存触发事件的某个文件描述符相关的数据与具体使用方式有关
typedef union epoll_data {void *ptr;int fd;uint32_t u32;uint64_t u64;} epoll_data_t;
// 感兴趣的事件和被触发的事件struct epoll_event {uint32_t events; /* Epoll events */epoll_data_t data; /* User data variable */};
epoll_createepoll_create1用于创建一个epoll实例而epoll_ctl用于往epoll实例中增删改要监测的文件描述符epoll_wait则用于阻塞的等待可以执行IO操作的文件描述符直到超时。
epoll_create自从 linux 2.6.8 之后size 参数是被忽略的也就是说可以填只有大于 0 的任意值。
epoll_ctlepfd: epoll 专用的文件描述符epoll_create()的返回值op: 表示动作用三个宏来表示
EPOLL_CTL_ADD注册新的 fd 到 epfd 中
EPOLL_CTL_MOD修改已经注册的fd的监听事件
EPOLL_CTL_DEL从 epfd 中删除一个 fdfd: 需要监听的文件描述符
结构体epoll_event 成员含义如下
成员 events 代表要监听的 epoll 事件类型有读事件写事件有如下取值。 data用户数据变量
epoll_wait等待事件的产生类似于select()调用。参数events用来从内核得到事件的集合maxevents告之内核这个events有多大这个 maxevents的值不能大于创建epoll_create()时的size参数timeout是超时时间毫秒0会立即返回-1将不确定也有说法说是永久阻塞。该函数返回需要处理的事件数目如返回0表示已超时。如果返回–1则表示出现错误需要检查 errno错误码判断错误类型。 第1个参数 epfd是 epoll的描述符。 第2个参数 events则是分配好的 epoll_event结构体数组epoll将会把发生的事件复制到 events数组中events不可以是空指针内核只负责把数据复制到这个 events数组中不会去帮助我们在用户态中分配内存。内核这种做法效率很高。 第3个参数 maxevents表示本次可以返回的最大事件数目通常 maxevents参数与预分配的events数组的大小是相等的。 第4个参数 timeout表示在没有检测到事件发生时最多等待的时间单位为毫秒如果 timeout为0则表示 epoll_wait在 rdllist链表中为空立刻返回不会等待。
打开链接查看完整的使用epoll的例子
//https://banu.com/blog/2/how-to-use-epoll-a-complete-example-in-c/epoll-example.c
#include stdio.h
#include stdlib.h
#include string.h
#include sys/types.h
#include sys/socket.h
#include netdb.h
#include unistd.h
#include fcntl.h
#include sys/epoll.h
#include errno.h#define MAXEVENTS 64static int
make_socket_non_blocking (int sfd)
{int flags, s;flags fcntl (sfd, F_GETFL, 0);if (flags -1){perror (fcntl);return -1;}flags | O_NONBLOCK;s fcntl (sfd, F_SETFL, flags);if (s -1){perror (fcntl);return -1;}return 0;
}static int
create_and_bind (char *port)
{struct addrinfo hints;struct addrinfo *result, *rp;int s, sfd;memset (hints, 0, sizeof (struct addrinfo));hints.ai_family AF_UNSPEC; /* Return IPv4 and IPv6 choices */hints.ai_socktype SOCK_STREAM; /* We want a TCP socket */hints.ai_flags AI_PASSIVE; /* All interfaces */s getaddrinfo (NULL, port, hints, result);if (s ! 0){fprintf (stderr, getaddrinfo: %s\n, gai_strerror (s));return -1;}for (rp result; rp ! NULL; rp rp-ai_next){sfd socket (rp-ai_family, rp-ai_socktype, rp-ai_protocol);if (sfd -1)continue;s bind (sfd, rp-ai_addr, rp-ai_addrlen);if (s 0){/* We managed to bind successfully! */break;}close (sfd);}if (rp NULL){fprintf (stderr, Could not bind\n);return -1;}freeaddrinfo (result);return sfd;
}int
main (int argc, char *argv[])
{int sfd, s;int efd;struct epoll_event event;struct epoll_event *events;if (argc ! 2){fprintf (stderr, Usage: %s [port]\n, argv[0]);exit (EXIT_FAILURE);}sfd create_and_bind (argv[1]);if (sfd -1)abort ();s make_socket_non_blocking (sfd);if (s -1)abort ();s listen (sfd, SOMAXCONN);if (s -1){perror (listen);abort ();}efd epoll_create1 (0);if (efd -1){perror (epoll_create);abort ();}event.data.fd sfd;event.events EPOLLIN | EPOLLET;s epoll_ctl (efd, EPOLL_CTL_ADD, sfd, event);if (s -1){perror (epoll_ctl);abort ();}/* Buffer where events are returned */events calloc (MAXEVENTS, sizeof event);/* The event loop */while (1){int n, i;n epoll_wait (efd, events, MAXEVENTS, -1);for (i 0; i n; i){if ((events[i].events EPOLLERR) ||(events[i].events EPOLLHUP) ||(!(events[i].events EPOLLIN))){/* An error has occured on this fd, or the socket is notready for reading (why were we notified then?) */fprintf (stderr, epoll error\n);close (events[i].data.fd);continue;}else if (sfd events[i].data.fd){/* We have a notification on the listening socket, whichmeans one or more incoming connections. */while (1){struct sockaddr in_addr;socklen_t in_len;int infd;char hbuf[NI_MAXHOST], sbuf[NI_MAXSERV];in_len sizeof in_addr;infd accept (sfd, in_addr, in_len);if (infd -1){if ((errno EAGAIN) ||(errno EWOULDBLOCK)){/* We have processed all incomingconnections. */break;}else{perror (accept);break;}}s getnameinfo (in_addr, in_len,hbuf, sizeof hbuf,sbuf, sizeof sbuf,NI_NUMERICHOST | NI_NUMERICSERV);if (s 0){printf(Accepted connection on descriptor %d (host%s, port%s)\n, infd, hbuf, sbuf);}/* Make the incoming socket non-blocking and add it to thelist of fds to monitor. */s make_socket_non_blocking (infd);if (s -1)abort ();event.data.fd infd;event.events EPOLLIN | EPOLLET;s epoll_ctl (efd, EPOLL_CTL_ADD, infd, event);if (s -1){perror (epoll_ctl);abort ();}}continue;}else{/* We have data on the fd waiting to be read. Read anddisplay it. We must read whatever data is availablecompletely, as we are running in edge-triggered modeand wont get a notification again for the samedata. */int done 0;while (1){ssize_t count;char buf[512];count read (events[i].data.fd, buf, sizeof buf);if (count -1){/* If errno EAGAIN, that means we have read alldata. So go back to the main loop. */if (errno ! EAGAIN){perror (read);done 1;}break;}else if (count 0){/* End of file. The remote has closed theconnection. */done 1;break;}/* Write the buffer to standard output */s write (1, buf, count);if (s -1){perror (write);abort ();}}if (done){printf (Closed connection on descriptor %d\n,events[i].data.fd);/* Closing the descriptor will make epoll remove itfrom the set of descriptors which are monitored. */close (events[i].data.fd);}}}}free (events);close (sfd);return EXIT_SUCCESS;
}level-triggered and edge-triggered
这两种底层的事件通知机制通常被称为水平触发和边沿触发真是翻译的词不达意如果我来翻译我会翻译成状态持续通知和状态变化通知。
这两个概念来自电路triggered代表电路激活也就是有事件通知给程序level-triggered表示只要有IO操作可以进行比如某个文件描述符有数据可读每次调用epoll_wait都会返回以通知程序可以进行IO操作edge-triggered表示只有在文件描述符状态发生变化时调用epoll_wait才会返回如果第一次没有全部读完该文件描述符的数据而且没有新数据写入再次调用epoll_wait都不会有通知给到程序因为文件描述符的状态没有变化。
select和poll都是状态持续通知的机制且不可改变只要文件描述符中有IO操作可以进行那么select和poll都会返回以通知程序。而epoll两种通知机制可选。
状态变化通知(edge-triggered)模式下的epoll
在epoll状态变化通知机制下有一些的特殊的地方需要注意。考虑下面这个例子
服务端文件描述符rfd代表要执行read操作的TCP socketrfd已被注册到一个epoll实例中客户端向rfd写了2kb数据服务端调用epoll_wait返回rfd可执行read操作服务端从rfd中读取了1kb数据服务端又调用了一次epoll_wait
在第5步的epoll_wait调用不会返回而对应的客户端会因为服务端没有返回对应的response而超时重试原因就是我上面所说的epoll_wait只会在状态变化时才会通知程序进行处理。第3步epoll_wait会返回是因为客户端写了数据导致rfd状态被改变了第3步的epoll_wait已经消费了这个事件所以第5步的epoll_wait不会返回。
我们需要配合非阻塞IO来解决上面的问题
对需要监听的文件描述符加上非阻塞IO标识只在read或者write返回EAGAIN或EWOULDBLOCK错误时才调用epoll_wait等待下次状态改变发生
通过上述方式我们可以确保每次epoll_wait返回之后我们的文件描述符中没有读到一半或写到一半的数据。
5 不同IO多路复用方案优缺点
poll vs select
poll和select基本上是一样的poll相比select好在如下几点
poll传参对用户更友好。比如不需要和select一样计算很多奇怪的参数比如nfds(值最大的文件描述符1)再比如不需要分开三组传入参数。poll会比select性能稍好些因为select是每个bit位都检测假设有个值为1000的文件描述符select会从第一位开始检测一直到第1000个bit位。但poll检测的是一个数组。select的时间参数在返回的时候各个系统的处理方式不统一如果希望程序可移植性更好需要每次调用select都初始化时间参数。
而select比poll好在下面几点
支持select的系统更多兼容更强大有一些unix系统不支持pollselect提供精度更高(到microsecond)的超时时间而poll只提供到毫秒的精度。
但总体而言 select和poll基本一致。
epoll vs pollselect
epoll优于selectpoll在下面几点
在需要同时监听的文件描述符数量增加时selectpoll是O(N)的复杂度epoll是O(1)在N很小的情况下差距不会特别大但如果N很大的前提下一次O(N)的循环可要比O(1)慢很多所以高性能的网络服务器都会选择epoll进行IO多路复用。epoll内部用一个文件描述符挂载需要监听的文件描述符这个epoll的文件描述符可以在多个线程/进程共享所以epoll的使用场景要比selectpoll要多。
