【网络】高级IO(select||poll||epoll)

基础引入

应用层read&&write的时候，把数据从用户层写到操作系统，本质是拷贝函数。
read时候如果缓冲区没有数据，那么就要等待数据才能读取，因此IO=等待+拷贝，要进行拷贝，必须等待读写事件就绪。
高效IO指单位时间内，IO过程中，等待的比重小，IO效率高。

五种IO模型

同步阻塞IO（Blocking IO）：这是一种传统的IO模型。在这种模型中，用户空间线程是主动发起IO请求的一方，而内核空间是被动接受方。用户空间程序需要等待内核IO操作彻底完成后，才返回到用户空间执行用户的操作。
同步非阻塞IO（Non-blocking IO）：在这种模型中，用户程序不需要等待内核IO操作完成后，内核会立即返回给用户一个状态值。这样，用户空间无需等到内核IO操作彻底完成，可以立即返回用户空间执行用户的操作，处于非阻塞的状态。
IO多路复用（IO Multiplexing）：这种模型有时也称为异步阻塞IO。它是经典的Reactor设计模式，允许一个线程同时处理多个IO请求。这种模型可以提高系统的吞吐量，因为它减少了线程的上下文切换次数。
异步IO（Asynchronous IO）：异步IO是一种更高级的IO模型，它将IO操作与用户请求分离开来。当用户发出IO请求时，系统会立即返回一个结果（通常是一个表示操作正在进行的标识符），而不会等待IO操作真正完成。当IO操作完成后，系统会通过某种方式（如回调函数）通知用户程序。
信号驱动IO（Signal-Driven I/O）：这种模型允许用户进程收到一个信号（通常是SIGIO）来通知其某个IO操作已经完成。在信号驱动IO模型中，当用户线程发起一个IO请求时，它不需要等待这个请求完成，而是可以继续执行其他任务。当内核完成IO请求时，它会发送一个信号给用户线程，通知它IO操作已经完成。

select

函数解析

int select(int nfds, fd_set *readfds, fd_set *writefds, fd_set *exceptfds, struct timeval *timeout);

nfds：需要监视的文件描述符中，最大的文件描述符值+1。
readfds：输入输出型参数，调用时用户告知内核需要监视哪些文件描述符的读事件是否就绪，返回时内核告知用户哪些文件描述符的读事件已经就绪。
writefds：输入输出型参数，调用时用户告知内核需要监视哪些文件描述符的写事件是否就绪，返回时内核告知用户哪些文件描述符的写事件已经就绪。
exceptfds：输入输出型参数，调用时用户告知内核需要监视哪些文件描述符的异常事件是否就绪，返回时内核告知用户哪些文件描述符的异常事件已经就绪。
timeout：输入输出型参数，调用时由用户设置select的等待时间，返回时表示timeout的剩余时间。

select函数运行时将rfds(bitmap)拷贝到内核态来判断事件是否就绪，如果没数据就阻塞等待，当事件就绪，会将rfds置位（可能有多个位），变为输出型参数，再进行后续逻辑

实现一个select_server

#pragma once#include<iostream>
#include<sys/select.h>
#include<sys/time.h>
#include<unistd.h>
#include"Socket.hpp"static const uint16_t defaultport=8080;
static const int fd_num_max=(sizeof(fd_set)*8);
int defaultfd=-1;class SelectServer
{
public:SelectServer(uint16_t port=defaultport):_port(port){for(int i=0;i<fd_num_max;i++){fd_array[i]=defaultfd;}}bool Init(){_listensock.Sock();_listensock.Bind(_port);_listensock.Listen();return true;}// void HandlerEvent(fd_set& fds)// {//     for (int i = 0; i < fd_num_max; i++)//     {//         int fd=fd_array[i];//         if(fd==defaultfd)//             continue;//         if (FD_ISSET(fd, &fds))//判断当前fd是否在fd集合里，如果在表明事件就绪//         {//             // 如果listensock在fds位图中，表明链接就绪,下面的逻辑用于获取新链接加入fd_array中//             if (_listensock.Fd() == fd)//             {//                 std::string clientip;//                 uint16_t clientport = 0;//                 int sock = _listensock.Accept(&clientip, &clientport); // 不会阻塞在这里//                 if (sock < 0)//                     continue;//                 lg(Info, "accept success,%s,%d,sockfd:%d", clientip.c_str(), clientport, _listensock.Fd());//                 // sock->fd_array[]//                 int pos = 1;//                 for (; pos < fd_num_max; pos++)//                 {//                     if (fd_array[pos] != defaultfd)//                         continue;//                     else//                         break;//                 }//                 if (pos == fd_num_max)//                 {//                     lg(Warning, "server is full,close %d now", sock);//                     close(sock);//                 }//                 else//                 {//                     fd_array[pos] = sock;//                     //TODO//                 }//             }//             else//如果不是listensock,那么就是读事件就绪的文件描述符//             {//                 char buffer[1024];//                 ssize_t n=read(fd,buffer,sizeof buffer-1);//?bug//                 if(n>0)//                 {//                     buffer[n]=0;//                     std::cout<<"get a message: "<<buffer<<std::endl;//                 }//                 else if(n==0)//                 {//                     lg(Info,"clinet quit,close fd is: ",fd);//                     close(fd);//                     fd_array[i]=defaultfd;//                 }//             }//         }//     }// }void Accepter(){// 我们的连接事件就绪了std::string clientip;uint16_t clientport = 0;int sock = _listensock.Accept(&clientip, &clientport); // 会不会阻塞在这里？不会if (sock < 0) return;lg(Info, "accept success, %s: %d, sock fd: %d", clientip.c_str(), clientport, sock);// sock -> fd_array[]int pos = 1;for (; pos < fd_num_max; pos++) // 第二个循环{if (fd_array[pos] != defaultfd)continue;elsebreak;}if (pos == fd_num_max){lg(Warning, "server is full, close %d now!", sock);close(sock);}else{fd_array[pos] = sock;//PrintFd();// TODO}}void Recver(int fd, int pos){// demochar buffer[1024];ssize_t n = read(fd, buffer, sizeof(buffer) - 1); // bug?if (n > 0){buffer[n] = 0;std::cout << "get a messge: " << buffer << std::endl;}else if (n == 0){lg(Info, "client quit, me too, close fd is : %d", fd);close(fd);fd_array[pos] = defaultfd; // 这里本质是从select中移除}else{lg(Warning, "recv error: fd is : %d", fd);close(fd);fd_array[pos] = defaultfd; // 这里本质是从select中移除}}void Dispatcher(fd_set &rfds){for (int i = 0; i < fd_num_max; i++) // 这是第三个循环{int fd = fd_array[i];if (fd == defaultfd)continue;if (FD_ISSET(fd, &rfds)){if (fd == _listensock.Fd()){Accepter(); // 连接管理器}else // non listenfd{Recver(fd, i);}}}}void Start(){int listensock=_listensock.Fd();fd_array[0]=listensock;while(true){fd_set rfds;FD_ZERO(&rfds);int maxfd=fd_array[0];for(int i=0;i<fd_num_max;i++){if(fd_array[i]==defaultfd)continue;FD_SET(fd_array[i],&rfds);if(maxfd<fd_array[i]){maxfd=fd_array[i];lg(Info,"max fd update,maxfd is:%d",maxfd);}}//sleep(1);struct timeval timeout={0,0};//如果事件就绪，上层不处理，select会一直通知//select告诉你就绪，接下来的一次读取，不会被阻塞int n=select(maxfd+1,&rfds,nullptr,nullptr,nullptr);switch(n){case 0://std::cout<<"time out,timeout: "<<timeout.tv_sec<<std::endl;break;case -1:std::cerr<<"select error"<<std::endl;break;default://有事件就绪了std::cout<<"get a new link"<<std::endl;Dispatcher(rfds);break;}}}~SelectServer(){_listensock.Close();}
private:Socket _listensock;uint16_t _port;int fd_array[fd_num_max];
};

缺点

fd有上限，输入输出型参数比较多，数据拷贝频率比较高，每次都要重置fd_set（不能重用）,管理第三方数组的fd需要用户层多次遍历较繁杂，用户态到内核态数据拷贝的开销

poll

函数

int poll(struct pollfd *fds, nfds_t nfds, int timeout);

fds：一个poll函数监视的结构列表，每一个元素包含三部分内容：文件描述符、监视的事件集合、就绪的事件集合。
nfds：表示fds数组的长度。
timeout：表示poll函数的超时时间，单位是毫秒（ms）。

struct pollfd

struct pollfd{int fd;short events;short revents;};

fd：特定的文件描述符，若设置为负值则忽略events字段并且revents字段返回0。
events：需要监视该文件描述符上的哪些事件。(&连接）
revents：poll函数返回时告知用户该文件描述符上的哪些事件已经就绪。

简易实现

pollfd pollfds[5];Socket lissock;lissock.Sock();lissock.Bind(8080);lissock.Listen();for(int i=0;i<5;i++){std::string clientip;uint16_t clientport;pollfds[i].fd=lissock.Accept(&clientip,&clientport);pollfds[i].events=POLLIN;}sleep(1);while(true){poll(pollfds,5,3000);for(int i=0;i<5;i++){if(pollfds[i].revents&POLLIN){char buffer[1024];read(pollfds[i].fd,buffer,sizeof buffer-1);pollfds[i].revents=0;}}}

epoll

底层原理

epoll_create先在文件系统中创建epoll的struct file，并分配epfd给用户，同时在内核中创建RBTree用来存储以后epoll_ctr传来的socket，监听并维护这些fd,此外还要建立一个list用于存储就绪事件。
当epoll_wait调用时，仅仅观察这个list链表里有没有数据即可。有数据就返回，没有数据就sleep，等到timeout时间到后即使链表没数据也返回。所以，epoll_wait非常高效。
list链表的维护：当我们执行epoll_ctl时，除了把socket放到epoll文件系统里file对象epoll_event维护的红黑树上之外，还会给内核中断处理程序注册一个回调函数，告诉内核，如果这个句柄的中断到了，就把它放到准备就绪list链表里。所以，当一个socket上有数据到了，内核在把网卡上的数据copy到内核中后就来把socket插入到就绪链表里了。
epoll相比于select并不是在所有情况下都要高效，例如在如果有少于1024个文件描述符监听，且大多数socket都是出于活跃繁忙的状态，这种情况下，select要比epoll更为高效，因为epoll会有更多次的系统调用，用户态和内核态会有更加频繁的切换。

优势

1.检测就绪O(1),获取就绪O(n)
2.fd,event没有上限
3.wait返回值n，表示有几个fd就绪了，且就绪事件是连续的，拷贝到events数组头部n个位置。

LT和ET

Level Trigger

只要底层数据就绪就会一直通知用户
由于在LT工作模式下，只要底层有事件就绪就会一直通知用户，因此当epoll检测到底层读事件就绪时，可以不立即进行处理，或者只处理一部分，因为只要底层数据没有处理完，下一次epoll还会通知用户事件就绪。
select和poll其实就是工作是LT模式下的。
支持阻塞读写和非阻塞读写。

Edge Trigger

只有底层就绪事件数量由无到有或由有到多发生变化的时候，epoll才会通知用户.
由于在ET工作模式下，只有底层就绪事件无到有或由有到多发生变化的时候才会通知用户，因此当epoll检测到底层读事件就绪时，必须立即进行处理，而且必须全部处理完毕，因为有可能此后底层再也没有事件就绪，那么epoll就再也不会通知用户进行事件处理，此时没有处理完的数据就相当于丢失了。
ET工作模式下epoll通知用户的次数一般比LT少，因此ET的性能一般比LT性能更高，Nginx就是默认采用ET模式使用epoll的。
只支持非阻塞的读写，当底层读事件就绪时，循环调用recv函数进行读取，直到某次调用recv读取时，实际读取到的字节数小于期望读取的字节数，则说明本次底层数据已经读取完毕了.
但有可能最后一次调用recv读取时，刚好实际读取的字节数和期望读取的字节数相等，但此时底层数据也恰好读取完毕了，如果我们再调用recv函数进行读取，那么recv就会因为底层没有数据而被阻塞住。
而这里的阻塞是非常严重的，就比如我们这里写的服务器都是单进程的服务器，如果recv被阻塞住，并且此后该数据再也不就绪，那么就相当于我们的服务器挂掉了，因此在ET工作模式下循环调用recv函数进行读取时，必须将对应的文件描述符设置为非阻塞状态。

设置文件描述符为非阻塞

#include<unistd.h>
#include<fcntl.h>
#include<cstdlib>
void SetNonBlock(int sock)
{int flag=fcntl(sock,F_GETFL);if(flag<0)exit(1);fcntl(sock,F_SETFL,flag|O_NONBLOCK); 
}