首页 › UC › 高并发的epoll+线程池，业务在线程池内

高并发的epoll+线程池，业务在线程池内

第七根弦 2015 年 1 月 14 日 UC, 线程间通信 发表评论 (0)

epoll是linux下高并发服务器的完美方案，因为是基于事件触发的，所以比select快的不只是一个数量级。
单线程epoll，触发量可达到15000，但是加上业务后，因为大多数业务都与数据库打交道，所以就会存在阻塞的情况，这个时候就必须用多线程来提速。
业务在线程池内，这里要加锁才行。测试结果2300个/s

测试工具：stressmark
因为加了适用与ab的代码，所以也可以适用ab进行压力测试。
char buf[1000] = {0};
sprintf(buf,”HTTP/1.0 200 OK\r\nContent-type: text/plain\r\n\r\n%s”,”Hello world!\n”);
send(socketfd,buf, strlen(buf),0);

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
#include <iostream>
#include <sys/socket.h>
#include <sys/epoll.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <fcntl.h>
#include <unistd.h>
#include <stdio.h>
#include <pthread.h>
 
#include <errno.h>
 
#define MAXLINE 10
#define OPEN_MAX 100
#define LISTENQ 20
#define SERV_PORT 8006
#define INFTIM 1000
 
//线程池任务队列结构体
 
struct task{
int fd; //需要读写的文件描述符
 
struct task *next; //下一个任务
 
};
 
//用于读写两个的两个方面传递参数
 
struct user_data{
int fd;
unsigned int n_size;
char line[MAXLINE];
};
 
//线程的任务函数
 
void * readtask(void *args);
void * writetask(void *args);
 
 
//声明epoll_event结构体的变量,ev用于注册事件,数组用于回传要处理的事件
 
struct epoll_event ev, events[20];
int epfd;
pthread_mutex_t mutex;
pthread_cond_t cond1;
struct task *readhead = NULL, *readtail = NULL, *writehead = NULL;
 
void setnonblocking(int sock)
{
int opts;
opts = fcntl(sock, F_GETFL);
if (opts < 0)
{
perror("fcntl(sock,GETFL)");
exit(1);
}
opts = opts | O_NONBLOCK;
if (fcntl(sock, F_SETFL, opts) < 0)
{
perror("fcntl(sock,SETFL,opts)");
exit(1);
}
}
 
int main()
{
int i, maxi, listenfd, connfd, sockfd, nfds;
pthread_t tid1, tid2;
 
struct task *new_task = NULL;
struct user_data *rdata = NULL;
socklen_t clilen;
 
pthread_mutex_init(&mutex, NULL);
pthread_cond_init(&cond1, NULL);
//初始化用于读线程池的线程
 
pthread_create(&tid1, NULL, readtask, NULL);
pthread_create(&tid2, NULL, readtask, NULL);
 
//生成用于处理accept的epoll专用的文件描述符
 
epfd = epoll_create(256);
 
struct sockaddr_in clientaddr;
struct sockaddr_in serveraddr;
listenfd = socket(AF_INET, SOCK_STREAM, 0);
//把socket设置为非阻塞方式
 
setnonblocking(listenfd);
//设置与要处理的事件相关的文件描述符
 
ev.data.fd = listenfd;
//设置要处理的事件类型
 
ev.events = EPOLLIN | EPOLLET;
//注册epoll事件
 
epoll_ctl(epfd, EPOLL_CTL_ADD, listenfd, &ev);
 
bzero(&serveraddr, sizeof(serveraddr));
serveraddr.sin_family = AF_INET;
serveraddr.sin_port = htons(SERV_PORT);
serveraddr.sin_addr.s_addr = INADDR_ANY;
bind(listenfd, (sockaddr *)&serveraddr, sizeof(serveraddr));
listen(listenfd, LISTENQ);
 
maxi = 0;
for (;;) {
//等待epoll事件的发生
 
nfds = epoll_wait(epfd, events, 20, 500);
//处理所发生的所有事件
 
for (i = 0; i < nfds; ++i)
{
if (events[i].data.fd == listenfd)
{
 
connfd = accept(listenfd, (sockaddr *)&clientaddr, &clilen);
if (connfd < 0){
perror("connfd<0");
exit(1);
}
setnonblocking(connfd);
 
char *str = inet_ntoa(clientaddr.sin_addr);
//std::cout<<"connec_ from >>"<
//设置用于读操作的文件描述符
 
ev.data.fd = connfd;
//设置用于注测的读操作事件
 
ev.events = EPOLLIN | EPOLLET;
//注册ev
 
epoll_ctl(epfd, EPOLL_CTL_ADD, connfd, &ev);
}
else if (events[i].events&EPOLLIN)
{
//printf("reading!/n");
 
if ((sockfd = events[i].data.fd) < 0) continue;
new_task = new task();
new_task->fd = sockfd;
new_task->next = NULL;
//添加新的读任务
 
pthread_mutex_lock(&mutex);
if (readhead == NULL)
{
readhead = new_task;
readtail = new_task;
}
else
{
readtail->next = new_task;
readtail = new_task;
}
//唤醒所有等待cond1条件的线程
 
pthread_cond_broadcast(&cond1);
pthread_mutex_unlock(&mutex);
}
else if (events[i].events&EPOLLOUT)
{
/*
rdata=(struct user_data *)events[i].data.ptr;
sockfd = rdata->fd;
write(sockfd, rdata->line, rdata->n_size);
delete rdata;
//设置用于读操作的文件描述符
ev.data.fd=sockfd;
//设置用于注测的读操作事件
ev.events=EPOLLIN|EPOLLET;
//修改sockfd上要处理的事件为EPOLIN
epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);
*/
}
 
}
 
}
}
 
static int count111 = 0;
static time_t oldtime = 0, nowtime = 0;
void * readtask(void *args)
{
 
int fd = -1;
unsigned int n;
//用于把读出来的数据传递出去
 
struct user_data *data = NULL;
while (1){
 
pthread_mutex_lock(&mutex);
//等待到任务队列不为空
 
while (readhead == NULL)
pthread_cond_wait(&cond1, &mutex);
 
fd = readhead->fd;
//从任务队列取出一个读任务
 
struct task *tmp = readhead;
readhead = readhead->next;
delete tmp;
pthread_mutex_unlock(&mutex);
data = new user_data();
data->fd = fd;
 
 
char recvBuf[1024] = { 0 };
int ret = 999;
int rs = 1;
 
while (rs)
{
ret = recv(fd, recvBuf, 1024, 0);// 接受客户端消息
 
if (ret < 0)
{
//由于是非阻塞的模式,所以当errno为EAGAIN时,表示当前缓冲区已无数据可//读在这里就当作是该次事件已处理过。
 
if (errno == EAGAIN)
{
printf("EAGAIN\n");
break;
}
else{
printf("recv error!\n");
 
close(fd);
break;
}
}
else if (ret == 0)
{
// 这里表示对端的socket已正常关闭.
 
rs = 0;
}
if (ret == sizeof(recvBuf))
rs = 1; // 需要再次读取
 
else
rs = 0;
}
if (ret > 0){
 
//-------------------------------------------------------------------------------
 
 
data->n_size = n;
 
 
count111++;
 
struct tm *today;
time_t ltime;
time(&nowtime);
 
if (nowtime != oldtime){
printf("%d\n", count111);
oldtime = nowtime;
count111 = 0;
}
 
char buf[1000] = { 0 };
sprintf(buf, "HTTP/1.0 200 OK\r\nContent-type: text/plain\r\n\r\n%s", "Hello world!\n");
send(fd, buf, strlen(buf), 0);
close(fd);
 
 
}
}
}

, |

发表评论