诺禾- tcp 网络效劳框架

一个工业级、跨平台、轻量级的 tcp 网络效劳框架:gevent
作为公司的公共产品,经常有这样的需求:就是新建一个本地效劳,产品线作为客户端经过 tcp 接入本地效劳,来获取想要的业务才干。

与印象中动辄处置成千上万衔接的 tcp 网络效劳不同,这个本地效劳是跑在客户机器上的,Win32 上作为开机自启动的 windows 效劳运转;

Linux 上作为 daemon 在后台运转。总的说来就是用于接纳几个产品进程的衔接,因此轻量化是其最重要的恳求,在这个基础上要能统筹跨平台就可以了。

其实主要就是 windows,再统筹一点儿 linux。

调查了几个现有的开源网络框架,从 ACE 、boost::asio 到 libevent,都有不尽于人意的中央:

a) ACE:太重,只是想要一个网络框架,结果它扒拉扒拉一堆全提供了,不用还不行;

b) boost::asio:太复杂,牵扯到 boost 库,并且引入了一堆 c++ 模板,需求高版本 c++ 编译器支持;

c) libevent:这个看着不错,当时确实用这个做底层封装了一版,结果发版后发现一个比较致命的问题,招致在防火墙设置比较严厉的机器上初始化失败,这个后面我会细致提到。

其它的就更不用说了,之前也粗略看过陈硕的 muddo,总的觉得吧,它是基于其它开源框架缺乏中央改进的一个库,有相当可取的中央,但是这个改进的方向也主要是处置更大并发、更多衔接,不是我的痛点,所以没有继续深化研讨。

好了,与其在不同开源框架之间纠结,不如自己动手写一个。

反正我的场景比较固定,不用像它们那样面面俱,我给自己罗列了一些这个框架需求支持基本的功用:

1)同步写、异步读;

2)可同时监听多路事情,基于 1)这里只针对异步 READ 事情(包含衔接进入、衔接断开),写数据是同步的,因而不需求处置异步 WRITE 事情;

3)要有设置一次性和周期性定时器的才干 (业务决议的);

4)不需求处置信号 (windows 上也没信号这一说,linux 自己搞搞 sigaction 就好啦);

……

固然这个框架未来只会运转在用户的单机上,但是我不希望它一出生就带有性能缺陷,所以性能平平的 select 没能进入我的法眼,我决议给它装上最强大的心脏:

Windows 平台: iocp

Linux 平台:epoll

ok,从需求到底层技术道路,貌似都讲清楚了,依照 libevent 我给它取名为 gevent,下面我们从代码级别看下这个框架是怎样简化 tcp 效劳搭建这类工作的。

首先看一下这个 tcp 效劳框架的 sample:

svc_handler.h

复制代码
1 #include “EventBase.h”
2 #include “EventHandler.h”
3
4 class GMyEventBase : public GEventBase
5 {
6 public:
7 GEventHandler* create_handler ();
8 };
9
10
11 class svc_handler : public GJsonEventHandler
12 {
13 public:
14 virtual ~svc_handler () {}
15 virtual void on_read_msg (Json::Value const& val);
16 };
复制代码
epoll_svc.cpp

复制代码
1 #include <stdio.h>
2 #include “svc_handler.h”
3 #include <signal.h>
4
5 GMyEventBase g_base;
6 GEventHandler* GMyEventBase::create_handler ()
7 {
8 return new svc_handler;
9 }
10
11 void sig_int (int signo)
12 {
13 printf ("%d caught\n", signo);
14 g_base.exit (1);
15 printf (“exit ok\n”);
16 }
17
18 int main (int argc, char *argv[])
19 {
20 if (argc < 2)
21 {
22 printf (“usage: epoll_svc port\n”);
23 return -1;
24 }
25
26 unsigned short port = atoi (argv[1]);
27
28 #ifndef WIN32
29 struct sigaction act;
30 act.sa_handler = sig_int;
31 sigemptyset(&act.sa_mask);
32 act.sa_flags = SA_RESTART;
33 if (sigaction (SIGINT, &act, NULL) < 0)
34 {
35 printf (“install SIGINT failed, errno %d\n”, errno);
36 return -1;
37 }
38 else
39 printf (“install SIGINT ok\n”);
40 #endif
41
42 // to test small message block
43 if (g_base.init (/8, 10/) < 0)
44 return -1;
45
46 printf (“init ok\n”);
47 do
48 {
49 if (!g_base.listen (port))
50 {
51 g_base.exit (0);
52 printf (“exit ok\n”);
53 break;
54 }
55
56 printf (“listen ok\n”);
57 g_base.run ();
58 printf (“run over\n”);
59 } while (0);
60
61 g_base.fini ();
62 printf (“fini ok\n”);
63
64 g_base.cleanup ();
65 printf (“cleanup ok\n”);
66 return 0;
67 }
复制代码

这个效劳的中心是 GMyEventBase 类,它运用了框架中的 GEventBase 类,从后者派生而来,

只改写了一个 create_handler 接口来提供我们的事情处置对象 svc_handler,它是从框架中的 GEventHandler 派生而来,

svc_handler 只改写了一个 on_read_msg 来处置 Json 格式的消息输入。

程序的运转就是分别调用 GMyEventBase(理论上是GEventBase) 的 init / listen / run / fini / cleaup 方法。

而与业务相关的代码,都在 svc_handler 中处置:

svc_handler.cpp

复制代码
1 #include “svc_handler.h”
2
3 void svc_handler::on_read_msg (Json::Value const& val)
4 {
5 int key = val[“key”].asInt ();
6 std::string data = val[“data”].asString ();
7 printf (“got %d:%s\n”, key, data.c_str ());
8
9 Json::Value root;
10 Json::FastWriter writer;
11 root[“key”] = key + 1;
12 root[“data”] = data;
13
14 int ret = 0;
15 std::string resp = writer.write(root);
16 resp = resp.substr (0, resp.length () - 1); // trim tailing \n
17 if ((ret = send (resp)) <= 0)
18 printf (“send response failed, errno %d\n”, errno);
19 else
20 printf (“response %d\n”, ret);
21 }
复制代码

它等候 Json 格式的数据,并且有两个字段 key(int) 与 data (string),接纳数据后将 key 增 1 后返回给客户端。

再来看下客户端 sample:

clt_handler.h

复制代码
1 #include “EventBaseAR.h”
2 #include “EventHandler.h”
3
4 class GMyEventBase : public GEventBaseWithAutoReconnect
5 {
6 public:
7 GEventHandler* create_handler ();
8 };
9
10
11 class clt_handler : public GJsonEventHandler
12 {
13 public:
14 virtual ~clt_handler () {}
15 #ifdef TEST_TIMER
16 virtual bool on_timeout (GEV_PER_TIMER_DATA *gptd);
17 #endif
18 virtual void on_read_msg (Json::Value const& val);
19 };
复制代码

epoll_clt.cpp

复制代码
1 #include <stdio.h>
2 #include “clt_handler.h”
3 #include <signal.h>
4
5 //#define TEST_READ
6 //#define TEST_CONN
7 //#define TEST_TIMER
8
9 GMyEventBase g_base;
10 GEventHandler* GMyEventBase::create_handler ()
11 {
12 return new clt_handler;
13 }
14
15
16 int sig_caught = 0;
17 void sig_int (int signo)
18 {
19 sig_caught = 1;
20 printf ("%d caught\n", signo);
21 g_base.exit (0);
22 printf (“exit ok\n”);
23 }
24
25 void do_read (GEventHandler *eh, int total)
26 {
27 char buf[1024] = { 0 };
28 int ret = 0, n = 0, key = 0, err = 0;
29 char *ptr = nullptr;
30 while ((total == 0 || n++ < total) && fgets (buf, sizeof(buf), stdin) != NULL)
31 {
32 // skip \n
33 buf[strlen(buf) - 1] = 0;
34 //n = sscanf (buf, “%d”, &key);
35 key = strtol (buf, &ptr, 10);
36 if (ptr == nullptr)
37 {
38 printf (“format: int string\n”);
39 continue;
40 }
41
42 Json::Value root;
43 Json::FastWriter writer;
44 root[“key”] = key;
45 // skip space internal
46 root[“data”] = *ptr == ’ ’ ? ptr + 1 : ptr;
47
48 std::string req = writer.write (root);
49 req = req.substr (0, req.length () - 1); // trim tailing \n
50 if ((ret = eh->send (req)) <= 0)
51 {
52 err = 1;
53 printf (“send %d failed, errno %d\n”, req.length (), errno);
54 break;
55 }
56 else
57 printf (“send %d\n”, ret);
58 }
59
60 if (total == 0)
61 printf (“reach end\n”);
62
63 if (!err)
64 {
65 eh->disconnect ();
66 printf (“call disconnect to notify server\n”);
67 }
68
69 // wait receiving thread
70 //sleep (3);
71 // if use press Ctrl+D, need to notify peer our break
72 }
73
74 #ifdef TEST_TIMER
75 void test_timer (unsigned short port, int period_msec, int times)
76 {
77 int n = 0;
78 GEventHandler eh = nullptr;
79
80 do
81 {
82 eh = g_base.connect (port);
83 if (eh == nullptr)
84 break;
85
86 printf (“connect ok\n”);
87 void
t = g_base.timeout (1000, period_msec, eh, NULL);
88 if (t == NULL)
89 {
90 printf (“timeout failed\n”);
91 break;
92 }
93 else
94 printf (“set timer %p ok\n”, t);
95
96 // to wait timer
97 do
98 {
99 sleep (400);
100 printf (“wake up from sleep\n”);
101 } while (!sig_caught && n++ < times);
102
103 g_base.cancel_timer (t);
104 } while (0);
105 }
106 #endif
107
108 #ifdef TEST_CONN
109 void test_conn (unsigned short port, int per_read, int times)
110 {
111 # ifdef WIN32
112 srand (GetCurrentProcessId());
113 # else
114 srand (getpid ());
115 # endif
116 int n = 0, elapse = 0;
117 clt_handler *eh = nullptr;
118
119 do
120 {
121 eh = (clt_handler *)g_base.connect (port);
122 if (eh == nullptr)
123 break;
124
125 printf (“connect ok\n”);
126
127 do_read (eh, per_read);
128 # ifdef WIN32
129 elapse = rand() % 1000;
130 Sleep(elapse);
131 printf (“running %d ms\n”, elapse);
132 # else
133 elapse = rand () % 1000000;
134 usleep (elapse);
135 printf (“running %.3f ms\n”, elapse/1000.0);
136 # endif
137
138 } while (!sig_caught && n++ < times);
139 }
140 #endif
141
142 #ifdef TEST_READ
143 void test_read (unsigned short port, int total)
144 {
145 int n = 0;
146 GEventHandler *eh = nullptr;
147
148 do
149 {
150 eh = g_base.connect (port);
151 if (eh == nullptr)
152 break;
153
154 printf (“connect ok\n”);
155 do_read (eh, total);
156 } while (0);
157 }
158 #endif
159
160 int main (int argc, char *argv[])
161 {
162 if (argc < 2)
163 {
164 printf (“usage: epoll_clt port\n”);
165 return -1;
166 }
167
168 unsigned short port = atoi (argv[1]);
169
170 #ifndef WIN32
171 struct sigaction act;
172 act.sa_handler = sig_int;
173 sigemptyset(&act.sa_mask);
174 // to ensure read be breaked by SIGINT
175 act.sa_flags = 0; //SA_RESTART;
176 if (sigaction (SIGINT, &act, NULL) < 0)
177 {
178 printf (“install SIGINT failed, errno %d\n”, errno);
179 return -1;
180 }
181 #endif
182
183 if (g_base.init (2) < 0)
184 return -1;
185
186 printf (“init ok\n”);
187
188 #if defined(TEST_READ)
189 test_read (port, 0); // 0 means infinite loop until user break
190 #elif defined(TEST_CONN)
191 test_conn (port, 10, 100);
192 #elif defined (TEST_TIMER)
193 test_timer (port, 10, 1000);
194 #else
195 # error please define TEST_XXX macro to do something!
196 #endif
197
198 if (!sig_caught)
199 {
200 // Ctrl + D ?
201 g_base.exit (0);
202 printf (“exit ok\n”);
203 }
204 else
205 printf (“has caught Ctrl+C\n”);
206
207 g_base.fini ();
208 printf (“fini ok\n”);
209
210 g_base.cleanup ();
211 printf (“cleanup ok\n”);
212 return 0;
213 }
复制代码

客户端同样运用了 GEventBase 的派生类 GMyEventBase 来作为事情循环的中心,所不同的是(留意并非之前例子里的那个类,固然同名),它提供了 clt_handler 来处置自己的业务代码。

另外为了提供衔接中缀后自意向效劳重连的功用,这里 GMyEventBase 派生自 GEventBase 类的子类 GEventBaseWithAutoReconnect (位于 EventBaseAR.h/cpp 中)。

程序的运转是分别调用 GEventBase 的 init / connect / fini / cleaup 方法以及 GEventHandler 的 send / disconnect 来测试读写与衔接。

定义宏 TEST_READ 用来测试读写;定义宏 TEST_CONN 可以测试衔接的通断及读写;定义宏 TEST_TIMER 来测试周期性定时器及读写。它们是互斥的。

clt_handler 主要用来异步接纳效劳端的回送数据并打印:

clt_handler.cpp

复制代码
1 #include “clt_handler.h”
2
3 #ifdef TEST_TIMER
4 extern void do_read (clt_handler *, int);
5 bool clt_handler::on_timeout (GEV_PER_TIMER_DATA *gptd)
6 {
7 printf (“time out ! id %p, due %d, period %d\n”, gptd, gptd->due_msec, gptd->period_msec);
8 do_read ((clt_handler *)gptd->user_arg, 1);
9 return true;
10 }
11 #endif
12
13 void clt_handler::on_read_msg (Json::Value const& val)
14 {
15 int key = val[“key”].asInt ();
16 std::string data = val[“data”].asString ();
17 printf (“got %d:%s\n”, key, data.c_str ());
18 }
复制代码

这个测试程序可以经过在控制台手工输入数据来驱动,也可以经过测试数据文件来驱动,下面的 awk 脚本用来制造契合格式的测试数据:

epoll_gen.awk

复制代码
1 #! /bin/awk -f
2 BEGIN {
3 WORDNUM = 1000
4 for (i = 1; i <= WORDNUM; i++) {
5 printf("%d %s\n", randint(WORDNUM), randword(20))
6 }
7 }
8
9 # randint(n): return a random integer number which is >= 1 and <= n
10 function randint(n) {
11 return int(n *rand()) + 1
12 }
13
14 # randlet(): return a random letter, which maybe upper, lower or number.
15 function randlet() {
16 return substr(“abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789”, randint(62), 1)
17 }
18
19 # randword(LEN): return a rand word with a length of LEN
20 function randword(LEN) {
21 randw=""
22 for( j = 1; j <= LEN; j++) {
23 randw=randw randlet()
24 }
25 return randw
26 }
复制代码

生成的测试文件格式如下:

238 s0jKlYkEjwE4q3nNJugF
568 0cgNaSgDpP3VS45x3Wum
996 kRF6SgmIReFmrNBcCecj
398 QHQqCrB5fC61hao1BV2x
945 XZ6KLtA4jZTEnhcAugAM
619 WE95NU7FnsYar4wz279j
549 oVCTmD516yvmtuJB2NG3
840 NDAaL5vpzp8DQX0rLRiV
378 jONIm64AN6UVc7uTLIIR
251 EqSBOhc40pKXhCbCu8Ey

整个工程编译的话就是一个 CMakeLists 文件,可以经过 cmake 生成对应的 Makefile 或 VS solution 来编译代码:

CMakeLists.txt

复制代码
1 cmake_minimum_required(VERSION 3.0)
2 project(epoll_svc)
3 include_directories(…/core …/include)
4 set(CMAKE_CXX_FLAGS "-std=c++11 -pthread -g -Wall CMAKECXXFLAGS")5linkdirectories({CMAKE_CXX_FLAGS}") 5 link_directories({PROJECT_SOURCE_DIR}/…/lib)
6 set(EXECUTABLE_OUTPUT_PATH ${PROJECT_SOURCE_DIR}/…/bin)
7
8 add_executable (epoll_svc epoll_svc.cpp svc_handler.cpp …/core/EventBase.cpp …/core/EventHandler.cpp …/core/log.cpp)
9 IF (WIN32)
10 target_link_libraries(epoll_svc jsoncpp ws2_32)
11 ELSE ()
12 target_link_libraries(epoll_svc jsoncpp rt)
13 ENDIF ()
14
15 add_executable (epoll_clt epoll_clt.cpp clt_handler.cpp …/core/EventBase.cpp …/core/EventBaseAR.cpp …/core/EventHandler.cpp …/core/log.cpp)
16 target_compile_definitions(epoll_clt PUBLIC -D TEST_READ)
17 IF (WIN32)
18 target_link_libraries(epoll_clt jsoncpp ws2_32)
19 ELSE ()
20 target_link_libraries(epoll_clt jsoncpp rt)
21 ENDIF ()
22
23 add_executable (epoll_local epoll_local.cpp)
24 IF (WIN32)
25 target_link_libraries(epoll_local jsoncpp ws2_32)
26 ELSE ()
27 target_link_libraries(epoll_local jsoncpp rt)
28 ENDIF ()
复制代码

这个项目包含三个编译目的,分别是 epoll_svc 、epoll_clt 与 epoll_local,其中前两个可以跨平台编译,后一个只能在 Linux 平台编译,用来考证 epoll 的一些特性。

编译完成后,首先运转效劳端:

./epoll_svc 1025
然后运转客户端:

./epoll_clt 1025 < demo
测试多个客户端同时衔接,可以运用下面的脚本:

epoll_start.sh

复制代码
1 #! /bin/bash
2 # /bin/sh -> /bin/dash, do not recognize our for loop
3
4 for((i=0;i<10;i=i+1))
5 do
6 ./epoll_clt 1025 < demo &
7 echo “start $i”
8 done
复制代码

可以同时启动 10 个客户端。

经过 Ctrl+C 退出效劳端;经过 Ctrl+C 或 Ctrl+D 退出单个客户端;

经过下面的脚本来中止多个客户端与效劳端:

epoll_stop.sh

1 #! /bin/sh
2 pkill -INT epoll_clt
3 sleep 1
4 pkill -INT epoll_svc

框架的用法引见完之后,再简单旅游一下这个库的各层级对外接口。

EventBase.h

复制代码
1 #pragma once
2
3
4 #include “EventHandler.h”
5 #include
6 #include
7 #include
8 #include <condition_variable>
9 #include “thread_group.hpp”
10
11 #define GEV_MAX_BUF_SIZE 65536
12
13 class GEventBase : public IEventBase
14 {
15 public:
16 GEventBase();
17 ~GEventBase();
18
19 #ifdef WIN32
20 virtual HANDLE iocp () const;
21 #else
22 virtual int epfd () const;
23 #endif
24 virtual bool post_timer(GEV_PER_TIMER_DATA gptd);
25 virtual GEventHandler
create_handler() = 0;
26
27 // thr_num :
28 // =0 - no default thread pool, user provide thread and call run
29 // <0 - use max(|thr_num|, processer_num)
30 // >0 - use thr_num
31 bool init(int thr_num = -8, int blksize = GEV_MAX_BUF_SIZE
32 #ifndef WIN32
33 , int timer_sig = SIGUSR1
34 #endif
35 );
36
37 bool listen(unsigned short port, unsigned short backup = 10);
38 GEventHandler* connect(unsigned short port, GEventHandler* exist_handler = NULL);
39 // PARAM
40 // due_msec: first timeout milliseconds
41 // period_msec: later periodically milliseconds
42 // arg: user provied argument
43 // exist_handler: reuse the timer handler
44 //
45 // RETURN
46 // NULL: failed
47 void* timeout(int due_msec, int period_msec, void *arg, GEventHandler exist_handler);
48 bool cancel_timer(void
tid);
49 void fini();
50 void run();
51 void exit(int extra_notify = 0);
52 void cleanup();
53
54 protected:
55 #ifdef WIN32
56 bool do_accept(GEV_PER_IO_DATA *gpid);
57 bool do_recv(GEV_PER_HANDLE_DATA *gphd, GEV_PER_IO_DATA gpid);
58 void do_error(GEV_PER_HANDLE_DATA gphd);
59
60 int init_socket();
61 bool issue_accept();
62 bool issue_read(GEV_PER_HANDLE_DATA gphd);
63 bool post_completion(DWORD bytes, ULONG_PTR key, LPOVERLAPPED ol);
64
65 #else
66 bool do_accept(int fd);
67 bool do_recv(conn_key_t key);
68 void do_error(conn_key_t key);
69
70 bool init_pipe();
71 void close_pipe();
72 bool post_notify (char ch, void
ptr = nullptr);
73 void promote_leader (std::unique_lockstd::mutex &guard);
74
75 GEventHandler
find_by_key (conn_key_t key, bool erase);
76 GEventHandler
find_by_fd (int fd, conn_key_t &key, bool erase);
77
78 # ifdef HAS_SIGTHR
79 void sig_proc ();
80 # endif
81 #endif
82
83 bool do_timeout(GEV_PER_TIMER_DATA *gptd);
84
85 virtual bool on_accept(GEV_PER_HANDLE_DATA *gphd);
86 virtual bool on_read(GEventHandler *h, GEV_PER_IO_DATA *gpid);
87 virtual void on_error(GEventHandler h);
88 virtual bool on_timeout (GEV_PER_TIMER_DATA gptd);
89
90
91 protected:
92 volatile bool m_running = false;
93 int m_thrnum = 0;
94 int m_blksize = GEV_MAX_BUF_SIZE;
95 std::thread_group m_grp;
96 SOCKET m_listener = INVALID_SOCKET;
97
98 std::mutex m_mutex; // protect m_map
99 std::mutex m_tlock; // protect m_tmap
100 // timer_t may conflict when new timer created after old timer closed
101 //std::map <timer_t, GEventHandler > m_tmap;
102 std::map <GEV_PER_TIMER_DATA
, GEventHandler > m_tmap;
103
104 #ifdef WIN32
105 LPFN_ACCEPTEX m_acceptex = nullptr;
106 LPFN_GETACCEPTEXSOCKADDRS m_getacceptexsockaddrs = nullptr;
107 HANDLE m_iocp = NULL;
108 HANDLE m_timerque = NULL;
109
110 std::map<GEV_PER_HANDLE_DATA
, GEventHandler
> m_map;
111 #else
112 int m_ep = -1;
113 int m_pp[2];
114 int m_tsig = 0; // signal number for timer
115
116 std::mutex m_lock; // protect epoll
117 pthread_t m_leader = -1;
118 std::map<conn_key_t, GEventHandler
> m_map;
119 # ifdef HAS_SIGTHR
120 // special thread only cares about signal
121 std::thread *m_sigthr = nullptr;
122 # endif
123 #endif
124 };
复制代码

init,它在底层启动 thr_num 个线程来跑 run 方法;每次 IO 的块缓冲区大小由 blksize 指定;它内部还创建了对应的 iocp 或 epoll 对象,便于之后参与 socket 句柄中止处置。
exit,它通知线程池中的一切线程退出等候,windows 上是经过 PostQueuedCompletionStatus,Linux 上是经过在自建的一个 pipe 上写数据以触发 epoll 退出(这个 pipe 在 init 中创建并参与 epoll);
fini,它在一切工作线程退出后,关闭之前创建的对象,清算事情循环用到的资源;
cleanup,它清算之前树立的 fd-handler 映射,清算遗留的处置器并释放资源;
run,它是线程池运转函数,windows 上是经过 GetQueuedCompletionStatus 在 iocp 上等候;在 linux 上是经过 epoll_wait 在 epoll 上等候事情。当有事情产生后,根据事情类型,分别调用 do_accept / on_accept、do_recv / on_read、do_error / on_error 回调来分派事情;
listen,创建侦听 socket 并参与到 iocp 或 epoll 中;
connect,衔接到远程效劳并将成功衔接的 socket 参与到 iocp 或 epoll 中;
timeout,设置定时器事情,windows 上是经过 CreateTimerQueueTimer 完成定时器超时;linux 则是经过 timer_create 完成的,都是系统现成的东西,只不过在系统定时器到期后,给对应的 iocp 或 epoll 对象发送了一个通知而已,在 linux 上这个通知机制是上面提到过的 pipe 来完成的,因而有一定延迟,不能指定精度太小的定时器;
cancel_timer,取消之前设置的定时器。

然后看下 GEventHandler 提供的回调接口,应用可以从它派生并完成业务相关代码:

EventHandler.h

复制代码
1 #pragma once
2 #include “platform.h”
3
4 #ifdef WIN32
5 // must ensure <winsock2.h> precedes <widnows.h> included, to prevent winsock2.h conflict with winsock.h
6 # include <WinSock2.h>
7 # include <Windows.h>
8 # include <mswsock.h> // for LPFN_ACCEPTEX & LPFN_GETACCEPTEXSOCKADDRS later in EventBase.h
9 #else
10 # include <unistd.h> // for close
11 # include <sys/socket.h>
12 # include <sys/epoll.h>
13 # include <sys/time.h>
14 # include <netinet/in.h> // for struct sockaddr_in
15 # include <arpa/inet.h> // for inet_addr/inet_ntoa
16 # include <string.h> // for memset/memcpy
17 # include <signal.h>
18 #endif
19
20 #include
21 #include “jsoncpp/json.h”
22
23
24 class GEventHandler;
25 struct GEV_PER_TIMER_DATA;
26 class IEventBase
27 {
28 public:
29 #ifdef WIN32
30 virtual HANDLE iocp () const = 0;
31 #else
32 virtual int epfd () const = 0;
33 #endif
34
35 virtual void* timeout(int due_msec, int period_msec, void *arg, GEventHandler exist_handler) = 0;
36 virtual bool cancel_timer(void
tid) = 0;
37 virtual bool post_timer(GEV_PER_TIMER_DATA *gptd) = 0;
38 };
39
40
41 #ifdef WIN32
42 enum GEV_IOCP_OP
43 {
44 OP_TIMEOUT = 1,
45 OP_ACCEPT,
46 OP_RECV,
47 };
48 #else
49 // the purpose of this key is to distinguish different connections with same fd !
50 // (when connection break and re-established soon, fd may not change but port will change)
51 struct conn_key_t
52 {
53 int fd;
54 unsigned short lport;
55 unsigned short rport;
56
57 conn_key_t (int f, unsigned short l, unsigned short r);
58 bool operator< (struct conn_key_t const& rhs) const;
59 };
60 #endif
61
62
63 struct GEV_PER_HANDLE_DATA
64 {
65 SOCKET so;
66 SOCKADDR_IN laddr;
67 SOCKADDR_IN raddr;
68
69 #ifndef WIN32
70 conn_key_t key () const;
71 #endif
72
73 GEV_PER_HANDLE_DATA(SOCKET s, SOCKADDR_IN *l, SOCKADDR_IN *r);
74 virtual ~GEV_PER_HANDLE_DATA();
75 };
76
77 struct GEV_PER_IO_DATA
78 {
79 SOCKET so;
80 #ifdef WIN32
81 GEV_IOCP_OP op;
82 OVERLAPPED ol;
83 WSABUF wsa; // wsa.len is buffer length
84 DWORD bytes; // after compeleted, bytes trasnfered
85 #else
86 char *buf;
87 int len;
88 #endif
89
90 GEV_PER_IO_DATA(
91 #ifdef WIN32
92 GEV_IOCP_OP o,
93 #endif
94 SOCKET s, int l);
95 virtual ~GEV_PER_IO_DATA();
96 };
97
98 struct GEV_PER_TIMER_DATA
99 #ifdef WIN32
100 : public GEV_PER_IO_DATA
101 #endif
102 {
103 IEventBase *base;
104 int due_msec;
105 int period_msec;
106 void user_arg;
107 bool cancelled;
108 #ifdef WIN32
109 HANDLE timerque;
110 HANDLE timer;
111 #else
112 timer_t timer;
113 #endif
114
115 GEV_PER_TIMER_DATA(IEventBase base, int due, int period, void arg
116 #ifdef WIN32
117 , HANDLE tq);
118 #else
119 , timer_t tid);
120 #endif
121
122 virtual ~GEV_PER_TIMER_DATA();
123 void cancel ();
124 };
125
126 class GEventHandler
127 {
128 public:
129 GEventHandler();
130 virtual ~GEventHandler();
131
132 GEV_PER_HANDLE_DATA
gphd();
133 GEV_PER_TIMER_DATA
gptd();
134 bool connected();
135 void disconnect();
136 void clear();
137 SOCKET fd();
138
139 int send(char const
buf, int len);
140 int send(std::string const& str);
141
142 virtual bool reuse();
143 virtual bool auto_reconnect();
144 virtual void arg(void *param) = 0;
145 virtual void reset(GEV_PER_HANDLE_DATA *gphd, GEV_PER_TIMER_DATA *gptd, IEventBase *base);
146 virtual bool on_read(GEV_PER_IO_DATA *gpid) = 0;
147 virtual void on_error(GEV_PER_HANDLE_DATA *gphd);
148 // note when on_timeout called, handler’s base may cleared by cancel_timer, use gptd->base instead if it is not null.
149 virtual bool on_timeout(GEV_PER_TIMER_DATA *gptd) = 0;
150 virtual void cleanup(bool terminal);
151 void close(bool terminal);
152
153 protected:
154 GEV_PER_HANDLE_DATA *m_gphd = nullptr;
155 GEV_PER_TIMER_DATA *m_gptd = nullptr;
156 IEventBase *m_base = nullptr;
157 // us so instead of m_gphd,
158 // as the later one may destroyed during using…
159 SOCKET m_so;
160 };
161
162 // a common handler to process json protocol.
163 class GJsonEventHandler : public GEventHandler
164 {
165 public:
166 //virtual void on_read();
167 virtual void arg(void *param);
168 virtual void reset(GEV_PER_HANDLE_DATA *gphd, GEV_PER_TIMER_DATA *gptd, IEventBase *base);
169 virtual bool on_read(GEV_PER_IO_DATA *gpid);
170 virtual void on_read_msg(Json::Value const& root) = 0;
171 virtual bool on_timeout(GEV_PER_TIMER_DATA *gptd);
172 virtual void cleanup(bool terminal);
173
174 protected:
175 // protect m_stub to prevent multi-entry
176 #ifdef HAS_ET
177 std::mutex m_mutex;
178 #endif
179
180 std::string m_stub;
181 };
复制代码

这里主要有两个类,GEventHandler 处置通用的基于流的数据;GJsonEventHandler 处置基于 json 格式的数据。

前者需求重写 on_read 方法来处置块数据;后者需求重写 on_read_msg 方法来处置 json 数据。

目前 json 的解析是经过 jsoncpp 库完成的,这个库本身是跨平台的(本 git 库仅提供 64 位 Linux 静态链接库及 VS2013 的 32 位 Release 版本 Windows 静态库)。

svc_handler 与 clt_handler 均从 GJsonEventHandler 派生。

假设有新的流格式需求处置 ,只需求从 GEventHandler 类派生新的处置类即可。

除了读取衔接上的数据,还有其它一些重要的回调接口,列明如下:

on_read,衔接上有数据抵达;
on_error,衔接断开;
on_tmeout,定时器事情;
……
假设有新的事情需求处置 ,也可以在这里扩展。

最后看下 GEventBaseWithAutoReconnect 提供的与自动重连相关的接口:

EventBaseAR.h

复制代码
1 #pragma once
2
3
4 #include “EventBase.h”
5 #include
6
7 #define GEV_RECONNECT_TIMEOUT 2 // seconds
8 #define GEV_MAX_RECONNECT_TIMEOUT 256 // seconds
9
10 class GEventBaseWithAutoReconnect : public GEventBase
11 {
12 public:
13 GEventBaseWithAutoReconnect(int reconn_min = GEV_RECONNECT_TIMEOUT, int reconn_max = GEV_MAX_RECONNECT_TIMEOUT);
14 ~GEventBaseWithAutoReconnect();
15
16 bool do_connect(unsigned short port, void arg);
17 GEventHandler
connector();
18
19 protected:
20 virtual void on_error(GEventHandler *h);
21 virtual bool on_timeout(GEV_PER_TIMER_DATA gptd);
22
23 virtual void on_connect_break();
24 virtual bool on_connected(GEventHandler app);
25
26 protected:
27 void do_reconnect(void arg);
28
29 protected:
30 unsigned short m_port;
31 GEventHandler
m_app;
32 GEventHandler
m_htimer;
33 void
m_timer;
34 int m_reconn_min;
35 int m_reconn_max;
36 int m_reconn_curr;
37 };
复制代码

其实比较简单,只比 GEventBase 类多了一个 do_connect 方法,来扩展 connect 不能自动重连的问题。

底层的话,是经过定时器来完成指数后退重连算法的。

后记

这个框架曾经应用到我司的公共产品中,并为数个 tcp 效劳提供底层支撑,经过百万级别用户机器考证,运转稳定性还是可以的,所以当得起“工业级”这三个字。

前面在说到开源库的选型时还留了一个口子没有交待,这里一并说下。

其实最早的重构版本是运用 libevent 来完成的,但是发现它在 windows 上运用的是低效的 select,

而且为了增加、删除句柄,它又运用了一种 self-pipe-trick 的技巧,简单说来的就是下面的代码序列:

listen (listen_fd, 1);
……
connect (connect_fd, &addr, size);
……
accept_fd = accept (listen_fd, &addr, &size);

在缺乏 pipe 调用的 win32 环境制造了一个 socket 自衔接,从而中止一些通知。

这一步是必要的,假设不能成功衔接就会招致整个 libevent 初始化失败,从而运转不起来。

不巧的是,在一些 windows 机器上(约占用户总量 10%),由于防火墙设置严厉,上述 listen 与 connect 调用可以成功,

但是 accept 会失败返回,从而招致整个效劳退出 (防火墙会严厉遏止不在白名单上侦听的端口的衔接)。

关于已知端口,可以经过在防火墙上设置白名单来避免,但是关于这种随机 listen 的端口,真的是太难了,基本无解。

回头调查了一下 asio,windows 上运用的是 iocp,自然没有这个自衔接;

ACE 有多种完成可供选择,假设运用 ACE_Select_Reactor / ACE_TP_Reactor 是会有这个自衔接,

但是你可以选择其它完成,如基于 WaitForMultipleEvents 的 ACE_WFMO_Reactor(最大只支持 62 个句柄,放弃),

或基于 iocp 的 ACE_Proactor (前摄式,与反响式在编程上稍有不同,更接近于 asio)就没有这个自衔接。

再说的深一点,其实公司最早的网络库运用的就是基于 boost 的 asio,大量的运用了 c++ 模板,

有时分产生了一些崩溃,但是根据 dump 完好无法定位崩溃点(各种冗长的模板展开称号),

招致了一些顽固的已知 bug 一同找不到崩溃点而无法处置(固然量不大),所以才有了要去重新选型网络库以及后来这一系列的东西。

本来一开端我是想用 ACE 的,由于我读过这个库的源码,对里面一切的东西都非常熟习,

但是看看 ACE 小 5 MB 的 dll 尺寸,还是放弃了(产品本身安装包也就这么大吧),

关于一个公司底层的公共组件,被各种产品携带,需求严厉控制“体重”

(后来听说 ACE 按功用拆分了代码模块,你只需求选自己依赖的部分即可,不过我还没有试过)。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章