瞧一瞧~看一看~MyCat架构剖析免费不要钱!(上)

一、MyCat总体架构介绍

1.源码下载及导入


导入Idea


2.总体架构

MyCat在逻辑上由几个模块组成: 通信协议路由解析结果集处理数据库连接监控等模块。如图所示:

  1. 通信协议模块: 通信协议模块承担底层的收发数据、线程回调处理工作, MyCat通信协议默认采用Reactor模式,在协议层采用MySQL协议;
  2. 路由解析模块: 负责对传入的SQL语句进行语法解析, 解析语句的条件、类型、关键字等,并进行优化;
  3. SQL执行模块: 负责从连接池中获取连接, 再根据路由解析的结果, 把SQL语句分发到相应的节点执行;
  4. 数据库连接模块: 负责创建、管理、维护后端的连接池。为减少每次建立数据库连接的开销,数据库使用连接池机制对连接声明周期进行管理;
  5. 结果集处理模块: 负责对跨分片的查询结果进行汇聚、排序、截取等;
  6. 监控管理模块: 负责MyCat的连接、内存等资源进行监控和管理。监控主要通过管理指令及监控服务展现一些监控数据; 管理则主要通过轮询事件来检测和释放不适用的资源;

3.总体执行流程

二、MyCat网络I/O架构及实现

1.BIO、NIO与AIO

  1. BIO

BIO(同步阻塞I/O) 通常由一个单独的Acceptor线程负责监听客户端的连接, 接收到客户端的连接请求后, 会为每个客户端创建一个新的线程进行处理, 处理完成之后, 再给客户端返回结果, 销毁线程 。

每个客户端请求接入时, 都需要开启一个线程进行处理, 一个线程只能处理一个客户端连接。 当客户端变多时,会创建大量的处理线程, 每个线程都需要分配栈空间和CPU, 并且频繁的线程上下文切换也会造成性能的浪费。所以该模式, 无法满足高性能、高并发接入的需求。

  1. NIO

NIO(同步非阻塞I/O)基于Reactor模式作为底层通信模型,Reactor模式可以将事件驱动的应用进行事件分派, 将客户端发送过来的服务请求分派给合适的处理类(handler)。当Socket有流可读或可写入Socket时, 操作系统会通知相应的应用程序进行处理, 应用程序再将流读取到缓冲区或写入操作系统。 这时已经不是一个连接对应一个处理线程了, 而是一个有效的请求对应一个线程, 当没有数据时, 就没有工作线程来处理。

NIO 的最大优点体现在线程轮询访问Selector, 当readwrite到达时则处理, 未到达时则继续轮询。

  1. AIO

AIO,全程 Asynchronous IO(异步非阻塞的IO), 是一种非阻塞异步的通信模式。在NIO的基础上引入了新的异步通道的概念,并提供了异步文件通道和异步套接字通道的实现。AIO中客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理。

AIONIO的主要区别在于回调与轮询, 客户端不需要关注服务处理事件是否完成, 也不需要轮询,只需要关注自己的回调函数。

2.通信架构

MyCat中实现了NIOAIO两种I/O模式, 可以通过配置文件server.xml进行指定 :

<property name="usingAIO">1</property>

usingAIO为1代表使用AIO模型 , 为0表示使用NIO模型;

MyCat的AIO架构

  1. MyCatStartUp是整个MyCat服务启动的入口;
  2. 在获取到MyCathome目录后, 把主要的任务交给MyCatServer , 并调用其startup方法;
  3. 初始化系统配置, 获取配置文件中的 usingAIO的配置 , 如果配置为1, 说明使用AIO模型 , 进入到AIO的分支, 并创建两个连接, 一个是管理后台连接(9066), 一个server的连接(8066);
  4. 进入AIO分支 , 主要有AIOAcceptor接收客户端请求, 绑定端口, 创建服务端的异步Socket;在accept方法中完成两件事: ①. FrontedConnection的创建, 这是前段连接的关键; ②.register注册事件, MySQL协议握手包就在此时发送;


MyCat的NIO架构

如果设置的usingAIO为0 ,那么将走NIOAcceptor通道 , 流程如下:

  1. 如果走NIO分支 , 将首先创建NIOAcceptor对象, 并调用其start方法;
  2. NIOAcceptor 负责处理Accept事件, 服务端接收客户端的连接事件, 就是MyCat作为服务端去处理前端业务程序发过来的连接请求, 建立链接后, 调用NIOAcceptorNIOReactor.postRegister方法进行注册(并没有注解注册, 而是放入缓冲队列, 避免加锁的竞争)。

NIOAcceptoraccept方法

NIOReactorpostRegister方法

三、Mycat实现MySQL协议

1.MySQL协议简介

A.概述

MySQL协议处于应用层之下、TCP/IP之上, 在MySQL客户端和服务端之间使用。包含了链接器MySQL代理主从复制服务器之间通信,并支持SSL加密、传输数据的压缩连接身份验证数据交互等。其中,握手认证阶段和命令执行阶段是MySQL协议中的两个重要阶段。

B.握手认证阶段

  1. 握手认证阶段是客户端连接服务器的必经之路, 客户端与服务端完成TCP的三次握手以后, 服务端会向客户端发送一个初始化握手包, 握手包中包含了协议版本、MySQLServer版本、线程ID、服务器的权能标识和字符集等信息。
  2. 客户端在接收到服务端的初始化握手包之后, 会发送身份验证包给服务端(AuthPacket), 该包中包含用户名、密码等信息。
  3. 服务端接收到客户端的登录验证包之后,需要进行逻辑校验,校验该登录信息是否正确。如果信息都符合,则返回一个OKPacket,表示登录成功,否则返回ERR_Packet,表示拒绝。

Wireshark抓包如下:

报文分析如下:

  1. 初始化握手包

    通过抓包工具Wireshark抓取到的握手包信息如下, 握手包格式:

    说明:



Packet Length : 包的长度;

Packet Number : 包的序号;

Server Greeting : 消息体, 包含了协议版本、MySQLServer版本、线程ID和字符集等信息。

  1. 登录认证包

客户端在接收到服务端发来的初始握手包之后, 向服务端发出认证请求, 该请求包含以下信息(由Wireshark抓获) :

  1. OK包或ERROR包

服务端接收到客户端的登录认证包之后,如果通过认证,则返回一个OKPacket,如果未通过认证,则返回一个ERROR包。

OK报文如下:


ERROR报文如下 :


C.命令执行阶段

在握手认证阶段通过并完成以后, 客户端可以向服务端发送各种命令来请求数据, 此阶段的流程是:命令请求->返回结果集。

Wireshark 捕获的数据包如下:

  1. 命令包

  1. 结果集包

2.MySQL协议在MyCat中实现

A.握手认证实现

MyCat中同时实现了NIOAIO, 通过配置可以选择NIOAIOMyCat Server在启动阶段已经选择好采用NIO还是AIO,因此建立I/O通道后,MyCat服务端一直等待客户端端的连接,当有连接到来的时候,MyCat首先发送握手包。

  1. 握手包源码实现

MyCat中的源码中io.mycat.net.FrontendConnection类的实现如下:

握手包信息组装完毕后, 通过FrontedConnection写回客户端。

  1. 认证包源码实现

客户端接收到握手包后, 紧接着向服务端发起一个认证包, MyCat封装为类 AuthPacket:

客户端发送的认证包转由 FrontendAuthenticatorHandler来处理, 主要操作就是拆包, 检查用户名、密码合法性, 检查连接数是够超出限制。源码实现如下:

认证失败, 调用failure方法, 认证成功调用success方法



failure方法源码:

success方法源码:



B.命令执行实现

命令执行阶段就是SQL命令和SQL语句执行阶段, 在该阶段MyCat主要需要做的事情, 就是对客户端发来的数据包进行拆包, 并判断命令的类型, 并解析SQL语句, 执行响应的SQL语句, 最后把执行结果封装在结果集包中, 返回给客户端。

从客户端发来的命令交给 FrontendCommandHandler 中的handle方法处理:

处理具体的请求, 返回客户端结果集数据包:



内容过多分两次发布!需要的读者可以添加助理VX:C18173184271免费获取!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章