• 网络I/o编程模型11 netty常用的3种线程模型


    一 常用的线程模型

    1.1 传统阻塞I/O服务模型

    1.特点:采用阻塞IO模式获取输入的数据;每个连接都需要独立的线程完成数据的输入,业务处理数据返回。

    2.问题:当并发数很大时候,就会常见大量的线程,占用很大系统资源;连接创建后,如果当前菜鸟仓暂时没有数据可读,该线程会阻塞在read操作,造成线程资源浪费

    1.2 Reactor模式

    针对传统I/O线程模型的两个问题,提出了Reactor模式,分发者模式。基于以下两种思想的设计理念。

    1.基于I/O复用模型:多个连接共用一个阻塞对象,应用程序只需要在一个阻塞对象等待,无需阻塞等待所有连接。当某个连接有新数据可以处理时,操作系统通知应用程序,线程从阻塞状态返回,开始进行业务处理。

    2.基于线程池复用线程资源:不必再为每个连接创建线程,将连接完成后的业务处理任务,分配给线程信息处理,一个线程可以处理多个连接业务。

     特点:

    1.Reactor模式:通过一个或者多个输入,同时传递给服务处理器的模式。(基于事件驱动)

    2.服务器端程序处理传入的多个请求,并将他们同步分派到相应的处理线程,因此Reactor模式也叫Dispatcher模式

    3.Recotr模式采用IO复用监听事件,收到事件后,分发给某个线程(进程),这点是网络服务器高并发处理的关键。

    核心组成部分

    1.reactor: reactor在一个单独的线程中运行,负责监听和分发事件,分发给适当的处理程序来对IO事件做出响应。比如 电话客服人员接到电话,然后将任务诉求分派给相应的工作人员。

    2.handlers: 处理具体的I/O业务逻辑;类似公司具体干活的工作人员。

    二 netty的Reactor模型

    2.1 Reactor模型的单线程

    1.流程

    1.select 可以实现应用程序通过一个额阻塞对象监听多路连接请求。
    2.reactor对象通过select监控客户端请求事件,收到事件后可通过dsipatch进行分发
    3.如果是建立连接请求事件,则由Acceptor通过Accept处理连接请求,然后创建一个Handler对象处理连接完成后的后续业务处理。
    4.如果不是建立连接事件,则Reactor会分发调用,连接对应的handler来响应。
    5.Handler: Read->业务处理-> send的完整业务流程。

    2.缺点
    1.性能问题: 所有操作均在一个线程中,无法完全发挥多核cpu的性能。
    2.可靠性问题:线程意外终止,或者进入死循环,会导致整个系统通信模块不可用。
    使用场景: 客户端数量少,业务处理非常快速,比如redis在处理业务的时间复杂度o(1)的情况。

    2.2 Reactor模型的多线程

    1.优点:

    1.通过select监控客户端请求事件,收到事件后,通过dispatch进行分发。
    2.如果建立连接请求,则由Acceptor通过accept处理连接请求,然后创建一个Handler对象处理完成连接后的各种操作。
    3.如果不是谅解请求,则由reactor分发调用连接对应的handler来进行处理。
    4.handler只负责响应事件,不做具体的业务处理,通过read读取数据后,会分发给后面的worker线程池的某个线程处理业务
    5.worker线程池会分配独立线程完成真正的业务,并将结果返回给handler。
    6.handler收到响应后,通过send将结果返回给client

     优点:可以充分的利用多核cpu的处理能力。
    缺点:多线程数据共享和访问比较复杂,在单线程运行,在高并发场景下容易出现性能瓶颈问题

    2.3  主从Reactor模型的多线程模式

    1.流程
    1.Reactor主线程MainReactor对象通过select监听连接事件,收到事件后,通过Acceptor处理连接事件。
    2.当Acceptor处理连接事件后,MainReactor将连接分配给SubReactor
    3.subreactor将连接加入到连接队列进行监听,并创建handler进行各种事件处理。
    4.当有新事件发生时,subreactor就会调用对应的handler进行处理
    5.handler通过read读取数据,分发给后面的worker现场进行处理
    6.worker线程池分配独立的worker线程进行业务处理,并返回结果。
    7.hadler收到响应的结果后,再通过send将结果返回给client
    8.reactor主线程可以对应多个reactor子线程,即MainReactor可以关联多个SubReactor。

    #优点
    父线程与子线程的数据交换简单,责任明确,父线程只需要接收新的连接,子线程完成后续的业务处理。
    #缺点
    编程复杂度较高
    #应用案例
    nginx的主从Reactor多进程模型,Memcached主从多线程,netty主从多线程模型

    2.4  总结

    1.单Reactor单线程模型:前台接待员和服务员是同一个人,全程为顾客服务。
    2.单Reactor多线程模型:前台接待员和服务员是不同人,1个前台接待员,多个服务员,接待员只负责接待。
    3.主从Reactor多线程模型:多个前台接待员,多个服务生,共同协同工作。

    三  netty使用的线程模型

    netty主要基于主从Reactors多线程模型做了一定的改进,其中主从Reactors多线程模型有多个Reactor。

    1.BossGroup 专门负责接收客户端的连接,workerGroup专门负责网络的读写。BossGroup线程维护selector,只关注Accept
    2.当接收到Accept事件,获取到对应的SocketChannel,封装成NIOSocketChannel,并将其注册到某个workerGroup中的NIOEventLoop上的selector中。
    3.当workGroup中的worker线程监听到selector中通道发生自己感兴趣的事件后,就由handler进行处理,注册handler加入到通道。

     详细流程:

    1.netty抽象出两组线程池BossGroup 专门负责接收客户端的连接,workerGroup专门负责网络的读写。
    2.BossGroup和WorkerGroup类型都是NioEventLoopGroup
    3.NioEventLoopGroup相当于一个事件循环组,这个组中包含多个事件循环,每一个事件循环是NioEventLoop。
    4.NioEventLoop 表示一个不断循环的执行处理任务的线程,每个NioEventLoop都有一个selector,用于监听绑定在其上的socket的网络通信。
    5.NioEventLoopGroup 可以有多个线程,即可以包含有多个NioEventLoop
    6.每个BossNioEventLoop循环执行步骤有3步:
     1.轮询accept事件,处理accept事件,与client建立连接,生成NioSocketChannel,并将其注册到某个workerNIOEventLoop上的selector。
     2.处理任务队列的任务,即runAllTasks。
    7.每个Woker NIOEventLoop循环执行的步骤
      1.轮询read,write事件 ;处理i/o 事件,即read,write事件,在对应的NioSocketChannel处理。
      2.处理任务队列的任务,即runAllTasks。
    8.每个WorkerNIOEventLoop 处理业务时,会使用pipeline(管道) 中包含的channel,即通过pipeline可以获取到对应管道中的处理器。

  • 相关阅读:
    2023第七届蓝帽杯半决赛 复现(取证及一道Misc)
    奥特曼与钢铁侠【InsCode Stable Diffusion美图活动一期】
    nginx实现负载均衡(三)
    Java - 对象内存计算以及String类型的相关注意事项
    代码随想录二刷 Day 35
    关于Jupyter markdown的使用
    .NET周刊【4月第2期 2024-04-21】
    Spring Boot使用rabbitMq(二)进阶篇
    陈春花发布声明,这场流量狂欢该到了收尾的时候
    SQL Server2022安装教程
  • 原文地址:https://blog.csdn.net/u011066470/article/details/125017834