😀
今天我接手了一个以 netty 为底层的项目,因为我之前只是听过,但是没有真正的实际用过,导致有些地方还是不太懂,于是有了这篇文章,来记录一下我学习中遇到的一些问题和答案。
一个字节是怎么从网线走到我的 Java 代码里的?Netty 到底替我干了什么?

地基:数据进程序之前,先经过谁的手

首先我们要清楚一件事,当数据从其他地方发过来的时候,是如何来到我们的 java 程序当中的。
数据来的时候一共会经过 3 个流程,首先会通过网卡,将电子信号转换成字节存入内存;紧接着内核(操作系统的核心,本身也是一堆跑在 CPU 上的代码,只是权限最高)负责解析协议,把数据放进内核缓冲区,并记录“哪个连接有数据了”;Java 程序不能直接访问内核缓冲区,于是通过系统调用向内核申请,内核代办把数据拷过来,最后数据就到了我们的 java 内存中。
这里需要注意的几点是:
  1. 数据到了内核缓冲区 ≠ 到了你手里
  1. CPU 有两种工作模式:用户态/内核态——正在执行谁的代码
  1. 内存分为两块区域:用户空间/内核空间——数据放在哪
通常情况下,我们的 Java 业务代码运行时,CPU 都处于用户态。那数据来了怎么办?流程是这样的:
网卡收到电信号,把它转换成字节,然后通过“中断”喊一声 CPU;CPU 切换到内核态,由内核把数据放进对应连接的内核缓冲区。到这里,第一步“等数据到达内核”就完成了——但注意,此时数据还在内核空间,我们的程序依然拿不到。
为什么程序不能自己去拿?因为操作系统要保护计算机:用户程序不许直接碰硬件和内核的内存,想办事只能通过“系统调用”向内核申请,由内核代办。这也正是 CPU 需要在用户态和内核态之间来回切换的原因。
第二步是“搬运”:由内核把数据从内核空间拷贝到用户空间(也就是 JVM 的内存里),拷完之后 CPU 切回用户态,我们的代码就拿到了数据,可以继续往下跑了。
不过,第一步要“怎么等”、第二步该“谁来搬”,其实有不同的做法——这正是接下来要说的三种 IO 模型的分水岭。
“态”回答此刻在执行谁的代码,“空间“回答数据放在哪。
notion image
💻
内核缓冲区、内核空间、用户空间、jvm 内存到底都是写什么呢?
内存一大块就是内存条提供的,里面分两块内核空间和用户空间(给程序的);内核空间里面留一块内核缓冲区存数据;用户空间里面一个小角落,jvm 内存空间。

三种 IO 模型:谁来等,谁来搬

上一节结尾说,一次读取永远分两步:① 等数据到达内核,② 把数据从内核空间搬进你的内存。这一节主角登场——BIO、NIO、AIO 三种 IO 模型,全部区别就四个字:谁来等,谁来搬。

BIO:一个人一直等

最简单最直接的办法就是,建立一个连接的时候,我的java 就单独开一个线程来伺候他,听起来是不是感觉好像没什么问题,那我们来简单的算一笔账。
如果要同时 1 万个客户端连着,那我们就需要开 1 万个线程,假设一个线程 1MB的栈空间,那么就需要大约 10 个 G 的栈空间,这还没有算上 CPu 在各个线程之间来回切换的花销。这不是一个优化问题,而是一个数学问题。
假设一家餐厅来一个客人就雇一个服务员专门服务他,餐厅一定会被服务员撑死。
BIO 的问题就在这,时间全部用来“等”,而且是一对一的等。

NIO:一块牌子,看管全场

java 后来搞出了一个新方案,搞一块牌子(selector,连接器)来登记,然后找一个线程看着这块牌子,线程睡在这等,哪一条连接有数据来了就在牌子上记一笔,然后线程被叫醒后去把数据搬过来到 jvm 中。
其实在这里我卡了一会,这和第一个几乎没什么区别啊,为什么 BIO 阻塞的而NIO 是非阻塞呢,这不还是等吗?凭什么叫“非阻塞”?
阻塞的对象变了。BIO 的线程守着“一个连接”死等;NIO 的线程守着“一批连接”集中等。它确实还在等,但它一个人等的是一万个人的事。所以“非阻塞”这个名字其实有点误导,它更准确的名字是——多路复用(I/O Multiplexing):一个线程,复用着看管“多路”连接。
顺便说一句,多路复用不是 Java 发明的,它是操作系统提供的能力(Linux 上的 epoll、macOS 上的 kqueue),Java 只是把它封装成了好用的 API。Nginx、Redis、Go 的网络库,底层全是它。
notion image
还是那笔账:同样 1 万个连接,NIO 只需要 CPU 核数 ×2 个线程(8 核就是 16 个),每个线程的牌子登记几百上千个连接。1 万 比 16,这就是“一个服务员看管整个大厅”落到实处的样子。

AIO:人都不用守,货送到家才按铃

AIO 更激进:等和搬你都不用干。你直接告诉内核:“数据到了请拷到这个缓冲区,拷完帮我调这个回调函数”,然后就去干别的了。收到通知的那一刻,数据已经在你家里了。
听起来最完美对吧?我查资料时发现一个反直觉的事:Netty 曾经支持 AIO,后来自己删掉了。 因为 Linux 底层并没有完善的异步 IO 支持,Java 的 AIO 在 Linux 上是用多线程模拟的,实测性能还不如 NIO。“最好的方案”输给了“最合适的方案”。所以实际开发里:BIO 是老古董,NIO 是绝对主力,AIO 知道概念就行。

一句话总结

BIO:人等货。NIO:牌子帮人等,人醒了自取。AIO:人不管,货送到家才按铃。
如果只想记一条判定标准,我的是这个:看数据进入你的 Buffer 那一刻,你的线程在不在场。 在场(不管是守着等还是被叫醒后自己去搬)= 同步;不在场(内核搬完才通知你)= 异步。

原生 NIO:三大件与最小骨架

时间线是有了,但它长什么样?现在把第二节的五步时间线翻译成 Java 代码。
首先我们先来了解一下三大件:Channel、Selector、Buffer。
三大件
一句话定位
类比
Channel
数据的“路”(连接的抽象),双向
客人的电话线
Buffer
数据的“存放处”
桶
Selector
通知“哪条路有货了”
牌子
数据永远会在 Channel 和 Buffer 之间流动,而 Selector 则负责告诉你“可以动手了”。
Channel 分为 ServerSocketChannel 和 SocketChannel,前者主要负责的是连接,也就是“大门”,后者主要是负责每一条通道,也就是传输数据的电话线。
Buffer 是一个桶,你传过来的数据全部装在这里面,然后再转换成对应的字符。
Selector 是一个牌子,主要是负责看监听哪一个 Channel、对应做了什么动作就唤醒。
代码看着不长,但每一行都对应着第二节时间线里的某一步。挑两个关键位置展开说一下。
register 那一行——登记到底干了什么
这句代码的意思是:Channel 主动把自己(的 fd)和关注的事件类型 OP_ACCEPT 登记到刚创建的 Selector 上,这相当于向内核提交了一份监视申请——“帮我盯着这个 fd,一旦它出现‘有新连接待接受’这个事件,就把睡在 select() 里的那个线程叫醒”。
注意主语是 Channel,不是 Selector——翻遍 Selector 的方法列表,压根没有 register 这个方法,它只提供 select()(睡觉)和 selectedKeys()(就绪名单)。牌子从不招人,人来自动登记。
it.remove() 那一行——为什么必须划掉
selectedKeys() 这个名单在多轮 select() 之间是持续存在的:select() 只往里添加新记录,从不自动清理。如果处理完不划掉,下一轮遍历时旧记录还躺在里面,同样的逻辑会再执行一遍——我第一次跑的时候,就是这里直接空指针崩溃了。

踩坑

  1. server.bind(8888) 编译不过。 报错写着“必需 SocketAddress,提供 int”。绑端口要给完整的“IP + 端口”地址对象,只给一个数字人家不认。改成 server.bind(new InetSocketAddress(8888)) 才过。
  1. register() 抛 IllegalBlockingModeException。 原因是我把 configureBlocking(false) 写在了 register() 后面。Selector 只收非阻塞模式的通道——“就绪通知”这套机制的前提是 read() 不会卡住,阻塞模式的通道禁止上牌子。
到这里,我们用很短的一段代码实现了 NIO 模式下的单线程同时服务多条连接的服务器,,但是这里面有很多写起来很费劲,比如需要自己控制循环,自己把指针归位,已经完成的一条自己删掉,阻塞模式和非阻塞模式也要自己切换,但凡有一点失误这个程序都运行不起来。
那么有没有简单一点的方法呢,有的,Netty。
所有的这些 Netty 都给你封装好了,不用自己再来手动操作一遍。下一节见
Hello worldRedis 商品缓存
Loading...