程序员经典面试题,Kafka读写硬盘为什么速度还那么快

新闻 Kafka
在今天的很多程序员招聘里,都会要求能够熟练运用Apache Kafka等至少一种消息队列,Apache Kafka也是程序员面试里的常客。在大多数人的映象中,写磁盘都是比较慢的,可是,为什么Apache Kafka在各大MQ性能的评测中,还能够击败众多对手,取得不错的成绩呢?

 在今天的很多程序员招聘里,都会要求能够熟练运用Apache Kafka等至少一种消息队列,Apache Kafka也是程序员面试里的常客。在大多数人的映象中,写磁盘都是比较慢的,可是,为什么Apache Kafka在各大MQ性能的评测中,还能够击败众多对手,取得不错的成绩呢?

[[279540]]

 

顺序写磁盘

在我们的生产环境中,为了节约成本,大部分服务器仍然使用机械磁盘,而非固态硬盘。我们知道,机械磁盘读写数据,首先需要寻道,将磁头调整到对应的磁道上,紧接着,会进行旋转,将磁头旋转到对应的位置上,最后才是读写数据,寻道跟旋转,占用了磁盘读写的大量时间,所以,Apache Kafka在写磁盘的时候,大量地使用了追加写的模式,减少了磁盘寻道与旋转地时间,从而达到更高的磁盘利用率。

大量使用内存页

我们知道,即便是顺序写磁盘,磁盘的读写速度任然比内存慢慢的多得多,好在操作系统已经帮我们解决这个问题了,在Linux操作系统中,Linux会将磁盘中的一些数据读取到内存当中,我们称之为内存页。当需要读写硬盘的时候,都优先在内存页中进行处理。读的话大家比较好理解,就是缓存嘛,写的话如果只写在缓存没有落盘不是会形成脏数据么?的确如此,只有当脏页到达一定比例之后,Linux操作系统才会把数据刷到磁盘当中。在机器发生掉电的时候,的确会出现脏数据。但是,我们更应该使用分布式写到多台机器上来从根本上解决这个问题。

并且,写在内存页的另外一个好处是减少应用内存的使用,我们都知道Apache Kafka是用Java语言编写的,不得不避免的便是Java的GC问题,随着应用内存的增多,垃圾回收的时间会更多,带来整体性能的下降。

 

零拷贝技术的使用

作为一个消息系统,不可避免的便是消息的拷贝,常规的操作,一条消息,需要从创建者的socket到应用,再到操作系统内核,然后才能落盘。同样,一条消息发送给消费者也要从磁盘到内核到应用再到接受者的socket,中间经过了多次不是很有必要的拷贝。

在Linux操作系统中,同样为我们提供了零拷贝技术,零拷贝技术并非真的不用拷贝,而是大大地减少了拷贝次数。举个例子,原本从磁盘到接收者Socket中,需要见过内核态,又要经过Apache Kafka应用,那么有没有可能直接越过这两层状态,达到更少的拷贝次数呢?Java 的NIO库,帮我们实现了这一切,借用JavaNIO库封装的API,我们可以直接使用Linux操作系统的零拷贝技术,让系统更快。

 

总结

以上三点,便是Apache Kafka虽然使用了硬盘存储,但是仍然可以速度很快的原因,当然,除此之外,Apache Kafka还有很多特性让他很快,如果你有兴趣,欢迎大家关注我,共同学习,共同进步。大家的支持是我继续唠嗑的动力。

责任编辑:华轩 来源: 今日头条
相关推荐

2019-10-18 14:54:04

Kafka写入磁盘

2020-04-26 09:48:11

MySQL数据库架构

2021-06-27 22:48:28

Redis数据库内存

2020-05-06 15:02:58

MySQL数据库技术

2020-03-18 09:33:47

数据库程序员数组

2015-06-05 14:15:13

程序员难升职

2020-04-12 22:29:50

程序员MySQL数据

2020-05-11 10:48:01

技术资讯

2012-05-25 10:15:06

Java程序员面试题

2020-04-08 10:18:56

MySQL数据库SQL

2020-07-29 08:06:30

Kafka MQ消息

2020-02-06 08:58:09

程序员技术数据库

2020-03-02 17:00:24

程序员数据库MySQL

2023-06-08 18:25:40

Doris场景查询

2019-09-20 14:25:21

程序员Google人生第一份工作

2019-10-09 17:22:01

算法数据结构程序员

2021-06-09 09:32:58

Esbuild 工具前端

2024-02-26 21:15:20

Kafka缓存参数

2019-05-10 09:47:33

2018-07-11 15:08:35

点赞
收藏

51CTO技术栈公众号