当前位置:首页 > 内存 > 正文

顺序写磁盘比随机写内存快

  • 内存
  • 2024-06-09 21:40:26
  • 9672

一、如果未来固态硬盘读写速度和DDR4内存读写速度一样快,会发生什么事?

1.内存读写速度很少被提及。以下是主流DDR4内存的随机读写速度(19GB/s~24GB/s随机读写)...比现在最快的固态硬盘PCIE4.0X4M.2NVME的读写速度(7GB/S)顺序读写,而随机读写速度只比顺序读写速度快一半)至少要快三到四倍……所以说现在SSD达到读取速度还为时过早和DDR4的写入速度。就算有一天追上来,到那时内存读写速度也会比现在的DDR4有明显提升……

2其实硬盘读写速度是不再是计算机的速度瓶颈。III接口(550MB/s)和PCI-E协议的固态硬盘。M.2NVME固态硬盘(1.5-7GB/s)的读写速度相差三到十倍,但在实际应用中两者的速度差异几乎察觉不到。

DDR4


二、Topic与Partition示意图
1.主题:
发布到Kafka集群的每条消息都有一个名为Subject的类别。
2.分区:
分区是一个物理概念。每个主题包含一个或多个分区。
主题在逻辑上可以被视为一个队列。每条消息必须指定其主题,主题可以很简单。理解为
必须指定将此消息放置在哪个队列中
3.描述:
为了以线性方式提高Kafka的吞吐量,Topic在物理上被划分为一个或多个分区。每个分区物理上对应一个文件夹,该分区中的所有消息和索引文件都存储在该文件夹中。
如果创建两个主题,Topic1和Topic2,并且分别有13和19个分区
由于每条消息都添加到分区中,属于顺序写盘,所以效率非常高(已经验证顺序写盘比随机内存写效率更高,这是一个非常重要的保证kafka的高吞吐量)
对于传统的Messqgequeue来说,已经被消费的消息一般会被删除,而集群Kafka会持久化所有的消息,无论是否被消费。当然,由于磁盘的限制,永久保留所有数据是不可能的(事实上也没有必要)。
因此,Kafka提供了两种删除旧数据的策略。,
一:基于时间
二:基于分区文件大小。例如可以配置
$KAFKA_HOME/config/。ties允许Kafka删除一周前的数据,并且当分区文件超过1GB时也删除旧数据,配置如下。
Kafka拓扑
er:
消息生产者,发布消息到kafka集群终端或服务