Apache Doris 向量化执行引擎：SIMD优化、列式存储与高吞吐查询原理- 惊觉

Apache Doris 向量化执行引擎：SIMD优化、列式存储与高吞吐查询原理

Apache Doris（前身为Palo）是一个高性能的分析型数据库，其向量化执行引擎是其实现高吞吐查询的关键。本文将深入探讨Doris的向量化执行引擎，重点分析SIMD优化技术、列式存储设计以及高吞吐查询的实现原理。

1. 向量化执行引擎概述

向量化执行引擎是一种数据处理范式，不同于传统的逐行处理方式，它以数据列（向量）为单位进行批量处理。Doris的向量化执行引擎通过一次处理多条数据，显著提高了CPU缓存利用率和指令并行性。

Doris的向量化执行引擎基于Volcano模型进行改进，主要特点包括：

以向量为单位处理数据
利用CPU的SIMD指令集进行并行计算
基于列式存储优化数据访问模式
减少中间结果存储和计算开销

与传统执行引擎相比，向量化执行引擎能够减少CPU分支预测失败和流水线停顿，提高指令执行效率，特别适合OLAP场景下的批量数据处理。

2. SIMD 优化原理与实践

SIMD（Single Instruction Multiple Data，单指令多数据）是一种并行计算技术，通过一条指令同时处理多个数据项。现代CPU提供的SIMD指令集（如AVX、SSE）是实现向量化执行的基础。

Doris中的SIMD优化主要体现在以下几个方面：

2.1 批量数据处理

Doris将数据组织为固定大小的向量（通常为1024行），利用SIMD指令同时处理向量的所有元素。例如，过滤操作可以通过一个SIMD指令同时评估多个行的条件表达式：

// 示例：使用AVX指令集进行批量比较
__m256i vec_cmp = _mm256_cmp_epi32(
    _mm256_loadu_si256((__m256i*)data),
    _mm256_set1_epi32(threshold),
    _mm256_cmpgt_epi32()
);

2.2 向量化函数实现

Doris为常用操作符和函数提供了向量化实现，如算术运算、字符串比较、日期计算等。这些函数内部使用SIMD指令同时处理多个数据项：

// 示例：向量化加法运算
public class VectorizedAdd {
    public static void add(IntVector left, IntVector right, IntVector output) {
        int[] leftData = left.data();
        int[] rightData = right.data();
        int[] outputData = output.data();
        
        for (int i = 0; i < left.getCount(); i++) {
            outputData[i] = leftData[i] + rightData[i];
        }
    }
}

2.3 避免分支预测失败

向量化处理减少了条件分支的数量，避免了CPU分支预测失败导致的流水线刷新：

// 传统行处理方式（有分支）
for (int i = 0; i < row_count; i++) {
    if (condition(rows[i])) {
        result[i] = compute(rows[i]);
    } else {
        result[i] = default_value;
    }
}
// 向量化处理方式（减少分支）
for (int i = 0; i < row_count; i += vector_size) {
    int vec_size = min(vector_size, row_count - i);
    bitmask_t mask = evaluate_condition(data + i, vec_size);
    compute_vector(data + i, result + i, mask, vec_size);
}

3. 列式存储与数据组织

列式存储是向量化执行的基础，Doris采用列式存储方式组织表数据，有利于向量化处理和数据压缩。

3.1 列式存储优势

特性	行式存储	列式存储
数据压缩	较低（同列数据类型不同）	较高（同列数据类型相同）
查询性能	适合OLTP（点查询）	适合OLAP（范围查询、聚合）
内存使用	需加载完整行	只需加载相关列
I/O效率	读取无关列数据	只读取必要列

3.2 Doris的数据组织方式

Doris将表数据划分为多个数据块（Block），每个数据块包含多个行（默认1024行）。数据按列存储，每个列存储在一个连续的内存区域中：

┌─────────────────────────────────────────────────────────────┐
│                    Block 1 (1024 rows)                     │
├─────────────┬─────────────┬─────────────┬─────────────┤
│   列1数据   │   列2数据   │   列3数据   │   ...       │
│   (int32)   │  (varchar)  │  (double)   │             │
├─────────────┼─────────────┼─────────────┼─────────────┤
│  [值1,值2,...] [值1,值2,...] [值1,值2,...]    ...       │
│     4KB        12KB         8KB                 ...       │
└─────────────┴─────────────┴─────────────┴─────────────┘

3.3 数据编码与压缩

Doris针对不同数据类型采用多种编码和压缩算法，减少存储空间并提高I/O效率：

整数类型：RLE、Dictionary、Delta编码
浮点数：使用Bit Packing和Frame of Reference
字符串：Dictionary、Prefix编码
日期时间：使用整数存储

4. 高吞吐查询实现机制

Doris通过向量化执行引擎实现了高吞吐查询，主要机制包括：

4.1 向量化查询流程

4.2 向量化算子

Doris实现了多种向量化算子，支持复杂的查询操作：

向量化过滤（Vectorized Filter）：批量评估过滤条件
向量化投影（Vectorized Projection）：选择性输出列
向量化聚合（Vectorized Aggregation）：批量计算聚合函数
向量化连接（Vectorized Join）：批量处理连接操作
向量化排序（Vectorized Sort）：批量排序操作

4.3 内存与缓存优化

Doris通过以下方式优化内存使用和缓存效率：

使用向量化处理减少内存访问次数
列式存储提高缓存局部性
内存池管理避免频繁内存分配
列式裁剪减少不必要的数据加载

5. 实际应用与性能对比

5.1 性能测试示例

以下是一个简单的Doris查询性能测试示例：

-- 创建测试表
CREATE TABLE sales (
    id INT,
    product_id INT,
    store_id INT,
    sale_date DATE,
    amount DECIMAL(10,2),
    quantity INT
) DISTRIBUTED BY HASH(id) PROPERTIES("replication_num" = "1");
-- 插入测试数据
INSERT INTO sales VALUES
(1, 1001, 1, '2023-01-01', 100.50, 5),
(2, 1002, 1, '2023-01-01', 200.00, 3),
... -- 更多测试数据
-- 执行聚合查询
SELECT 
    product_id,
    store_id,
    SUM(amount) AS total_amount,
    COUNT(*) AS sale_count
FROM sales
WHERE sale_date BETWEEN '2023-01-01' AND '2023-01-31'
GROUP BY product_id, store_id
ORDER BY total_amount DESC;

5.2 向量化执行性能对比

执行模式	查询时间(ms)	CPU使用率	吞吐量(行/秒)
传统行执行	1250	85%	800,000
向量执行	420	65%	2,380,000

从性能对比可见，向量化执行相比传统行执行提升了约3倍的性能，同时降低了CPU使用率。

5.3 最佳实践与注意事项

合理设置向量大小：向量大小过小会降低SIMD效率，过大会增加内存压力。Doris默认的1024行通常是一个较好的选择。
避免频繁的类型转换：向量化执行对类型转换较为敏感，查询设计时应尽量保持数据类型一致性。
利用列裁剪：只查询必要的列，减少数据加载量。
合理分区分桶：根据查询模式设计分区和分桶策略，提高数据局部性。
监控缓存命中率：确保热点数据能够缓存在内存中，减少磁盘I/O。

6. 实际运行示例

以下是Doris中使用向量化执行的完整示例，包含建表、插入数据和查询：

-- 1. 创建数据库和表
CREATE DATABASE IF NOT EXISTS doris_demo;
USE doris_demo;
CREATE TABLE IF NOT EXISTS sales (
    id INT,
    product_id INT,
    store_id INT,
    sale_date DATE,
    amount DECIMAL(10,2),
    quantity INT
) DISTRIBUTED BY HASH(id) 
PROPERTIES("replication_num" = "1", "storage_type" = "COLUMN");
-- 2. 插入测试数据
INSERT INTO sales VALUES
(1, 1001, 1, '2023-01-01', 100.50, 5),
(2, 1002, 1, '2023-01-01', 200.00, 3),
(3, 1001, 2, '2023-01-02', 150.75, 7),
(4, 1003, 1, '2023-01-02', 300.25, 2),
(5, 1002, 2, '2023-01-03', 175.00, 4),
(6, 1001, 1, '2023-01-03', 125.50, 6);
-- 3. 执行向量化查询
-- 启用向量化执行（如果未默认启用）
SET enable_vectorized_engine = true;
-- 执行聚合查询
SELECT 
    product_id,
    store_id,
    SUM(amount) AS total_amount,
    COUNT(*) AS sale_count,
    AVG(amount) AS avg_amount
FROM sales
WHERE sale_date >= '2023-01-01' AND sale_date <= '2023-01-31'
GROUP BY product_id, store_id
ORDER BY total_amount DESC;
-- 4. 查看执行计划
EXPLAIN SELECT 
    product_id,
    store_id,
    SUM(amount) AS total_amount
FROM sales
GROUP BY product_id, store_id;

注意事项

内存使用：向量化执行会占用较多内存，特别是在处理宽表和大数据量时，需要确保有足够的内存配置。
版本兼容性：不同版本的Doris对向量化支持程度不同，建议使用最新稳定版以获得最佳性能。
查询优化：某些复杂查询可能不会完全使用向量化执行，需要根据实际执行计划进行优化。
并行处理：向量化执行与Doris的并行处理机制相辅相成，合理设置并行度可以进一步提升性能。

转载自 CSDN-专业IT技术社区

原文链接：https://blog.csdn.net/qq_41840843/article/details/166738001

Apache Doris 向量化执行引擎：SIMD优化、列式存储与高吞吐查询原理