
上个月写开发者大会报道的时候,手里只有一份议程和几张现场图。这两天金仓公众号又发了一组"一图看懂"海报,把 AI 数据库的框架摊开了讲。正好我这边还留了一套大会讲义,两份材料对着看,很多当时没讲透的地方,这回能串起来了。
干脆写一篇拆解。下面所有数据都来自官方材料,文末注明了"文中数据来自实验室测试"。
一、AI 用数据库,到底卡在哪

海报开头就抛了三个挑战。我觉得这三个概括得挺准,展开说一下。
挑战一,业务语义不完整。 库里有表、有字段,但这些结构对应什么业务,AI 读不出来。你问它"活跃用户有多少",它不知道你们公司的"活跃"是怎么定义的。
挑战二,存量数据难以直接参与 AI 检索与推理。 生产库里的数据大多是关系型的,AI 要用,得先导出来、加工、做成向量,放另一套系统里。数据天天变,这套流程就得天天跑。
挑战三,AI 访问数据安全管控难。 这个最要命。AI 拿着数据库连接去查数,权限怎么管?查了什么怎么追?
电科金仓的解法是推出金仓 AI 数据库,把 AI 能力原生融入数据库内核。也就是说,不去库外搭一套新系统,而是在库内解决这三个问题。
二、整体架构:基座、引擎、生态三层
讲义里把整体架构画成了三层,信息量不小:
- 基座·多模原生:六模融合、库内语义检索;
- 引擎·库内智算:混合检索、LLM 协同、算子下推;
- 生态·AI融合:Agent 编排、模型直连、RAG 增强。
中间那个轮盘图值得细看。内圈是基座,向外一圈是引擎:RRF 融合排序、ONNX 库内推理、LLM×DB 协同引擎、DiskANN 索引、HNSW 图索引、向量算子下推这些。最外圈是生态层:大模型直连、VectorRAG、GraphRAG、记忆体、Agent 编排。
右边还有个"全域多模融合"的小轮盘,关系、图、文档、时序、空间、向量六种模型都在里面。

海报上多了一块"内生安全":权限管理、访问控制、SQL防火墙、行级控制、审计,竖在右侧一列。这个设计意图很明显——安全不是外挂的,是架构里的一个组成部分。
三、库内推理:ONNX 原生,SQL 到向量全程闭环
这是整套方案里我最感兴趣的部分。
做法是把 ONNX** Runtime** 直接内置到 KES 内核。库内的调用链路是这样的:SQL 语法解析器识别推理相关函数 → 查询计划生成器 → KES 执行引擎里的推理执行引擎 → 模型管理器加载模型 → ONNX Runtime 执行推理。中间走 UDS 通信,存储层有专门的 ONNX 模型仓库。
库内预置的模型有 Chinese-CLIP、BGE-M3、Qwen3-Embedding、Gemma3 这些,算子后端支持 CPU 和 GPU(CUDA/cuDNN)。
讲义里的原话是:“数据不动、模型内置、推理在库”。
具体到一次调用是什么样?拿文本和图像两种嵌入来说:
上半部分是文本嵌入。输入一段话,比如"秋日森林里一条向前延伸的小路",SQL 里调文本嵌入函数,经过词元切分、截断填充,交给内置的嵌入模型推理,再池化、归一化,出来一个文本向量。
下半部分是图像嵌入。同样的套路,只是前置处理换成了色彩空间转换、HWC 转 CHW、缩放裁剪、像素归一化。同一段内容,文本和图像各自都能转成向量。
这意味着什么?意味着向量化这个环节不需要出库了。以前做 RAG,第一步就是把数据抽出来跑 embedding,现在一个 SQL 函数就干了。
四、库内还是库外?看数据敏不敏感
当然,库内模型不是万能的。讲义里专门给了一条库外路线:内核只做 SQL 解析与编排,通过对接组件兼容 Ollama、vLLM、XInference、OpenAI 接口,把推理交给外部服务。外部能接的模型就多了,DeepSeek、GLM、MiniMax-M3、qwen3-rerank 这些都可以。
那两条路线怎么选?讲义里给了一张对比表,我照抄过来:
| 维度 | 库内集成推理 | 库外对接推理 |
|---|---|---|
| 推理位置 | 库内 ONNX Runtime | 外部推理服务 |
| 数据是否出库 | 不出库 | 出库(外传至外部服务) |
| 模型库 | 库内模型库 | 外部服务管理 |
| 安全合规 | 高(数据不出库、可私有化) | 较低(数据外传) |
| 延迟 | 低 | 较高(网络往返+外部排队) |
| 模型灵活度 | 受限于 ONNX 格式 | 任意主流大模型/模型 |
选择标准讲义里也给了:敏感数据、低延迟走库内;追求最强模型能力走库外。这个划分方式挺务实的,不是二选一,是按场景分流。
五、向量检索的硬指标:内存占用降 95.4%

库内跑 AI 计算,资源开销是绕不过去的坎。海报上给了一组测试数据:
KES Vector DiskANN 索引,在相关研究基础上自主实现了向量的删除与更新机制。相同召回率条件下,内存占用降低 95.4%。
测试条件也给了:1 亿向量数据 × 768 维、98% 召回率,环境是 128 核 ARM CPU、256GB 内存、麒麟V10。
另外还有个"关系数据实时图化":通过视图映射,把现有的关系数据转成图,实时构建图知识。表变,图即变。不用单独维护一份图数据,这点挺省心。
六、库内语义层:让 AI 看懂数据

回到第一章说的挑战一。库内语义层的思路,是在库里维护一份业务说明,实体、属性、关系、口径、规则、标签都放进去。
构建方式是人机协同:规则加 AI 识别,自动推荐业务含义,再结合人工校准。语义对象和物理数据统一管理,避免语义跟数据脱节。
业务规则会变,语义也得跟着变。所以它支持语义变更订阅、版本管理与优化,官方叫"自我进化机制"。
七、VectorRAG:从检索到回答,一条 SQL
前面都是铺垫,这一节是落地形态。
传统 RAG 开发要六步:问答、向量检索(rag_embed + <=> 算子)、Rerank 精排、Prompt 优化、LLM 组织、回答。每一步都要写代码、串服务。
KES 把这六步封装成了一条 SQL。讲义里的示例原样放在这:
SELECT rag_pipeline('我想开办一家科技公司,需要满足什么条件?',
'{"schema": {"table_name": "compay_library"},
"models": {"text_model": "glm", "rerank_model": "qwen3", "chat_model": "minimax"},
"params": {"recall": {"top_k": 5, "rerank_top": 4, "final_top": 3}}}');
一条语句里指定了知识库表、三个模型(text_model 用 glm、rerank_model 用 qwen3、chat_model 用 minimax)和召回参数。底下接的是自建知识库加向量检索(HNSW/DiskANN),库内的 Embedding 模型、Rerank 模型、LLM 模型,TopK 结果构建 LLM 提示词。
应用层能直接支撑文本问答、文搜文、图搜图、文搜图、知识助手这些场景。模型服务层可以接 Ollama、XInference、vLLM、OpenAI 这些大模型平台。
八、上手实测路线:从图文对到文搜文
讲义里给了一条由点到面的演示路径:多模态检索 → 多路召回 → Vector RAG。
第一步,多模态检索。 解决的是打通文本与图像语义鸿沟的问题,让图文内容可精准检索。
数据怎么准备?讲义里的路径是这样:
拿开源图文对数据集,加工成 2.5 万条中文图文对。存进 photo_work 表(photo_id varchar(11)、ai_description_zh text),图片文件放文件夹。然后用 Chinese-CLIP 把文本和图片分别向量化,生成 512 维向量,建两张索引表:photo_txt_emb 存文本向量,photo_img_emb 存图像向量。
第二步,文搜文。 完整的查询语句长这样:
WITH q AS (
SELECT db_text_embedding(
'通过岩石形成的洞中景观', 'cn-clip-text'
)::vector AS v
)
SELECT w.photo_id,
w.ai_description_zh,
round((t.emb <=> (SELECT v FROM q))::numeric, 6) AS cos_dist
FROM photo_txt_emb t
JOIN photo_work w USING (photo_id)
ORDER BY t.emb <=> (SELECT v FROM q)
LIMIT 8;
三步逻辑:db_text_embedding 函数把查询文本通过 cn-clip-text 模型转成 512 维向量;然后按余弦距离(<=> 操作符)做语义检索;最后按距离排序取 Top 8,cos_dist 升序返回最相似的结果。
第三步,多路召回。 单路向量召回有命中不全、排序不稳的问题,用 WSF 加权融合和 RRF 排名融合把多路召回结果合起来,提升召回率和排序鲁棒性。到这一步再往上叠 LLM,就是前面说的 Vector RAG 了。
核心价值一句话:检索、召回、生成全流程库内闭环,一条 SQL 实现有据可溯的知识问答。
九、安全与智能体:两头都要接住

AI 进了库,安全这条线不能松。金仓的说法是"内生安全":AI 负责理解和任务规划,但涉及企业数据的访问与操作,仍然受数据库既有安全机制的约束——权限管理、访问控制、SQL防火墙、行级控制、操作审计。
底下三个词概括得挺到位:权限可继承、执行可管控、行为可追溯。

智能体协同这块有三组数字:
- 标准化接入:10+ 原生 KES MCP tools 提供语义、数据操作、库管理工具接口;30+ Skills 覆盖数据库全生命周期管理;
- 智能开发:NL2SQL 智能体融合库内语义与记忆,千表规模秒级生成 SQL,准确率 > 95%;
- 智能运维:结合 300+ 高质量指标数据和多年专家经验,辅助巡检、诊断和处置建议,复杂问题定位准确率高达 90%+。
结语
回头看这套东西的思路,其实就一句话:与其把数据搬去伺候 AI,不如把模型搬进数据库。
数据不动,模型内置,推理在库。查询出向量、检索出结果、生成出回答,全在一条 SQL 里闭环。至于那些库内跑不动的大模型,走库外对接就行,两条路线按场景分流。
要是这套路径真的能像演示里那样跑通,对做 RAG 应用的开发者来说,中间那堆 ETL 和向量服务的搭建工作,确实能省掉不少。
转载自 CSDN-专业IT技术社区
原文链接:https://blog.csdn.net/COLLINSXU/article/details/170737773




