本工作区用于组织硕士论文 / 达梦实习课题材料。当前开题正式题目是:
数据库 AI 负载的执行优化与调度研究方向。
当前重点不是传统数据库 GPU 查询算子,也不是模型 kernel 优化。数据库 AI 算子在本项目中主要作为 workload 入口和验证场景。主场景为 AI_COMPLETE(生成式 LLM 推理),经由 Daft/Arrow 数据组织、Ray 动态 batching(异构 actor pool)、GPU 推理引擎、最终写回数据库 sink。研究重点是上游 Ray 数据执行层的数据组织策略和调度提交控制。AI_EMBED 已完成真实 GPU-backed 预研验证,用于支撑实验框架可行性。
后续真实端到端实验平台优先使用公司内部统一采用的 PostgreSQL 18.3;当前 PG18.4 本地同构预演只能作为平台暂不可用时的替身。
.
├── AGENTS.md # 项目级长期规则
├── CLAUDE.md # Claude Code 环境入口
├── PROJECT_INDEX.md # 文件索引和阅读顺序
├── PROJECT_OUTLINE.md # 项目总纲(题目、研究内容、关键证据、优先级)
├── PROJECT_LOG.md # 项目级简要操作日志
├── README.md # 本文件
├── overview/ # 项目总览、当前路线
│ ├── AGENTS.md
│ ├── current_direction_and_plan.md
│ └── project_outline.md
├── research/ # 背景调研、文献依据(第一入口:knowledge_hub.md)
│ ├── AGENTS.md
│ ├── README.md
│ ├── knowledge_hub.md
│ ├── vllm_continuous_batching_reference.md
│ ├── ray_actor_dynamic_batching_reference.md
│ ├── inference_pipeline_interaction_literature.md
│ ├── literature_and_evidence_review.md
│ └── existing_ai_operator_execution_chains.md
├── motivation/ # 动机场景、端到端测试
│ ├── AGENTS.md
│ ├── README.md
│ ├── benchmarks/ # 动机测试脚本
│ │ ├── fake_embed_pipeline.py
│ │ ├── workload_matrix.py
│ │ ├── granularity.py
│ │ └── backpressure.py
│ ├── plans/ # 场景设计、集成计划
│ │ ├── workloads.md
│ │ ├── integration.md
│ │ └── ai_sql_surface.md
│ └── results/ # 动机测试结果
│ ├── README.md
│ ├── fake_cpu/ # CPU/fake 历史预研
│ ├── cpu/ # CPU baseline 对照
│ ├── gpu/ # GPU-backed E2E 主动机结果
│ └── pg18_4_fake/ # PG18.4 同构预演
├── feasibility/ # 可行性验证(组件、环境、脚本)
│ ├── AGENTS.md
│ ├── README.md
│ ├── guide.md
│ ├── analysis.md
│ ├── benchmarks/
│ │ ├── README.md
│ │ ├── common.py
│ │ ├── analyze_results.py
│ │ ├── ray_many_objects_benchmark.py
│ │ ├── ray_arrow_fanout_fanin_benchmark.py
│ │ └── ...(含早期排除性实验脚本)
│ └── results/
│ ├── README.md
│ ├── feasibility_report.md
│ ├── current_direction_analysis.md
│ └── ...(连接验证、smoke、dry-run CSV)
├── experiments/ # 正式研究实验(方法有效性验证)
│ ├── AGENTS.md
│ ├── README.md
│ ├── plans/
│ └── results/
├── code/ # 可复用工程代码
│ ├── AGENTS.md
│ ├── README.md
│ ├── scripts/
│ │ ├── README.md
│ │ ├── postgres_ai_operator_profile.py
│ │ ├── pgai_sql_operator_profile.py
│ │ └── local_embedding_server.py
│ └── requirements.txt
├── deploy/ # Docker 部署配置
│ ├── pgai/
│ └── postgres18.4/
├── figures/ # 项目级图资产
│ ├── AGENTS.md
│ ├── README.md
│ ├── architecture/
│ ├── data/report_main/
│ ├── data/backup/
│ ├── audit/
│ ├── learning/
│ └── scripts/
├── learning/ # 学习讲解材料
│ ├── AGENTS.md
│ ├── README.md
│ └── experiment_walkthrough.md
├── opening/ # 开题材料
│ ├── AGENTS.md
│ ├── README.md
│ ├── outline.md
│ ├── report/opening_report.md
│ ├── slides/
│ ├── feishu/
│ └── literature/
├── projects/ # PPT 项目工程文件
└── notes/ # 沟通记录、待确认问题
├── AGENTS.md
└── communication_notes.md
已有 AI_EMBED 预研实验(手动 HTTP endpoint,非 vLLM):
- GPU-backed 真实 embedding 链路:1024 行下 fine/coalesced 端到端约
13.4x; - 双 endpoint 下 Ray task/actor 开始体现并发 routing 价值,但端到端收益仍受 writeback 约束;
- pgvector(384) 写回 0.897s vs JSON text 1.567s;
- 早期 CPU/fake 实验保留在
feasibility/benchmarks/中仅作历史参考。
下一步:建立 vLLM + AI_COMPLETE 主实验平台。详见 PROJECT_OUTLINE.md 和 research/knowledge_hub.md。
当前更值得继续验证的候选优化对象是:
数据库 AI 负载进入 Daft/Arrow 数据组织层、Ray task/actor 执行层、GPU-backed 模型服务和 Lance / pgvector / PostgreSQL sink 后的分布式执行与存储协同问题。
正式论证优先引用 motivation/results/gpu/ 下的 GPU-backed 结果,PG18.4 / fake / CPU 结果只能作为预研背景和工具解释。
- P0:接入 vLLM + Qwen2.5-1.5B(替代手动 HTTP endpoint),建立 continuous batching baseline;Daft 文本阶段直接接入。
- P1:研究内容一消融(token-budget vs 固定 batch_size、分组策略对比)+ Daft 引擎级参数;研究内容二消融(queue-adaptive flush vs 固定 K_max、actor pool 分池路由)+ Daft engine 参数。
- P2:耦合验证(独立最优拼接 vs 联合 grid search);多模态泛化验证(图像 workload,同一套策略代码)。
- 后续进入 PostgreSQL 18.3 内部平台复测。
写回使用 PostgreSQL + pgvector(COPY + deferred index),不作为独立实验阶段。算子代价估计为补充讨论,不新增实验。
推荐运行命令:
python motivation/benchmarks/fake_embed_pipeline.py \
--upstream 8 32 \
--downstream 8 32 \
--total-rows 65536 \
--embedding-dim 128 \
--repeats 3 \
--output motivation/results/fake_cpu/fake_embed_pipeline.csv动机测试正式结果和分析优先看:
motivation/results/README.md
motivation/results/gpu/README.md
项目总纲和最新证据见:
PROJECT_OUTLINE.md