lix/mnote
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
Files
516121e6f962786bc2c18b0fa0300e39197ab2c3
mnote/design/07-ai/process/7-56-lightrag-native-docx-sidecar-addressable-blocks-v1.md
T

11 KiB
Raw Blame History

7-56 LightRAG Native DOCX Sidecar 可定位块粒度优化 v1

创建时间：2026-06-09

当前状态：process

Owner：07-ai / knowledge-rag / LightRAG native parser / office-preview

前置完成：

  • design/07-ai/done/7-55-lightrag-docx-citation-rerank-alignment-v1.md

参考：

  • LightRAG native DOCX parser：/mnt/Data1T/Mnote_data/lightrag/LightRAG/lightrag/parser/docx/
  • LightRAG sidecar writer：/mnt/Data1T/Mnote_data/lightrag/LightRAG/lightrag/sidecar/writer.py
  • Docling adapter 对照：/mnt/Data1T/Mnote_data/lightrag/LightRAG/lightrag/parser/external/docling/
  • NexusRAG：仅作为 parse-before-index 架构佐证，不照搬 pipeline

1. 结论

当前 DOCX 定位问题的根因不是 MNote 缺少查询后 parser，而是 LightRAG native DOCX sidecar 把已解析到的段落信息压成了过粗的 content block。

实测样本：

/mnt/Data1T/Mnote_data/users/mnote-e2e/workspaces/my-space/新页面233155/中国化妆品新原料产业发展调研报告_03（20260410）.docx

对比结果：

native parser 旧行为：
- python-docx 可读到 68 个 paragraph，且有 w14:paraId
- sidecar 只写 1 个 content block
- positions 只有 paraid range [第一段, 最后一段]

docling parser 当前行为：
- docling raw JSON 有 70 个 texts
- LightRAG docling IR builder 也合并为 1 个 block
- DOCX prov/bbox 为空，不提供 Word 原生 paraId

native parser 优化后：
- sidecar 写 67 个 content block
- 每个 block 带单段 paraid range
- positions.paraid.anchor 写 paragraph ordinal
- 额外写 text_fingerprint position

因此当前主线选择：优先优化 LightRAG native DOCX sidecar，不切换到 Docling 作为 DOCX 定位主路径。

Docling 保留为外部 parser 能力，适合 PDF/图片/跨格式解析对照；但对 DOCX 回跳原 Word 段落，native 能拿到 paraId，更适合作为定位底座。

2. 设计目标

把 DOCX native sidecar 从 document-sized block 改为 paragraph/section-addressable blocks：

DOCX native parse
  -> paragraphs[]
       text
       paraId
       paragraphOrdinal
       inferred heading
       textFingerprint
  -> blocks.jsonl
       content block per addressable paragraph/table slice
       positions: paraid + paragraph ordinal
       positions: text fingerprint
       heading / parent_headings
  -> LightRAG indexing/query
  -> MNote citation/locator
       chunk/reference -> blockid/positions -> office-preview 定位

3. 当前实施

已在 LightRAG 本地源码完成第一步：

  • lightrag/parser/docx/parse_document.py
    • 新增 addressable_blocks 参数。
    • 新增 Normal 样式报告标题启发式识别。
    • 新增 paragraph-level block 输出。
    • 每个 addressable block 写 paragraph_ordinal 与 text_fingerprint。
  • lightrag/parser/docx/ir_builder.py
    • IRPosition(type="paraid") 的 anchor 写 paragraph ordinal。
    • 追加 IRPosition(type="text_fingerprint")。
  • lightrag/pipeline.py
    • native DOCX production parse path 调用 extract_docx_blocks(..., addressable_blocks=True)。

4. 验证证据

命令：

cd /mnt/Data1T/Mnote_data/lightrag/LightRAG
.venv/bin/python -m lightrag.parser.cli \
  '/mnt/Data1T/Mnote_data/users/mnote-e2e/workspaces/my-space/新页面233155/中国化妆品新原料产业发展调研报告_03（20260410）.docx' \
  --engine native \
  -o /tmp/mnote-lightrag-parser-cosmetics-native-v3 \
  --preview 8

结果：

[sidecar] wrote 67 blocks
positions example:
[
  {"type":"paraid","anchor":4,"range":["6692C49B","6692C49B"]},
  {"type":"text_fingerprint","anchor":"1454ec0b0ffd9fc0"}
]

PDF 对照样本：

/mnt/Data1T/Mnote_data/users/mnote-e2e/workspaces/my-space/新页面233155/parsertest.pdf

MinerU parse 已能输出 positions.type=bbox 与 page anchor，PDF 当前先消费现有 bbox，不作为 7-56 首要补丁对象。

5. 后续收口

  • MNote knowledge_rag mapper 应优先消费 provider sidecar 中的 blockid/positions，逐步退役 query-time quote 反查 block。
  • office-preview 应优先使用 paraid.anchor 或 paraid range 定位；没有可用 paraId 时再用 text_fingerprint/displayQuote 做降级匹配。
  • 重新索引 DOCX 后才能让旧资料库命中使用新 sidecar 粒度。
  • LightRAG 服务需要重启后才会使用本地源码改动。
  • 本轮已执行 systemctl --user restart mnote-lightrag.service，/health 返回 healthy；当前 parser routing 仍是 *:native-iteP,*:mineru-iteP,*:legacy-R，DOCX 默认走 native。

6. MNote 与 LightRAG 的新分工

LightRAG 已提供 keyword / vector / graph / hybrid 检索、rerank、query 与 chunk/reference 返回。MNote 不应继续维护第二套召回、排序或 sidecar exact search 作为主路径。

新的主合同：

MNote
  - source registry：本地路径、allowed roots、索引状态、LightRAG doc/file 映射
  - scope：搜索目录 / 后续排除目录 / 权限过滤
  - facade：把 UI / Page AI 请求转为 LightRAG query/search/data 参数
  - citation：把 LightRAG reference/chunk 归一化为 MNote result/citation
  - locator：消费 LightRAG sidecar positions 并打开原文件

LightRAG
  - parse / OCR / chunk / vector / graph / rerank / hybrid retrieval
  - DOCX native 输出 paraid / paragraph ordinal / text fingerprint
  - PDF/MinerU 输出 page/bbox

因此，MNote 允许保留的“手搓”只限定位适配；定位适配只能消费 LightRAG 已返回的 reference/chunk/source sidecar 信息，不能重新执行一套 MNote 检索或 parser：

  • bbox -> pdf-preview
  • paraid / paragraphOrdinal / textFingerprint -> office-preview
  • blockId / sourceMapPath / evidenceText -> provider 引用后的定位线索

不再作为主路径继续扩写：

  • MNote 独立 sidecar exact search provider
  • MNote query-time DOCX parser
  • MNote 自己 rerank / 多 provider 融合排序
  • MNote query-time sidecar quote 反查
  • 旧 docs_search / mnote.evidence.search / LiteParse local evidence search

7. 退役计划

阶段 A：完成 provider positions 消费。

  • knowledge_rag locator 解析 positions.type=bbox / paraid / text_fingerprint。
  • citation URL 与 resource tab 透传 paragraphOrdinal / paraIdStart / paraIdEnd / textFingerprint。
  • office-preview 优先按段落定位，再回退到当前文本定位。

阶段 B：退役 query-time sidecar 反查与旧 evidence/docs 搜索。

  • 删除 find_lightrag_sidecar_quote_for_query / find_lightrag_sidecar_block_for_query 这类 query-time sidecar quote 反查 helper；MNote 不再用 sidecar 作为检索补召回。
  • docs_search、docs_read、mnote.evidence.* Hermes tool 统一返回退役错误，引导使用 mnote.knowledge_rag.query/open_reference。
  • /api/evidence/search 只保留退役 guard，不再保留可被内部调用的 search_payload。
  • 搜索结果去重可以保留在 MNote locator/result 层，但召回与排序不再依赖 MNote sidecar exact search。
  • /api/knowledge-rag/search 的 mode=exact 走 LightRAG /query/search；mode=mix/local/global/hybrid/naive 走 LightRAG /query/data。
  • 搜索面板“全盘资料库”接入 LightRAG 检索模式：综合 mix、图谱混合 hybrid、向量 naive、实体 local、关系 global、关键词 exact。精确匹配开关会强制走 exact。

阶段 C：退役 MNote parser 主路径。

  • 删除或冻结 MNote 后端 DOCX/PDF parser 参与 RAG 搜索的入口。
  • 保留 source-map / locator 兼容读取，用于历史索引和旧 OCR 结果打开。
  • 新索引统一由 LightRAG parser sidecar 产出定位信息。

8. 不做

  • 不在 MNote 新增一套 DOCX parser。
  • 不把 DOCX 默认切到 Docling。
  • 不在 MNote 实现 rerank；rerank 仍走 LightRAG 原生能力。
  • 不把 DOCX 无 bbox 伪造成 PDF 页内精确定位。

9. Agent / MCP 边界

LightRAG 官方内核不提供 Skill/MCP/plugin 系统；社区已有 lightragmcp、mcp-lightrag 等 MCP server，可把 LightRAG query、文档管理、图谱查询包装成 Agent 工具。这一层适合接给 Reasonix / Hermes / Claude Desktop 这类 Agent runtime，但它不能替代 MNote 的 source registry 与引用打开能力。

推荐边界：

Reasonix / Hermes
  -> 可直接挂 LightRAG MCP：查询、问答、图谱、管理
  -> 返回 LightRAG reference/chunk/citation 数据

MNote
  -> 提供 mnote.knowledge_rag.open_reference 或等价 locator bridge
  -> 把 Agent 引文里的 file_path/chunk_id/blockid/positions 映射到原文件 tab、PDF bbox、DOCX paragraph
  -> 做 allowed roots / workspace source registry / citationUrl

因此更好的长期方案不是在 MNote 内继续手搓搜索工具，而是：

  • Agent 侧：可以挂 lightrag_native=/mnt/Data1T/mnote/scripts/lightrag-native-mcp.sh，让 Agent 原生调用 LightRAG 检索、query_data、图谱、文档和 pipeline 能力；MNote 不把第三方 MCP server 嵌入 Web runtime。
  • MNote 侧：保留极薄的 knowledge_rag.query/search/open_reference facade，服务 UI、权限、source registry 与可点击引用；若 Agent 已直接通过 LightRAG MCP 检索，MNote 只需要 citation bridge。
  • Citation bridge：mnote_lightrag_bridge=/mnt/Data1T/mnote/scripts/mnote-lightrag-mcp.sh 已提供 open_mnote_reference，输入 LightRAG file_path / chunk_id，输出 MNote citationUrl / openAction，不参与检索和排序。

当前本机配置审计：

  • /home/lix/.reasonix/config.json 已配置 lightrag_native=/mnt/Data1T/mnote/scripts/lightrag-native-mcp.sh 与 mnote_lightrag_bridge=/mnt/Data1T/mnote/scripts/mnote-lightrag-mcp.sh。
  • /home/lix/.hermes/profiles/mnote-u-mnote-e2e-default/config.yaml 已配置 lightrag_native 与 mnote_lightrag_bridge MCP server。
  • MNote 内已有 skills/mnote-knowledge-rag/SKILL.md、skills/mnote-lightrag-bridge/SKILL.md 和 Hermes manifest 的 mnote.knowledge_rag.status/query/open_reference，这是当前 agent 调用 LightRAG 后回到 MNote 引用定位的 facade。
  • 包名核验：PyPI 可见 mcp-lightrag 0.2.2 与 lightrag-mcp 0.1.1，但 mcp-lightrag 0.2.2 对当前本机 LightRAG 版本会触发 QueryRequest.__init__() got an unexpected keyword argument 'max_token_for_text_unit'。当前 Reasonix/Hermes 原生 LightRAG MCP 改用 l-pw2c-lightrag-server-mcp@1.2.2，并保留 MNote bridge 做 citation/open-reference 映射。

MCP / MNote tool 变更后的强制验收：

  • 使用 Reasonix ACP / Page AI 发起真实资料库问题，确认 AI 可见回答包含 MNote citation 链接，而不是 raw JSON、provider 内部路径或手写 /documents。
  • 从 AI 回答中点击 citation 链接，必须在 MNote 中打开对应资源 tab；PDF 要落到 page/bbox，DOCX 要落到 paragraph/block，降级资源至少要打开到正确 resource tab 并明确 locatorDegraded。
  • 验收证据必须包含 Reasonix run payload 摘要、回答截图、点击后打开定位截图、console/network 摘要和 result.json。
  • 当前可复用 smoke：scripts/task530-knowledge-rag-page-ai-final-answer-smoke.js，它会使用 Reasonix Page AI 得到 citation，并点击 AI 返回的链接验证 MNote 资源定位打开。
Reference in New Issue View Git Blame Copy Permalink