feat: 图片文字索引按时间分段优先处理最近图片

- 首次索引先处理最近 7 天,再依次回溯 30 天 / 近一年 / 更早历史
 - 完成后新到的图片单独补齐,不受历史回填影响
 - 覆盖度增加时间维度,可区分「最近已完整」与「更早仍在补齐」
This commit is contained in:
Wxw-Gu
2026-09-18 14:39:05 +08:00
parent 12b8fb34c6
commit 0f270366aa
15 changed files with 1917 additions and 183 deletions
+18 -7
View File
@@ -148,7 +148,10 @@ import type { AppLogEntry } from '../shared/app-log'
import { appUpdateService } from './services/app-update-service'
import { clearCache, getCacheSummary, openKnowledgeDirectory } from './services/cache-service'
import { imageTextIndexService } from './services/image-text-index-service'
import type { ImageTextIndexStartOptions } from '../shared/image-text-index'
import {
IMAGE_TEXT_SEGMENT_MESSAGE_LIMIT,
type ImageTextIndexStartOptions
} from '../shared/image-text-index'
import type { CacheClearScope } from './services/cache-service'
import { configureRecallArchive, RecallArchiveMonitor } from './services/recall-archive-service'
import { VideoAssetService } from './video-asset-service'
@@ -703,12 +706,20 @@ app.whenReady().then(async () => {
* 全量读取一个 20 万条消息的会话实测要 15s 以上,而其中 99% 以上的行
* 图片索引根本不看 —— 那是数据边界错了,不是 OCR 慢。
*/
listImageMessages: (conversationId) =>
chat.listImageMessagesAsync(conversationId, undefined, 'image-text-index'),
countConversationImages: (conversationId, sinceMs) =>
chat.countImageMessagesAsync(conversationId, sinceMs),
imageWatermark: (conversationId, sinceMs) =>
chat.imageConversationWatermarkAsync(conversationId, sinceMs),
listImageMessages: (conversationId, window) =>
chat.listImageMessagesAsync(
conversationId,
{
...(window?.sinceMs !== undefined ? { sinceMs: window.sinceMs } : {}),
...(window?.beforeMs !== undefined ? { beforeMs: window.beforeMs } : {}),
limit: IMAGE_TEXT_SEGMENT_MESSAGE_LIMIT
},
'image-text-index'
),
countConversationImages: (conversationId, range) =>
chat.countImageMessagesAsync(conversationId, range),
imageWatermark: (conversationId, range) =>
chat.imageConversationWatermarkAsync(conversationId, range),
decryptService: () => ensureImageDecryptService(),
capability: () => systemOcrService.getCapability(),
/**
+36 -13
View File
@@ -17,6 +17,7 @@ import {
import { mergeRecallArchiveMessages, recordRecallArchiveMessages } from './recall-archive-service'
import type { ExportImageQuality } from '../../shared/image-quality'
import type { ImageMessageCountProbe } from '../../shared/image-text-index'
import { imageTextWindowToSeconds } from '../../shared/image-text-index'
import { wcdbDebugLog } from '../wcdb-debug'
import {
buildContactSearchIndex,
@@ -852,23 +853,45 @@ export async function listMessagesAsync(
*/
export async function listImageMessagesAsync(
userMd5: string,
window: {
/** 闭下界(epoch ms)。 */
sinceMs?: number
/** 开上界(epoch ms)。 */
beforeMs?: number
limit?: number
} = {},
requestId = '',
caller: ListMessagesCaller = 'unknown'
): Promise<FormattedMessage[]> {
if (!dbRef) return []
const perf = emptyPerf(caller, requestId || nextListMessagesRequestId())
const totalStartedAt = Date.now()
// ms 半开区间 → 秒闭区间。换算只有共享契约里那一处实现。
const { sinceSec, beforeSecInclusive } = imageTextWindowToSeconds(window)
const startTime = sinceSec ?? undefined
const endTime = beforeSecInclusive ?? undefined
try {
const rawReadStartedAt = Date.now()
const rawMessages = await dbRef
.getWcdb4Client()
.listImageMessagesAsync(userMd5, { requestId: perf.requestId })
const rawMessages = await dbRef.getWcdb4Client().listImageMessagesAsync(userMd5, {
...(window.sinceMs !== undefined ? { sinceMs: window.sinceMs } : {}),
...(window.beforeMs !== undefined ? { beforeMs: window.beforeMs } : {}),
...(window.limit !== undefined ? { limit: window.limit } : {}),
// recent-first:同一时间窗内**新的图片先处理**。
order: 'desc',
requestId: perf.requestId
})
perf.rawReadMs += Date.now() - rawReadStartedAt
/**
* 时间边界必须同时交给格式化与召回归档合并。
*
* 少了这一步,归档合并会把**窗口之外**的撤回图片补回来 —— 于是"最近 7 天"
* 这一段会混进十年前的消息,分段窗口形同虚设。
*/
const sourceMessages = listSourceMessages(
userMd5,
undefined,
undefined,
undefined,
startTime,
endTime,
window.limit !== undefined ? { limit: window.limit } : undefined,
rawMessages,
perf.requestId,
perf
@@ -880,9 +903,9 @@ export async function listImageMessagesAsync(
const result = mergeRecallArchiveMessages(
userMd5,
sourceMessages,
undefined,
undefined,
undefined
startTime,
endTime,
window.limit
)
perf.sortMs += Date.now() - recallStartedAt
return result
@@ -933,10 +956,10 @@ export async function listMessagesForExport(
*/
export async function countImageMessagesAsync(
userMd5: string,
sinceMs?: number
range?: number | { sinceMs?: number; beforeMs?: number }
): Promise<ImageMessageCountProbe> {
if (!dbRef) return { count: null, typeColumn: null, error: '微信数据库尚未就绪' }
return dbRef.getWcdb4Client().countImageMessagesAsync(userMd5, sinceMs)
return dbRef.getWcdb4Client().countImageMessagesAsync(userMd5, range)
}
/**
@@ -947,10 +970,10 @@ export async function countImageMessagesAsync(
*/
export async function imageConversationWatermarkAsync(
userMd5: string,
sinceMs?: number
range?: number | { sinceMs?: number; beforeMs?: number }
): Promise<{ count: number; maxLocalId: number } | null> {
if (!dbRef) return null
return dbRef.getWcdb4Client().imageConversationWatermarkAsync(userMd5, sinceMs)
return dbRef.getWcdb4Client().imageConversationWatermarkAsync(userMd5, range)
}
export async function countVoiceMessagesAsync(
+499 -88
View File
@@ -17,12 +17,14 @@ import { createHash } from 'node:crypto'
import { existsSync } from 'node:fs'
import {
DEFAULT_IMAGE_TEXT_OCR_CONCURRENCY,
IMAGE_TEXT_BACKFILL_TIER_ORDER,
IMAGE_TEXT_INDEX_BATCH_SIZE,
IMAGE_TEXT_INDEX_PROGRESS_INTERVAL_MS,
IMAGE_TEXT_INDEX_RATE_MIN_SPAN_MS,
IMAGE_TEXT_INDEX_RATE_WINDOW_MS,
IMAGE_OCR_RETRIABLE_FAILURE_STATES,
buildImageOcrArtifactKey,
buildImageTextBackfillSegments,
imageTextProcessedPercent,
isTerminalImageOcrState,
resolveImageTextOcrConcurrency,
@@ -30,8 +32,10 @@ import {
type ImageMessageWatermark,
type ImageOcrPersistedState,
type ImageOcrProvenance,
type ImageTextBackfillSegment,
type ImageTextIndexCountResult,
type ImageTextIndexCoverage,
type ImageTextIndexPhase,
type ImageTextIndexProgress,
type ImageTextIndexRepairResult,
type ImageTextIndexRunState,
@@ -39,7 +43,8 @@ import {
type ImageTextIndexStageTimings,
type ImageTextIndexStartOptions,
type ImageTextIndexStatus,
type ImageTextIndexStorageStats
type ImageTextIndexStorageStats,
type ImageTextTierCoverage
} from '../../shared/image-text-index'
import {
detectSystemOcrImageFormat,
@@ -86,7 +91,16 @@ export interface ImageTextIndexServiceDeps {
* 由 WCDB 在 SQL 层过滤,而不是把整个会话读进来再筛。
* 缺省时回退到 `listMessages`(测试用),但生产必须接上 —— 否则大会话会拖垮一遍 pass。
*/
listImageMessages?: (conversationId: string) => Promise<chat.FormattedMessage[]>
listImageMessages?: (
conversationId: string,
/**
* 时间窗(`[sinceMs, beforeMs)`,半开)。不传 = 整个会话。
*
* recent-first 的分段计划靠它把"最近 7 天"和"更早"分开,而不是把整个会话
* 读进来再在 JS 里筛 —— 那正是大会话跑不动的根因。
*/
window?: { sinceMs?: number; beforeMs?: number }
) => Promise<chat.FormattedMessage[]>
/**
* 单个会话的图片消息计数(SQL 统计,不解密)。
*
@@ -94,7 +108,7 @@ export interface ImageTextIndexServiceDeps {
*/
countConversationImages?: (
conversationId: string,
sinceMs?: number
range?: number | { sinceMs?: number; beforeMs?: number }
) => Promise<ImageMessageCountProbe>
/**
* 单个会话的图片消息增量水位(条数 + 最大插入序),SQL 聚合,不解密。
@@ -103,7 +117,7 @@ export interface ImageTextIndexServiceDeps {
*/
imageWatermark?: (
conversationId: string,
sinceMs?: number
range?: number | { sinceMs?: number; beforeMs?: number }
) => Promise<ImageMessageWatermark | null>
decryptService?: () => ImageDecryptService | null
/** 本地 OCR。 */
@@ -289,6 +303,14 @@ export class ImageTextIndexService {
private counting = false
private listeners = new Set<(status: ImageTextIndexStatus) => void>()
private lastError: string | undefined
/**
* 当前阶段(recent-first 可见性)。
*
* 它**不参与进度计算**:总进度永远是 `processed / totalImageMessages`。
*/
private currentPhase: ImageTextIndexPhase = 'complete'
/** 本遍 pass 的起点,用于 `preLoop.startupMs`。 */
private passStartedAt = 0
private startedAt: number | undefined
/** 上一次清理实际重建(失效)了多少个会话的 Knowledge 索引;用于诊断与测试。 */
lastInvalidatedConversations = 0
@@ -602,6 +624,20 @@ export class ImageTextIndexService {
* 它必须阻断 `complete` —— 否则 Query Agent 会拿着"覆盖完整"去回答"没有"。
*/
const systemicFailure = processed > 0 && indexed === 0 && empty === 0 && missing === 0
/**
* 覆盖完整性。
*
* 分母取自流水线**真实走过**的集合时(`useScan`),不再要求 `counted.complete`:
* 那个标志表达的是"`countImageMessages()` 把每个会话都数上了",而进度现在已经
* 不用那个分母了。继续要求它,会让一个**已经跑完**的索引因为"某个会话数不上"
* 而永远停在"部分完成"。
*/
const complete =
total > 0 &&
runtimeUnavailable === 0 &&
!systemicFailure &&
processed >= total &&
(useScan || (counted !== null && counted.complete))
return {
totalImageMessages: total,
processed,
@@ -613,22 +649,11 @@ export class ImageTextIndexService {
pending: Math.max(0, total - processed - runtimeUnavailable),
// 从未统计过总数 → 不算"已建立":不知道分母就不允许声称覆盖。
established: counted !== null && (processed > 0 || runtimeUnavailable > 0),
/**
* 覆盖完整性。
*
* 分母取自流水线**真实走过**的集合时(`useScan`),不再要求 `counted.complete`:
* 那个标志表达的是"`countImageMessages()` 把每个会话都数上了",而进度现在已经
* 不用那个分母了。继续要求它,会让一个**已经跑完**的索引因为"某个会话数不上"
* 而永远停在"部分完成"。
*/
complete:
total > 0 &&
runtimeUnavailable === 0 &&
!systemicFailure &&
processed >= total &&
(useScan || (counted !== null && counted.complete)),
complete,
systemicFailure,
countedAt: counted?.countedAt ?? null
countedAt: counted?.countedAt ?? null,
// recent-first 的时间维度:让调用方能回答"这一段时间能不能下确定性结论"。
...this.tierCoverageSnapshot(complete)
}
}
@@ -672,7 +697,14 @@ export class ImageTextIndexService {
cancellable: this.running,
paused: this.runState === 'paused',
...this.rateSnapshot(coverage.processed, total),
...(this.lastError ? { lastError: this.lastError } : {})
...(this.lastError ? { lastError: this.lastError } : {}),
// 阶段提示只在"真的在做这件事"时给:运行/暂停时报当前分段;整体完成时报完成。
// 其余情况(idle / cancelled 且未完成)不给 —— 宁可不说,也不给一句过期的阶段。
...(this.running || this.runState === 'paused'
? { currentPhase: this.currentPhase }
: coverage.complete
? { currentPhase: 'complete' as ImageTextIndexPhase }
: {})
}
}
@@ -713,7 +745,9 @@ export class ImageTextIndexService {
established: false,
complete: false,
systemicFailure: false,
countedAt: null
countedAt: null,
tiers: [],
coveredToMs: null
},
storage: this.emptyStorage(),
counting: this.counting
@@ -1265,6 +1299,22 @@ export class ImageTextIndexService {
return { started: true, state: this.runState }
}
/**
* 一次索引 pass。
*
* recent-first 的核心:**外层是时间分段,内层才是会话**。
*
* 为什么不能只把会话列表按"最近活跃"排序就完事:那只保证"先把 A 群全部历史扫完",
* 而用户要的是"最近这几天的图片,不管在哪个群,都先能搜"。所以必须分段优先 ——
* 先把最近 7 天在所有会话上横着扫完,再退到下一个更老的分段。
*
* 四条不可动摇的性质:
* 1. **锚点固定**:backfill 的 `anchorMs` 一旦落盘就不再变,分段边界因此稳定,
* 不会"跑几小时后 7 天窗口往前挪"。
* 2. **新消息永远优先**:比锚点更新的图片由"增量补齐"负责,且它在每个调度点之前跑。
* 3. **已完成的分段不重扫**;已 terminal 的 binding 永远跳过(不重复 OCR)。
* 4. **进度不骗人**:总进度始终是 `processed / total`,分段只提供阶段文案。
*/
private async runPass(options: ImageTextIndexStartOptions): Promise<void> {
const store = this.ensureStore()
if (!store) {
@@ -1276,6 +1326,8 @@ export class ImageTextIndexService {
// 进入图片流水线之前的一次性成本:单列出来,避免被摊进"每张图片"。
const preLoopStartedAt = this.now()
// `startupMs` 的参照点。逐会话逻辑被抽成独立方法之后,它必须放在实例上。
this.passStartedAt = preLoopStartedAt
const capability = (await this.deps.capability?.()) ?? null
if (capability && !capability.available) {
this.lastError = '当前系统不支持本地图片文字识别'
@@ -1323,16 +1375,261 @@ export class ImageTextIndexService {
* `startupMs` 的取样点必须是"第一张图片进入流水线的那一刻",不能在这里就记 ——
* 否则会话级的准备成本会漏在外面,而那正是"单张很快、整遍很慢"的差额来源之一。
*/
let preLoopCaptured = false
const preLoopState = { captured: false }
const scanState = store.readScanState()
let budget = options.messageLimit && options.messageLimit > 0 ? options.messageLimit : Infinity
const budget = {
remaining: options.messageLimit && options.messageLimit > 0 ? options.messageLimit : Infinity
}
/**
* 受控窗口(用于小样本验证):只跑这一个窗口,**不写任何分段状态**,
* 因此同一个窗口可以反复跑(checkpoint 是围绕全量集合建立的,混用会让"跳过"
* 变得不可解释)。
*/
const windowed = Boolean(options.sinceMs && options.sinceMs > 0)
const plan = this.resolveBackfillPlan(store, options)
/**
* 升级场景:老版本可能已经把**全量**图片索引建完了。此时库里没有任何分段信息,
* 应当直接落成"全部完成",不重新回填 —— 用户已经拥有的东西不能被降级。
*
* 但**不能只看库里自称的进度**:`readScanProgress()` 记的是"上一次跑完时留下了多少",
* 它不知道源里后来又新增了图片。只信它就会把"库里自称已完成、源侧其实有新增"
* 误判成"全部完成",于是那些新增的图片永远不会被索引。
*
* 所以必须先向**源侧**核实:逐会话比对插入序水位,只有确实没有新内容时才算数。
* 这次核实本身就是增量补齐(水位没涨的会话一条 SQL 就跳过),不会白跑。
*/
if (!windowed && plan.created) {
const existing = this.coverageFromCounts(store.countByState())
if (existing.complete) {
const verified = await this.processWindow({
window: null,
incremental: true,
contacts,
provenance,
store,
budget,
scanState,
preLoopState,
marksConversationDone: true
})
if (!verified.interrupted && !verified.truncated && verified.imageCount === 0) {
for (const tier of IMAGE_TEXT_BACKFILL_TIER_ORDER) {
store.writeBackfillTierState(tier, 'complete')
}
store.writeBackfillCoveredToMs(this.now())
this.currentPhase = 'complete'
this.runState = 'completed'
this.running = false
await this.emit()
return
}
}
}
const lastSegment = plan.segments[plan.segments.length - 1]
/**
* 增量补齐跑过没有(本次 pass)。
*
* 它必须**独立于"本分段要不要扫"**:所有分段都已完成时,仍然需要一次补齐,
* 否则"全部建完之后新到的图片"就再也没人接。
*/
let swept = false
for (const segment of plan.segments) {
if (this.cancelRequested || this.pauseRequested || budget.remaining <= 0) break
const tierState = windowed ? null : store.readBackfillState().tierStates[segment.tier]
// 已完成的分段不再重扫 —— restart / resume 因此从**当前**分段继续,
// 而不是回到最近 7 天把已经做过的事再做一遍。
const shouldScan = windowed || tierState !== 'complete'
/**
* 增量补齐:**每个调度点先跑一次**,且本 pass 至少跑一次。
*
* 排在历史分段之前,是为了"绝不会因为正在扫十年前的历史,让今天新收到的图片排队";
* 即使分段全部完成、本 pass 没有任何分段要扫,也仍然要跑一次。
*/
if (!windowed && (!swept || shouldScan)) {
const interrupted = await this.sweepIncremental({
plan,
contacts,
provenance,
store,
budget,
scanState,
preLoopState
})
swept = true
if (interrupted) break
}
if (!shouldScan) continue
this.currentPhase = windowed ? 'incremental' : segment.tier
if (!windowed) store.writeBackfillTierState(segment.tier, 'running')
await this.emit()
const scanned = await this.processWindow({
window: { sinceMs: segment.startMs, beforeMs: segment.endMs },
incremental: false,
contacts,
provenance,
store,
budget,
scanState,
preLoopState,
marksConversationDone: !windowed && segment === lastSegment
})
// 被取消 / 暂停 / 预算截断 → 这一段**没有**跑完,绝不能标成 complete。
if (scanned.interrupted || scanned.truncated) break
if (!windowed) store.writeBackfillTierState(segment.tier, 'complete')
await this.emit()
}
if (this.cancelRequested) this.runState = 'cancelled'
else if (this.pauseRequested) this.runState = 'paused'
else this.runState = 'completed'
// 只有真正跑完全部分段才把阶段切成"完成";中途停下时保留当前阶段(那才是实话)。
if (this.runState === 'completed' && !windowed) this.currentPhase = 'complete'
this.running = false
await this.emit()
}
/**
* 解析本次 pass 的分段计划。
*
* 计划一律由**落盘的锚点**派生:锚点不随 pass 变化,所以"跑了几小时之后
* 7 天窗口往前漂移、进而产生重复或遗漏"在结构上就不可能发生。
*/
private resolveBackfillPlan(
store: ImageTextIndexStore,
options: ImageTextIndexStartOptions
): { anchorMs: number; segments: ImageTextBackfillSegment[]; created: boolean } {
if (options.sinceMs && options.sinceMs > 0) {
// 受控窗口:单段、无上界、不落任何分段状态。
return {
anchorMs: options.sinceMs,
segments: [
{ tier: 'recent_7d', startMs: options.sinceMs, endMs: Number.POSITIVE_INFINITY }
],
created: false
}
}
const state = store.readBackfillState()
if (state.anchorMs !== null) {
return {
anchorMs: state.anchorMs,
segments: buildImageTextBackfillSegments(state.anchorMs),
created: false
}
}
const anchorMs = this.now()
store.writeBackfillAnchor(anchorMs)
for (const tier of IMAGE_TEXT_BACKFILL_TIER_ORDER) {
store.writeBackfillTierState(tier, 'pending')
}
return { anchorMs, segments: buildImageTextBackfillSegments(anchorMs), created: true }
}
/**
* 增量补齐:把"锚点之后新到的东西"处理掉,永远排在历史分段之前。
*
* 窗口 = `[max(锚点, 上次补齐水位), +∞)`,只覆盖新到的东西,所以刚建计划时
* 它在时间上是空的、连枚举都省掉。水位可用时另有一层判据:插入序没涨的会话
* 直接跳过,涨了的会话则**去掉时间窗**读(见 `processWindow`)。
*
* 返回 true = 被取消 / 暂停 / 预算截断。
*/
private async sweepIncremental(input: {
plan: { anchorMs: number; segments: ImageTextBackfillSegment[] }
contacts: Array<{ md5: string; m_nsUsrName: string; type: 'user' | 'group' }>
provenance: ImageOcrProvenance
store: ImageTextIndexStore
budget: { remaining: number }
scanState: Map<
string,
{ state: string; imageTotal: number; processed: number; maxLocalId: number }
>
preLoopState: { captured: boolean }
}): Promise<boolean> {
const incrementalSinceMs = Math.max(
input.plan.anchorMs,
input.store.readBackfillState().coveredToMs ?? 0
)
// 窗口在时间上必然为空 → 直接跳过,省掉一轮枚举。
if (this.now() - incrementalSinceMs < 1_000) return false
const swept = await this.processWindow({
window: { sinceMs: incrementalSinceMs },
incremental: true,
contacts: input.contacts,
provenance: input.provenance,
store: input.store,
budget: input.budget,
scanState: input.scanState,
preLoopState: input.preLoopState,
marksConversationDone: false
})
// 只有真的扫完(没被取消 / 暂停 / 预算截断)才推进水位,否则会漏掉没扫到的部分。
if (!swept.interrupted && !swept.truncated && input.budget.remaining > 0) {
input.store.writeBackfillCoveredToMs(this.now())
}
return swept.interrupted || swept.truncated
}
/**
* 处理一个窗口(`null` = 不看时间,用于受控小样本验证)。
*
* 每个会话先做两条**纯 SQL 聚合**:源侧水位 + 窗口内图片条数。
* 条数为 0 就整段跳过 —— 不读消息、不解密、不写任何"完成"标记。
*/
private async processWindow(input: {
window: { sinceMs?: number; beforeMs?: number } | null
/**
* 增量补齐模式。
*
* - 水位**可用**且水位涨了 → 去掉时间窗读这个会话(接得住晚到的旧时间消息);
* - 水位可用且没涨 → 跳过;
* - 水位**不可用** → 按时间窗兜底重扫:宁可慢,也不允许因为判据拿不到就漏。
*/
incremental: boolean
contacts: Array<{ md5: string; m_nsUsrName: string; type: 'user' | 'group' }>
provenance: ImageOcrProvenance
store: ImageTextIndexStore
budget: { remaining: number }
scanState: Map<
string,
{ state: string; imageTotal: number; processed: number; maxLocalId: number }
>
preLoopState: { captured: boolean }
/** 本窗口扫完是否意味着该会话**全部**图片都已定态(最后一个分段)。 */
marksConversationDone: boolean
}): Promise<{ interrupted: boolean; imageCount: number; truncated: boolean }> {
const { incremental, contacts, provenance, store, budget, scanState } = input
let imageCount = 0
/**
* 预算被截断。
*
* 必须与"跑完了"区分开:被截断的分段**不能**被标记成 complete ——
* 否则下一次 pass 会以"这一段已完成"跳过,被截掉的那些图片就永远不会被处理。
*/
let truncated = false
for (const contact of contacts) {
if (this.cancelRequested || this.pauseRequested) break
if (budget <= 0) break
if (this.cancelRequested || this.pauseRequested) {
return { interrupted: true, imageCount, truncated }
}
if (budget.remaining <= 0) {
truncated = true
break
}
const conversationId = contact.md5
const previous = scanState.get(conversationId)
/**
* 会话级准备:水位 / 计数 / 让路 / 读消息。
*
@@ -1341,45 +1638,66 @@ export class ImageTextIndexService {
* 而 `perImageMs` 只覆盖 batch 循环,看不到它。
*/
const setupStartedAt = this.now()
/**
* 是否只处理一个时间窗口(用于小样本验证)。
* 源侧水位:`count` + `max(local_id)`,一条 SQL 聚合(**整会话**,不带窗口)。
*
* 带窗口时**不做增量跳过**:checkpoint 是围绕全量集合建立的,
* 窗口内的图片可能从未被处理过,继续按"该会话已完成"跳过会让窗口形同虚设。
* 增量判据用 `maxLocalId` 而不是 create_time:`local_id` 是 WCDB 行内单调的
* 插入序,因此"撤回一张旧图 + 新增一张新图"这种总数不变的变更也能被发现,
* 而 create_time 会被"晚到的旧时间消息"骗过。
*/
const windowed = Boolean(options.sinceMs && options.sinceMs > 0)
// 增量水位 = 条数 + 最大插入序。只比条数会漏掉「撤回一张旧图 +
// 新增一张新图」这种总数不变、集合却变了的会话。
const watermark = await (this.deps.imageWatermark?.(conversationId, options.sinceMs) ??
Promise.resolve(null))
const imageTotal =
watermark?.count ??
(await this.deps.countConversationImages?.(conversationId, options.sinceMs))?.count ??
0
if (imageTotal === 0) {
const watermark = await (this.deps.imageWatermark?.(conversationId) ??
Promise.resolve<ImageMessageWatermark | null>(null))
/**
* 这一段对这个会话实际要读的时间窗。
*
* `null` = 不看时间(整会话,新 → 旧)。
*/
let effectiveWindow = input.window
if (incremental && watermark !== null && previous !== undefined) {
// 水位可用:没涨就代表确实没有新内容,跳过(不读消息、不查窗口)。
if (previous.maxLocalId > 0 && watermark.maxLocalId <= previous.maxLocalId) {
this.preLoop.conversationSetupMs += this.now() - setupStartedAt
continue
}
/**
* 判据可用且涨了 → **去掉时间窗**读这个会话。
*
* 为什么不能只读"锚点之后":`local_id` 是插入序,而 `create_time` 是业务时间,
* 两者可以不一致 —— 网络补发、消息恢复、合并转发回填都会让一条**旧时间**的
* 消息在今天才落库。只按时间窗读就永远接不到它,用户会"搜不到明明收到过的图"。
* 代价只落在真的发生了插入的会话上,而每一轮之后水位即被推平。
*/
effectiveWindow = null
}
const windowArg = effectiveWindow === null ? undefined : effectiveWindow
/**
* 窗口内是否有图片:一条 SQL COUNT。
*
* `count === null` 是**统计失败,不是 0 张** —— 必须跳过并且不写任何完成标记,
* 否则这段会被当成"已覆盖",把数不出来谎报成没有图片。
*/
const probe = await (this.deps.countConversationImages?.(
conversationId,
windowArg
) ?? Promise.resolve<ImageMessageCountProbe>({ count: null, typeColumn: null }))
if (probe.count === null) {
this.preLoop.conversationSetupMs += this.now() - setupStartedAt
store.writeScanState({
conversationId,
state: 'done',
imageTotal: 0,
imageProcessed: 0,
maxLocalId: watermark?.maxLocalId ?? 0
})
continue
}
// 增量:会话已完成且**水位完全未变** → 不读 WCDB、不 OCR。
// 水位不可用时(数据库不支持该聚合)一律重扫:宁可慢,不可漏。
const previous = scanState.get(conversationId)
if (
!windowed &&
watermark &&
previous &&
previous.state === 'done' &&
previous.imageTotal === watermark.count &&
previous.maxLocalId === watermark.maxLocalId
) {
const imageTotal = probe.count
if (imageTotal === 0) {
this.preLoop.conversationSetupMs += this.now() - setupStartedAt
this.rememberConversationWatermark({
store,
scanState,
conversationId,
watermark,
processed: previous?.processed ?? 0,
marksConversationDone: input.marksConversationDone
})
continue
}
@@ -1401,34 +1719,47 @@ export class ImageTextIndexService {
try {
const source = await this.runStep('list-image-messages', () =>
this.deps.listImageMessages
? this.deps.listImageMessages(conversationId)
? this.deps.listImageMessages(conversationId, windowArg)
: (this.deps.listMessages?.(conversationId) ?? Promise.resolve([]))
)
imageMessages = source
// 专用路径仍要过滤:召回归档合并可能补进非图片的撤回消息。
.filter(isImageMessage)
// 时间窗过滤:小样本验证时只看窗口内的图片,不然还是在跑全量。
.filter((message) =>
windowed ? (message.createTime || 0) * 1000 >= (options.sinceMs as number) : true
)
// 时间窗过滤:兼容路径没有 SQL 层窗口,只能在这里筛;这也让小样本验证
// 的语义与专用路径一致。
.filter((message) => {
if (effectiveWindow === null) return true
const createTimeMs = (message.createTime || 0) * 1000
if (effectiveWindow.sinceMs !== undefined && createTimeMs < effectiveWindow.sinceMs) {
return false
}
if (effectiveWindow.beforeMs !== undefined && createTimeMs >= effectiveWindow.beforeMs) {
return false
}
return true
})
} catch {
imageMessages = []
}
this.preLoop.listMessagesMs += this.now() - listStartedAt
this.preLoop.conversationSetupMs += this.now() - setupStartedAt
if (!imageMessages.length) {
store.writeScanState({
this.rememberConversationWatermark({
store,
scanState,
conversationId,
state: 'done',
imageTotal: 0,
imageProcessed: 0,
maxLocalId: 0
watermark,
processed: previous?.processed ?? 0,
marksConversationDone: input.marksConversationDone
})
continue
}
// 水位取**实际读到的**消息里最大的 local_id,而不是源侧水位:
// 万一在我们查水位之后、读消息之前又落了一条新图,用观测值会让下一轮
// 发现"源水位更高"从而重扫(安全);用源侧水位则会把它永久跳过(漏索引)。
imageCount += imageMessages.length
/**
* 水位取**实际读到的**消息里最大的 local_id,而不是源侧水位:
* 万一在我们查水位之后、读消息之前又落了一条新图,用观测值会让下一轮
* 发现"源水位更高"从而重扫(安全);用源侧水位则会把它永久跳过(漏索引)。
*/
const observedMaxLocalId = imageMessages.reduce(
(max, message) => Math.max(max, Number(message.localId) || 0),
0
@@ -1441,9 +1772,9 @@ export class ImageTextIndexService {
this.knowledgeDirty = false
for (let index = 0; index < imageMessages.length; index += IMAGE_TEXT_INDEX_BATCH_SIZE) {
if (!preLoopCaptured) {
preLoopCaptured = true
this.preLoop.startupMs = this.now() - preLoopStartedAt
if (!input.preLoopState.captured) {
input.preLoopState.captured = true
this.preLoop.startupMs = this.now() - this.passStartedAt
}
if (this.cancelRequested || this.pauseRequested) {
interrupted = true
@@ -1456,9 +1787,9 @@ export class ImageTextIndexService {
conversationId,
provenance,
ocrByMessage,
() => budget > 0,
() => budget.remaining > 0,
() => {
budget -= 1
budget.remaining -= 1
}
)
processedInConversation += batchResult.processed
@@ -1481,23 +1812,39 @@ export class ImageTextIndexService {
* 写 `done` 会让下一遍按水位错误跳过这些图片(**永久漏索引**),
* 或者让用户以为这个会话已经处理完。预算耗尽只能记 `partial`。
*/
if (interrupted || budget <= 0) {
if (interrupted || budget.remaining <= 0) {
store.writeScanState({
conversationId,
state: 'partial',
imageTotal: imageMessages.length,
/**
* **整会话**的图片总数,不是本窗口的条数。
*
* `image_ocr_scan_state.image_total` 是进度的分母(`readScanProgress()` 求和);
* 把某个分段的窗口条数写进去,分母就会缩到"这一段处理了多少",
* 于是总进度会突然跳到接近 100% —— 那是这个功能最不能犯的谎。
*/
imageTotal: watermark?.count ?? previous?.imageTotal ?? imageMessages.length,
imageProcessed: processedInConversation,
maxLocalId: observedMaxLocalId
})
break
scanState.set(conversationId, {
state: 'partial',
imageTotal: imageMessages.length,
processed: previous?.processed ?? 0,
maxLocalId: observedMaxLocalId
})
truncated = true
return { interrupted: true, imageCount, truncated }
}
store.writeScanState({
this.rememberConversationWatermark({
store,
scanState,
conversationId,
state: 'done',
imageTotal: imageMessages.length,
imageProcessed: processedInConversation,
maxLocalId: observedMaxLocalId
watermark,
processed: (previous?.processed ?? 0) + processedInConversation,
marksConversationDone: input.marksConversationDone,
observedMaxLocalId
})
/**
@@ -1530,13 +1877,77 @@ export class ImageTextIndexService {
await this.emit()
}
if (this.cancelRequested) this.runState = 'cancelled'
else if (this.pauseRequested) this.runState = 'paused'
else this.runState = 'completed'
this.running = false
await this.emit()
return { interrupted: false, imageCount, truncated }
}
/**
* 写入会话 checkpoint。
*
* 存的是**源侧水位**(整会话的 count / maxLocalId),不是窗口内的观测值:
* 增量补齐的判据必须是"源有没有变",用窗口观测值会让每次窗口扫描都改水位,
* 于是增量判断永远为真 —— 表现就是"每轮都重扫一遍"。
*/
private rememberConversationWatermark(input: {
store: ImageTextIndexStore
scanState: Map<
string,
{ state: string; imageTotal: number; processed: number; maxLocalId: number }
>
conversationId: string
watermark: ImageMessageWatermark | null
processed: number
marksConversationDone: boolean
observedMaxLocalId?: number
}): void {
const { store, scanState, conversationId, watermark, processed, marksConversationDone } = input
const previous = scanState.get(conversationId)
const state: 'done' | 'partial' =
marksConversationDone && previous?.state !== 'partial' ? 'done' : 'partial'
const imageTotal = watermark?.count ?? previous?.imageTotal ?? 0
const maxLocalId = watermark?.maxLocalId ?? input.observedMaxLocalId ?? previous?.maxLocalId ?? 0
store.writeScanState({
conversationId,
state,
imageTotal,
imageProcessed: processed,
maxLocalId
})
scanState.set(conversationId, { state, imageTotal, processed, maxLocalId })
}
/**
* 分段覆盖度(recent-first 的时间维度)。
*
* 三种情形必须分清:
* - 从未规划过(新用户 / 旧版本)→ `tiers: []`,调用方只能按整体状态判断。
* - 规划过 → 逐段给出真实运行态。
* - **整体已经 complete** → 一律表达为"全部完成"。老版本已经把全量索引建完的账号,
* 升级后不能被重新拉回去做 backfill,也不能因为"没有分段信息"而让 Query Agent
* 以为历史还没扫完。
*/
private tierCoverageSnapshot(complete: boolean): {
tiers: ImageTextTierCoverage[]
coveredToMs: number | null
} {
const store = this.store
if (!store) return { tiers: [], coveredToMs: null }
const state = store.readBackfillState()
const anchorMs =
state.anchorMs ?? (complete ? (store.readCountedTotal()?.countedAt ?? this.now()) : null)
if (anchorMs === null) return { tiers: [], coveredToMs: state.coveredToMs }
const tiers: ImageTextTierCoverage[] = buildImageTextBackfillSegments(anchorMs).map(
(segment) => ({
tier: segment.tier,
state: complete ? 'complete' : (state.tierStates[segment.tier] ?? 'pending'),
startMs: segment.startMs,
endMs: segment.endMs
})
)
const coveredToMs = complete ? Math.max(state.coveredToMs ?? 0, anchorMs) : state.coveredToMs
return { tiers, coveredToMs }
}
// --------------------------------------------------------------- 控制接口
pause(): { paused: boolean; state: ImageTextIndexRunState } {
+78 -2
View File
@@ -13,11 +13,14 @@ import { mkdirSync, rmSync, statSync, existsSync } from 'node:fs'
import { dirname, join, resolve } from 'node:path'
import { DatabaseSync } from 'node:sqlite'
import {
IMAGE_TEXT_BACKFILL_TIER_ORDER,
IMAGE_TEXT_INDEX_SCHEMA_VERSION,
type ImageOcrArtifact,
type ImageOcrBinding,
type ImageOcrPersistedState,
type ImageTextIndexStorageStats
type ImageTextBackfillTier,
type ImageTextIndexStorageStats,
type ImageTextTierRunState
} from '../../shared/image-text-index'
const MAX_SAFE_ACCOUNT_SEGMENT = /^[a-f0-9]{32}$/
@@ -374,6 +377,76 @@ export class ImageTextIndexStore {
this.writeMeta('total_image_messages_complete', input.complete ? '1' : '0')
}
// ---------------------------------------------------- recent-first 回填状态
//
// 全部走 `image_ocr_meta`(key/value),**不加表、不加列** —— 这是 old checkpoint
// 兼容性的来源:旧库没有这些 key 时读出来就是"没有计划",于是下一次 pass
// 以当前时刻为锚点重新建计划。已经处理过的图片由 terminal binding 兜住,
// 不会因为"计划是新的"而重新 OCR。
/**
* 读取回填计划状态。
*
* `anchorMs === null` = 从未规划过(新用户,或从旧版本升级且没有这些 key)。
* 调用方此时必须**新建**计划,而不是假设"已完成"。
*/
readBackfillState(): {
anchorMs: number | null
tierStates: Partial<Record<ImageTextBackfillTier, ImageTextTierRunState>>
coveredToMs: number | null
} {
const anchorRaw = this.readMeta('backfill_anchor_ms')
const anchorMs = anchorRaw === null ? null : Number(anchorRaw)
let tierStates: Partial<Record<ImageTextBackfillTier, ImageTextTierRunState>> = {}
const statesRaw = this.readMeta('backfill_tier_states')
if (statesRaw) {
try {
const parsed = JSON.parse(statesRaw) as Record<string, unknown>
for (const tier of IMAGE_TEXT_BACKFILL_TIER_ORDER) {
const value = parsed[tier]
if (value === 'pending' || value === 'running' || value === 'complete') {
tierStates[tier] = value
}
}
} catch {
// 状态串损坏时按"没有分段状态"处理:最坏情况是重扫一遍,
// 而 terminal binding 保证不会重复 OCR。
tierStates = {}
}
}
const coveredRaw = this.readMeta('backfill_covered_to_ms')
const coveredToMs = coveredRaw === null ? null : Number(coveredRaw)
return {
anchorMs: anchorMs !== null && Number.isFinite(anchorMs) ? anchorMs : null,
tierStates,
coveredToMs: coveredToMs !== null && Number.isFinite(coveredToMs) ? coveredToMs : null
}
}
writeBackfillAnchor(anchorMs: number): void {
this.writeMeta('backfill_anchor_ms', String(Math.floor(anchorMs)))
}
/**
* 写入单个分段的运行态。
*
* 一个 pass 是单线程串行推进分段,所以"读-改-写"整体落在一条 meta 行里;
* 这里额外做的只有"保留其它分段"。
*/
writeBackfillTierState(tier: ImageTextBackfillTier, state: ImageTextTierRunState): void {
const current = this.readBackfillState().tierStates
const next = { ...current, [tier]: state }
this.writeMeta('backfill_tier_states', JSON.stringify(next))
}
/** 增量补齐水位:处理到哪儿了(`create_time <= ms` 都已就绪)。只增不减。 */
writeBackfillCoveredToMs(coveredToMs: number): void {
const previous = this.readBackfillState().coveredToMs
if (previous !== null && previous >= coveredToMs) return
this.writeMeta('backfill_covered_to_ms', String(Math.floor(coveredToMs)))
}
readScanState(): Map<
string,
{ state: string; imageTotal: number; processed: number; maxLocalId: number }
@@ -563,7 +636,10 @@ export class ImageTextIndexStore {
DELETE FROM image_ocr_meta WHERE key IN (
'total_image_messages',
'total_image_counted_at',
'total_image_messages_complete'
'total_image_messages_complete',
'backfill_anchor_ms',
'backfill_tier_states',
'backfill_covered_to_ms'
);
`)
}
+15 -1
View File
@@ -29,7 +29,9 @@ import {
normalizeMessageIdentity
} from '../../shared/local-query-api'
import {
IMAGE_TEXT_BACKFILL_TIER_LABEL,
describeImageTextCoverage,
describeImageTextCoveredRanges,
imageTextCoverageState,
type ImageTextIndexCoverage
} from '../../shared/image-text-index'
@@ -144,6 +146,17 @@ export function buildImageOcrCoverage(
? `(图片数量统计于 ${formatLocalMinute(coverage.countedAt)})`
: ''
const base = describeImageTextCoverage(coverage)
/**
* recent-first 之后必须把"哪段时间能下确定性结论"一起给出。
*
* 否则模型只看一个总百分比:30% 时它会以为连最近一周都不可信(过度保守没坏处),
* 但 99% 时它会以为"去年也能放心下结论"(这就把索引缺口说成了事实空缺)。
*/
const tiers = coverage.tiers ?? []
const coveredRanges = tiers
.filter((entry) => entry.state === 'complete')
.map((entry) => IMAGE_TEXT_BACKFILL_TIER_LABEL[entry.tier])
const rangeNote = tiers.length ? describeImageTextCoveredRanges(coverage) : ''
return {
state,
totalImageMessages: coverage.totalImageMessages,
@@ -154,10 +167,11 @@ export function buildImageOcrCoverage(
failed: coverage.failed,
pending: coverage.pending,
...(coverage.countedAt ? { countedAtLabel: formatLocalMinute(coverage.countedAt) } : {}),
...(coveredRanges.length ? { coveredRanges } : {}),
summary:
state === 'complete'
? `${base}${countedNote}`
: `${base}${countedNote}${IMAGE_OCR_ZERO_RESULT_CAUTION}`
: `${base}${countedNote}${rangeNote}${IMAGE_OCR_ZERO_RESULT_CAUTION}`
}
}
+69 -13
View File
@@ -7,6 +7,7 @@ import { createConnection, Socket } from 'net'
import { getResourceRoots } from './resource-paths'
import { wcdbDebugLog } from './wcdb-debug'
import type { ImageMessageCountProbe } from '../shared/image-text-index'
import { imageTextWindowToSeconds } from '../shared/image-text-index'
export interface Wcdb4Session {
username: string
@@ -1352,13 +1353,53 @@ export class Wcdb4Client {
return value
}
/** 图片消息的 WHERE 片段;`sinceMs` 用于只统计某个时间点之后的消息(测试小窗口)。 */
private imageMessageWhere(column: string, sinceMs?: number): string {
const clauses = [`(${this.quoteSqlIdentifier(column)} & 65535) = 3`]
// 微信的 create_time 是**秒**,调用方给的是毫秒。
if (sinceMs && Number.isFinite(sinceMs) && sinceMs > 0) {
clauses.push(`"create_time" >= ${Math.floor(sinceMs / 1000)}`)
/**
* 归一化图片消息的时间范围参数。
*
* 同时接受旧的裸 `sinceMs` 与新的 `{ sinceMs, beforeMs }`:
* 前者有若干既有调用点(统计卡片、增量水位),不该为了新功能去改它们;
* 后者是 recent-first 分段计划要的半开区间。
*/
private normalizeImageRange(
input?: number | { sinceMs?: number; beforeMs?: number }
): { sinceMs?: number; beforeMs?: number } {
if (typeof input === 'number') {
return Number.isFinite(input) && input > 0 ? { sinceMs: input } : {}
}
if (!input) return {}
const range: { sinceMs?: number; beforeMs?: number } = {}
if (typeof input.sinceMs === 'number' && Number.isFinite(input.sinceMs) && input.sinceMs > 0) {
range.sinceMs = input.sinceMs
}
if (
typeof input.beforeMs === 'number' &&
Number.isFinite(input.beforeMs) &&
input.beforeMs > 0
) {
range.beforeMs = input.beforeMs
}
return range
}
/**
* 图片消息的 WHERE 片段;`[sinceMs, beforeMs)` 半开区间。
*
* 边界换算**只走** `imageTextWindowToSeconds`:COUNT 与列表两条路径必须用
* 同一份换算,否则"统计说有 3 张、列表却返回 2 张",而调用方会据此把一段
* 标成"已覆盖"。
*/
private imageMessageWhere(
column: string,
input?: number | { sinceMs?: number; beforeMs?: number }
): string {
const clauses = [`(${this.quoteSqlIdentifier(column)} & 65535) = 3`]
// 微信的 create_time 是**秒**,`[sinceMs, beforeMs)` 转成秒闭区间
// `[sinceSec, beforeSecInclusive]`;两端同一套下取整,保证不重不漏。
const { sinceSec, beforeSecInclusive } = imageTextWindowToSeconds(
this.normalizeImageRange(input)
)
if (sinceSec !== null) clauses.push(`"create_time" >= ${sinceSec}`)
if (beforeSecInclusive !== null) clauses.push(`"create_time" <= ${beforeSecInclusive}`)
return clauses.join(' AND ')
}
@@ -1373,7 +1414,7 @@ export class Wcdb4Client {
*/
async countImageMessagesAsync(
md5OrUsername: string,
sinceMs?: number
input?: number | { sinceMs?: number; beforeMs?: number }
): Promise<ImageMessageCountProbe> {
if (!this.wcdbGetMessageTableStats || !this.wcdbExecQuery) {
return { count: null, typeColumn: null, error: '当前数据服务不支持消息表统计' }
@@ -1406,7 +1447,7 @@ export class Wcdb4Client {
this.wcdbExecQuery as unknown as KoffiAsyncFunction,
'message',
table.dbPath,
`SELECT COUNT(*) AS "image_count" FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${this.imageMessageWhere(column, sinceMs)}`
`SELECT COUNT(*) AS "image_count" FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${this.imageMessageWhere(column, input)}`
)
const value = Number(this.pickValue(rows[0] || {}, ['image_count', 'count', 'COUNT(*)']))
if (Number.isFinite(value)) total += value
@@ -1433,7 +1474,7 @@ export class Wcdb4Client {
*/
async imageConversationWatermarkAsync(
md5OrUsername: string,
sinceMs?: number
input?: number | { sinceMs?: number; beforeMs?: number }
): Promise<{ count: number; maxLocalId: number } | null> {
if (!this.wcdbGetMessageTableStats || !this.wcdbExecQuery) return null
// 与计数同因:必须先把会话 md5 解析成原生接口要的 username,否则永远匹配不到消息表。
@@ -1458,7 +1499,7 @@ export class Wcdb4Client {
this.wcdbExecQuery as unknown as KoffiAsyncFunction,
'message',
table.dbPath,
`SELECT COUNT(*) AS "image_count", MAX("local_id") AS "image_max_local_id" FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${this.imageMessageWhere(column, sinceMs)}`
`SELECT COUNT(*) AS "image_count", MAX("local_id") AS "image_max_local_id" FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${this.imageMessageWhere(column, input)}`
)
const row = rows[0] || {}
const tableCount = Number(this.pickValue(row, ['image_count', 'count', 'COUNT(*)']))
@@ -1548,7 +1589,21 @@ export class Wcdb4Client {
*/
async listImageMessagesAsync(
md5OrUsername: string,
options: { sinceMs?: number; limit?: number; requestId?: string } = {}
options: {
sinceMs?: number
/**
* 开区间上界。recent-first 的分段窗口靠它把"最近 30 天"和"更早"切开,
* 与 `sinceMs` 一起构成 `[sinceMs, beforeMs)`。
*/
beforeMs?: number
limit?: number
/**
* 行序。默认 `asc` 保持既有行为不变;recent-first 的窗口用 `desc`,
* 让同一窗口内**新的图片先被处理**(用户先受益,且断点续跑更有意义)。
*/
order?: 'asc' | 'desc'
requestId?: string
} = {}
): Promise<Wcdb4Message[]> {
if (!this.wcdbExecQuery) return []
const requestId = options.requestId ?? 'NO-REQUEST'
@@ -1573,10 +1628,11 @@ export class Wcdb4Client {
const column = this.resolveMessageTypeColumn(table)
if (!column) continue
try {
const where = this.imageMessageWhere(column, options.sinceMs)
const where = this.imageMessageWhere(column, options)
// `local_id` 参与排序:`create_time` 同秒的消息需要一个稳定次序,
// 否则多次读取的行序可能不同,调用方无法做稳定游标。
const sql = `SELECT * FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${where} ORDER BY "create_time" ASC, "local_id" ASC LIMIT ${limit}`
const direction = options.order === 'desc' ? 'DESC' : 'ASC'
const sql = `SELECT * FROM ${this.quoteSqlIdentifier(table.tableName)} WHERE ${where} ORDER BY "create_time" ${direction}, "local_id" ${direction} LIMIT ${limit}`
const queryStartedAt = Date.now()
const rows = await this.callJsonAsync<Record<string, unknown>[]>(
this.wcdbExecQuery as unknown as KoffiAsyncFunction,
@@ -21,7 +21,10 @@ import {
import {
describeImageTextCoverage,
imageTextCoverageState,
imageTextProcessedPercent
imageTextPhaseLabel,
imageTextProcessedPercent,
imageTextTierSearchableNotice,
type ImageTextBackfillTier
} from '../../../../shared/image-text-index'
import { useImageTextIndexStatus } from './hooks/useImageTextIndexStatus'
@@ -89,6 +92,31 @@ export function ImageTextIndexCard({ dbReady, onNotice }: ImageTextIndexCardProp
const percent = coverage
? imageTextProcessedPercent(coverage.processed, coverage.totalImageMessages)
: 0
/**
* 当前阶段文案(recent-first)。
*
* 它**不参与进度计算**:进度永远是 `processed / totalImageMessages`
* (例如 12,800 / 349,838)。阶段只回答"现在在优先做什么",
* 绝不允许用"某个分段做完了"冒充整体完成。
*/
const phaseLabel = progress?.currentPhase ? imageTextPhaseLabel(progress.currentPhase) : null
/**
* 已经**真正完整**的最新分段 —— 只有这时才敢告诉用户"这段时间已经能搜了"。
*
* 判据是 `state === 'complete'`,不是"扫到过"。整体 complete 时不必重复宣告。
*/
const searchableNotice = (() => {
if (!coverage || coverageState === 'complete') return null
const completed = new Set(
(coverage.tiers ?? [])
.filter((entry) => entry.state === 'complete')
.map((entry) => entry.tier)
)
const newest = (
['recent_7d', 'recent_30d', 'recent_1y', 'archive'] as ImageTextBackfillTier[]
).find((tier) => completed.has(tier))
return newest ? imageTextTierSearchableNotice(newest) : null
})()
const systemicFailure = coverage?.systemicFailure === true
const visualState =
progress?.state === 'error' || coverageState === 'failed'
@@ -243,6 +271,15 @@ export function ImageTextIndexCard({ dbReady, onNotice }: ImageTextIndexCardProp
}}
/>
</div>
{/*
阶段只是一句人话,没有百分比 —— 进度必须留在上面那行
(processed / total 全量),否则用户会把"最近 7 天做完了"读成"整体做完了"。
*/}
{phaseLabel && (
<p className="ai-search-knowledge-pass-line" data-testid="image-text-index-phase">
{phaseLabel}
</p>
)}
<p className="ai-search-knowledge-pass-line">
{`${progress.percent}% · 识别出文字 ${progress.indexed.toLocaleString()} · 没有文字 ${progress.empty.toLocaleString()} · 图片已清理 ${progress.missing.toLocaleString()} · 失败 ${progress.failed.toLocaleString()}`}
</p>
@@ -291,6 +328,18 @@ export function ImageTextIndexCard({ dbReady, onNotice }: ImageTextIndexCardProp
</strong>
</div>
)}
{/*
只有**真正完整**的分段才敢说"已可搜索"。这是一句承诺,不是进度提示 ——
所以判据是 coverage 里该分段的 state === 'complete',而不是"扫到过"。
*/}
{searchableNotice && (
<p
className="ai-search-knowledge-pass-line"
data-testid="image-text-index-searchable-notice"
>
{searchableNotice}
</p>
)}
<p className="ai-search-knowledge-pass-line">{describeImageTextCoverage(coverage)}</p>
</div>
)}
+322
View File
@@ -70,6 +70,308 @@ export function resolveImageTextOcrConcurrency(raw?: string | number | null): nu
/** 已完成一批之后、回到会话循环前的让出时间。 */
export const IMAGE_TEXT_INDEX_YIELD_MS = 0
/**
* 单段时间窗口的图片消息读取上限。
*
* 必须显式给 limit:底层在不给 limit 时按 `create_time ASC` 排序并截断 ——
* 那是"从最老开始读",正好与 recent-first 相反,而且会把窗口内较新的图片悄悄丢掉。
*/
export const IMAGE_TEXT_SEGMENT_MESSAGE_LIMIT = 200_000
// ---------------------------------------------------------------- recent-first
//
// 首次建立索引时,用户要的不是"从十年前开始扫",而是"最近聊天的图片先能搜"。
// 这里把"最近优先"固化成**显式时间分段计划**,而不是靠反转全库排序碰运气。
//
// 三条硬约束(任何实现都必须同时满足):
// 1. 分段唯一来源是本文件:`[startInclusive, endExclusive)`,不允许别的模块自己推边界。
// 2. 一次 backfill session 的 `anchorMs` **固定不变**,否则跑几小时后窗口会漂移,
// 产生重复 / 遗漏 / checkpoint 不稳定。
// 3. 比锚点更新的消息由**增量补齐**单独负责,永远排在所有历史分段之前。
/** 历史回填分段。刻意用时间语义而不是 Tier 编号(内部也不要出现 Tier 1/2)。 */
export type ImageTextBackfillTier = 'recent_7d' | 'recent_30d' | 'recent_1y' | 'archive'
/** 处理顺序 = 优先级顺序:越靠前越新。 */
export const IMAGE_TEXT_BACKFILL_TIER_ORDER: readonly ImageTextBackfillTier[] = [
'recent_7d',
'recent_30d',
'recent_1y',
'archive'
]
/**
* 「最近」窗口的天数。
*
* 取 7 天而不是 3 天:用户对"最近"的直觉通常是"这一周",而 7 天窗口在真实库里
* 通常只有几百到几千张图,几分钟内就能把"最近聊天里的图"变成可搜索。
*/
export const IMAGE_TEXT_RECENT_WINDOW_DAYS = 7
/** 各段下界的回看天数;`archive` 无下界。 */
export const IMAGE_TEXT_BACKFILL_WINDOW_DAYS: Record<ImageTextBackfillTier, number> = {
recent_7d: IMAGE_TEXT_RECENT_WINDOW_DAYS,
recent_30d: 30,
recent_1y: 365,
archive: Number.POSITIVE_INFINITY
}
/** 各段的用户可见名称。 */
export const IMAGE_TEXT_BACKFILL_TIER_LABEL: Record<ImageTextBackfillTier, string> = {
recent_7d: '最近图片',
recent_30d: '最近 30 天',
recent_1y: '近一年图片',
archive: '更早图片'
}
const DAY_MS = 24 * 60 * 60 * 1000
/** 一段回填窗口。`endMs` 为开区间上界;`archive` 的 `startMs` 是 -∞。 */
export interface ImageTextBackfillSegment {
tier: ImageTextBackfillTier
/** epoch ms,**闭**下界。 */
startMs: number
/** epoch ms,**开**上界。 */
endMs: number
}
/**
* 由固定锚点推出全部分段。
*
* 结果按优先级从新到旧排列,且**互不重叠、无空隙**:
* `[now-7d, now)` → `[now-30d, now-7d)` → `[now-365d, now-30d)` → `(-∞, now-365d)`。
*
* 相邻段的边界由同一个锚点派生,所以不会 off-by-one:上一段的 `endMs` 恒等于下一段的
* `startMs`,而区间语义是"下界闭、上界开",落在边界上的消息只会被**一段**认领。
*/
export function buildImageTextBackfillSegments(anchorMs: number): ImageTextBackfillSegment[] {
const segments: ImageTextBackfillSegment[] = []
let upper = anchorMs
for (const tier of IMAGE_TEXT_BACKFILL_TIER_ORDER) {
const days = IMAGE_TEXT_BACKFILL_WINDOW_DAYS[tier]
const lower = Number.isFinite(days) ? anchorMs - days * DAY_MS : Number.NEGATIVE_INFINITY
segments.push({ tier, startMs: lower, endMs: upper })
upper = lower
}
return segments
}
/**
* 把 ms 半开区间转换成底层查询要的**秒**闭区间。
*
* **唯一的换算实现**:`sinceMs` 下取整做闭下界,`beforeMs` 下取整减一放开区间上界。
* 两端必须用同一种取整方式 —— 一边 ceil 一边 floor 的话,边界那一秒会被
* 相邻两段同时认领(重复 OCR)或被同时跳过(漏索引)。
*
* 微信的 `create_time` 只有秒级精度,所以 1 秒以内的边界歧义无法在源头消除;
* 能做的是让它**确定且不重叠**。
*/
export function imageTextWindowToSeconds(range: { sinceMs?: number; beforeMs?: number }): {
sinceSec: number | null
beforeSecInclusive: number | null
} {
const { sinceMs, beforeMs } = range
const sinceSec =
typeof sinceMs === 'number' && Number.isFinite(sinceMs) && sinceMs > 0
? Math.floor(sinceMs / 1000)
: null
const beforeSecInclusive =
typeof beforeMs === 'number' && Number.isFinite(beforeMs) && beforeMs > 0
? Math.floor(beforeMs / 1000) - 1
: null
return { sinceSec, beforeSecInclusive }
}
/** 分段 → 秒闭区间;语义同 `imageTextWindowToSeconds`。 */
export function imageTextSegmentToSecondRange(segment: ImageTextBackfillSegment): {
sinceSec: number | null
beforeSecInclusive: number | null
} {
return imageTextWindowToSeconds({
...(Number.isFinite(segment.startMs) ? { sinceMs: segment.startMs } : {}),
...(Number.isFinite(segment.endMs) ? { beforeMs: segment.endMs } : {})
})
}
// ---------------------------------------------------------------- 进度阶段
/** 索引运行阶段:增量补齐 / 某个历史分段 / 全部完成。 */
export type ImageTextIndexPhase = 'incremental' | ImageTextBackfillTier | 'complete'
export function imageTextPhaseLabel(phase: ImageTextIndexPhase): string {
switch (phase) {
case 'incremental':
case 'recent_7d':
return '正在优先索引最近图片'
case 'recent_30d':
return '正在补齐最近 30 天'
case 'recent_1y':
return '正在补齐近一年图片'
case 'archive':
return '正在补齐更早图片'
case 'complete':
return '图片文字索引已完成'
}
}
/**
* 「某段已可搜索」的宣告文案。
*
* 只允许在**该段真的 complete** 时使用 —— 它是一句承诺,不是进度提示。
*/
export function imageTextTierSearchableNotice(tier: ImageTextBackfillTier): string {
switch (tier) {
case 'recent_7d':
return '最近图片已可搜索'
case 'recent_30d':
return '最近 30 天图片已可搜索'
case 'recent_1y':
return '近一年图片已可搜索'
case 'archive':
return '更早图片已可搜索'
}
}
/** 分段的运行态。只有 `complete` 才允许被当作"这段已经完整可搜"。 */
export type ImageTextTierRunState = 'pending' | 'running' | 'complete'
/** 单个历史分段的完成状态与边界。 */
export interface ImageTextTierCoverage {
tier: ImageTextBackfillTier
state: ImageTextTierRunState
/** epoch ms,闭下界;`archive` 为 -∞。 */
startMs: number
/** epoch ms,开上界。 */
endMs: number
}
/** 时间范围询问的结论。 */
export interface ImageTextRangeCoverage {
state: 'not_built' | 'partial' | 'complete'
/** 请求范围内**已真正完整**的子区间;无交集时为 null。 */
coveredFromMs: number | null
coveredToMs: number | null
/** 请求范围是否有一部分落在"尚未覆盖"的区域。 */
hasUncovered: boolean
}
/**
* 给定查询时间范围,回答"这一段的图片文字覆盖是否完整"。
*
* 判据刻意严格:只有当**整个请求区间**都落在已完成的覆盖并集里才回 `complete`。
* 请求范围开放(不传 sinceMs / beforeMs)时视为"全部历史",只要有任何一段没完成
* 就是 `partial` —— 这正是零结果诚实性要的:0 条证据不能回答"没有"。
*/
export function imageTextRangeCoverage(
coverage: ImageTextIndexCoverage,
range: { sinceMs?: number; beforeMs?: number } = {}
): ImageTextRangeCoverage {
if (!coverage.established) {
return { state: 'not_built', coveredFromMs: null, coveredToMs: null, hasUncovered: true }
}
// 整体 complete = 全部图片消息都已定态 → 任意时间范围都完整,开放区间也一样。
// 少了这一条,"全历史"这种没有上界的查询会永远因为"上界之后还没覆盖"被判成 partial。
if (coverage.complete) {
return { state: 'complete', coveredFromMs: null, coveredToMs: null, hasUncovered: false }
}
// 已完成分段 + 增量水位合并成"已覆盖并集"。
//
// `?? []` 不是多余的防御:覆盖度快照可能来自**旧版本落盘的库**(那时还没有分段概念),
// 也可能来自手写的夹具。缺字段只应该让"时间维度"暂时不可用,绝不能让查询直接崩。
const tiers = coverage.tiers ?? []
const covered: { startMs: number; endMs: number }[] = tiers
.filter((entry) => entry.state === 'complete')
.map((entry) => ({ startMs: entry.startMs, endMs: entry.endMs }))
if (coverage.coveredToMs !== null && coverage.coveredToMs !== undefined && tiers.length) {
const anchorMs = tiers[0]?.endMs ?? coverage.coveredToMs
covered.push({ startMs: anchorMs, endMs: coverage.coveredToMs })
}
const merged = mergeImageTextRanges(covered)
// 查询范围:不给边界 = 全历史(-∞, +∞)。
const queryStart = range.sinceMs ?? Number.NEGATIVE_INFINITY
const queryEnd = range.beforeMs ?? Number.POSITIVE_INFINITY
if (!(queryEnd > queryStart)) {
return { state: 'complete', coveredFromMs: null, coveredToMs: null, hasUncovered: false }
}
let cursor = queryStart
let coveredFromMs: number | null = null
let coveredToMs: number | null = null
for (const span of merged) {
if (span.endMs <= cursor) continue
if (span.startMs > cursor) break
if (coveredFromMs === null) coveredFromMs = Math.max(span.startMs, queryStart)
coveredToMs = Math.min(span.endMs, queryEnd)
cursor = Math.min(span.endMs, queryEnd)
if (cursor >= queryEnd) break
}
const hasUncovered = cursor < queryEnd
return {
state: hasUncovered ? 'partial' : 'complete',
coveredFromMs: coveredFromMs === null ? null : coveredFromMs,
coveredToMs,
hasUncovered
}
}
function mergeImageTextRanges(
ranges: { startMs: number; endMs: number }[]
): { startMs: number; endMs: number }[] {
const sorted = [...ranges].sort((left, right) => left.startMs - right.startMs)
const merged: { startMs: number; endMs: number }[] = []
for (const current of sorted) {
const last = merged[merged.length - 1]
if (last && current.startMs <= last.endMs) {
if (current.endMs > last.endMs) last.endMs = current.endMs
continue
}
merged.push({ ...current })
}
return merged
}
/**
* 「哪些时间段已经**真正**可以放心搜」的人话描述。
*
* recent-first 之后,"索引建了多少"和"哪段时间能下确定结论"是两件事:
* 最近 7 天可能已经 100% 可用,而更早的历史还在补齐。只给一个总百分比,
* 模型会把"最近能搜"误当成"全历史都搜过了",于是对"去年有没有发过 XXX"
* 给出"没有"这种不该下的结论。
*/
export function describeImageTextCoveredRanges(coverage: ImageTextIndexCoverage): string {
if (!coverage.established) return '还没有任何一个时间段完成图片文字索引。'
const completed = (coverage.tiers ?? []).filter((entry) => entry.state === 'complete')
if (coverage.complete) return '全部历史时间的图片文字都已可搜索。'
if (!completed.length) return '还没有任何一个时间段完成图片文字索引。'
const labels = completed.map((entry) => IMAGE_TEXT_BACKFILL_TIER_LABEL[entry.tier])
// 只有归档段也完成才可能覆盖到最早;否则一定还有更老的历史没扫。
const hasArchive = completed.some((entry) => entry.tier === 'archive')
return hasArchive
? `已完整覆盖:${labels.join('、')}。`
: `已完整覆盖:${labels.join('、')};更早的图片仍在补齐。`
}
/**
* 时间范围覆盖度的人话结论(Query Agent 只引用,不自己换算)。
*
* 与 `describeImageTextCoverage` 的分工:那个回答"整体建了多少",
* 这个回答"**这次查的这个时间段**能不能下确定性结论"。
*/
export function describeImageTextRangeCoverage(
coverage: ImageTextIndexCoverage,
range: { sinceMs?: number; beforeMs?: number } = {}
): string {
const result = imageTextRangeCoverage(coverage, range)
if (result.state === 'not_built') {
return '图片文字索引尚未建立:当前范围内图片里的文字还搜不到,不能据此回答"没有"。'
}
if (result.state === 'complete') {
return '图片文字索引已覆盖该时间范围:范围内没有匹配的图片文字,可以据此回答。'
}
return '图片文字历史仍在补齐,这次查询的时间范围尚未完整索引:当前结果不能排除尚未索引的图片。'
}
/** 单张图片的 OCR 结果状态。 */
export type ImageOcrState =
/** 尚未处理 */
@@ -269,6 +571,13 @@ export interface ImageTextIndexProgress {
speedPerSec?: number | null
/** 按当前窗口速度估算的剩余时间(毫秒);速度不可用或分母不可信时为 null。 */
etaMs?: number | null
/**
* 当前正在处理的阶段(recent-first 的可见性)。
*
* **它只是阶段提示,不是进度**:总进度仍然必须是 `processed / totalImageMessages`
* (全量图片消息),绝不允许用"某个分段处理完了"冒充整体完成。
*/
currentPhase?: ImageTextIndexPhase
}
/**
@@ -311,6 +620,19 @@ export interface ImageTextIndexCoverage {
* 冒充成「现在完整」。
*/
countedAt: number | null
/**
* 各历史分段的完成状态与边界(新 → 旧)。未建立 / 旧快照时为 `[]`。
*
* 边界来自**当时固定的锚点**,因此可以和用户查询的时间范围直接求交。
*/
tiers: ImageTextTierCoverage[]
/**
* 增量补齐水位:`create_time <= coveredToMs` 的新图片都已处理完;null = 尚无。
*
* 它单独存在的原因:锚点之后新到的图片不属于任何历史分段,必须有独立水位
* 才能回答"最近这几个小时是否已经可搜"。
*/
coveredToMs: number | null
}
/** 覆盖度状态(外加"未建立")。UI 与 Query Agent 共用同一判据,避免两处各推一套口径漂移。 */
+8
View File
@@ -369,6 +369,14 @@ export interface QueryImageTextCoverage {
pending: number
/** 图片数量统计时刻(本地时间 `MM-DD HH:mm`);从未统计时为 undefined。 */
countedAtLabel?: string
/**
* 已经**真正完整**的时间段描述(新 → 旧),例如"最近 7 天"。
*
* recent-first 之后必须有这一维:总进度 30% 不代表"最近一周不可信",
* 反过来总进度 99% 也不代表"去年可以下确定性结论"。模型只能引用这里列出的
* 时间段去下"没有"的结论,其余范围一律只能说"仍在补齐"。
*/
coveredRanges?: string[]
/** 可直接引用的结论句;模型只引用,不要自己换算或推断。 */
summary: string
}