know-engine

文档预处理阶段全流程讲解(事件驱动)

完整流程 1、多个流程之间,基于事件驱动。这样可以更好的解耦。 2、事件驱动如果处理失败了, 引入任务定时任务兜底。 文档上传 文档分段 文档向量保存 1、事件驱动 在DocumentEventListener中,接收Documen…

TL;DR

完整流程 1、多个流程之间,基于事件驱动。这样可以更好的解耦。 2、事件驱动如果处理失败了, 引入任务定时任务兜底。 文档上传 文档分段 文档向量保存 1、事件驱动 在DocumentEventListener中,接收Documen…

完整流程

1、多个流程之间,基于事件驱动。这样可以更好的解耦。 2、事件驱动如果处理失败了, 引入任务定时任务兜底。

文档上传

文档分段

文档向量保存

1、事件驱动 在DocumentEventListener中,接收DocumentChunkedEvent,做向量化和保存处理:

    /**
     * 监听文档CHUNKED事件
     * 触发向量嵌入流程
     *
     * @param event 文档已分段事件
     */
    @Async("eventListenerExecutor")
    @EventListener
    public void onDocumentChunked(DocumentChunkedEvent event) {
        Long documentId = event.getDocumentId();
        log.info("收到文档CHUNKED事件,开始执行向量嵌入,documentId: {}, segmentCount: {}",
                documentId, event.getSegmentCount());

        try {
            boolean success = documentProcessService.embeddingAndStore(documentId);
            log.info("向量嵌入完成,documentId: {}, success: {}", documentId, success);
        } catch (Exception e) {
            log.error("向量嵌入失败,documentId: {}", documentId, e);
        }
    }
版本提示

模型、框架与接口会持续变化。涉及版本号、参数与生产配置时,请在实践前对照对应官方文档。

LLMentor系统化学习大模型应用工程

内容来自个人课程知识库备份,并经过结构化整理。技术版本持续演进,生产使用前请结合官方文档验证。