上下文工程——优化系统提示词利用KV缓存

你是差旅助手…… 当前日期：2026-07-27，当前时间：14:32:07 （后面还有几千 token 的规则)

public static String load(String filename) {
    // ...
    return content
            .replace("{{current_date}}", today.format(DATE_FORMATTER))
            .replace("{{current_weekday}}", weekday)
            .replace("{{current_time}}", LocalTime.now().format(TIME_FORMATTER)); // ← 秒级变化，毒化前缀
}

/**
 * 静态加载 prompt 模板：仅注入 current_date 和 current_weekday（每日变化一次），
 * 不注入 current_time，以保持 system prompt 前缀在同一天内完全稳定，
 * 利于百炼隐式缓存命中（相同前缀按 20% 计费）。
 * 动态时间由 DynamicTimeInjectionHook 作为独立 system message 注入。
 */
public static String loadStatic(String filename) {
    String content = loadResource("prompts/" + filename);
    // ...
    LocalDate today = LocalDate.now();
    String weekday = today.getDayOfWeek().getDisplayName(TextStyle.FULL, Locale.CHINA);
    return content
            .replace("{{current_date}}", today.format(DATE_FORMATTER))     // 一天变一次
            .replace("{{current_weekday}}", weekday)                       // 一天变一次
            .replace("{{current_time}}", "（见下方动态注入）");             // ← 固定字面量！不是真实时间
}

当前日期：{{current_date}}（{{current_weekday}}）。以注入的"星期几"为准，
不要自行从日期推算星期。当前时间见本消息列表中的动态时间注入。

@Component
public class DynamicTimeInjectionHook implements Hook {

    @Override
    public int priority() {
        return 1;  // 最先执行，在 AutoContextHook（默认优先级）之前
    }

    @Override
    public <T extends HookEvent> Mono<T> onEvent(T event) {
        if (event instanceof PreReasoningEvent preReasoning) {
            return handle(preReasoning).map(e -> (T) e);
        }
        return Mono.just(event);
    }

    private Mono<PreReasoningEvent> handle(PreReasoningEvent event) {
        List<Msg> messages = event.getInputMessages();
        if (messages == null || messages.isEmpty()) {
            return Mono.just(event);
        }

        // 仅当第一条消息是 SYSTEM 角色时才注入（守卫，否则跳过）
        Msg firstMsg = messages.get(0);
        if (firstMsg.getRole() != MsgRole.SYSTEM) {
            return Mono.just(event);
        }

        // 构建动态时间 system message："当前时间：HH:mm:ss"
        String timeContext = PromptLoader.buildTimeContext();
        Msg timeMsg = Msg.builder()
                .role(MsgRole.SYSTEM)
                .content(TextBlock.builder().text(timeContext).build())
                .build();

        // 在第一条 system message 之后（index=1）插入
        List<Msg> newMessages = new ArrayList<>(messages.size() + 1);
        newMessages.add(messages.get(0));   // [0] 静态 system prompt（前缀，逐字节稳定）
        newMessages.add(timeMsg);           // [1] 动态时间（前缀之外，可自由变化）
        for (int i = 1; i < messages.size(); i++) {
            newMessages.add(messages.get(i));  // [2..] 原有对话/工具消息
        }

        event.setInputMessages(newMessages);
        return Mono.just(event);
    }
}