Skip to content

Conversation

JimmyPowell
Copy link
Contributor

PR 简介:Java 端内容审核/黑词过滤(插件化)

概述

  • 引入面向 LLM 的输入/输出审核,默认关闭,按需启用。
  • 基于 AOP 环绕 BasicLlm#invoke 实现预审、流式产出审与掩码/阻断。
  • 提供占位 Pipe,不改变现有 Pipeline 行为;以外部词表便于运维管理。

主要改动

  • 新增审核组件:moderation(Provider/Service/Decision/Action/Properties)。
  • 新增切面:LlmModerationAspect(输入/输出审核+掩码/阻断)。
  • 新增占位管道:ContentModerationPipe(不产出结果,不影响流程)。
  • 默认词表:resources/moderation/blocklist.txt(可被外部文件覆盖)。
  • ali-agentic-adk-core/pom.xml 增加 AOP 相关依赖(均为 provided,不强绑定运行时版本)。

启用方式

  • 环境变量(可选):ADK_MODERATION_ENABLED、ADK_MODERATION_OBSERVE_ONLY、
    ADK_MODERATION_DEFAULT_ACTION、ADK_MODERATION_BLOCKLIST_PATH。
  • 运行时需启用 AOP(Boot 应用建议引入 spring-boot-starter-aop)。

兼容性与风险

  • 默认关闭,零影响现有功能;可先以“观察模式”灰度。
  • 依赖为 provided,不改变下游依赖树;失败/超时走 fail-open,风险低。

后续规划

  • 分类化词典与阈值、PII 专项掩码、云审核接入、策略热更新与指标观测。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant