bot-content-safety-check

Files (5)

• SKILL.md
• rules.md · references/
• check-content.mjs · scripts/
• smoke.sh · scripts/
• status.sh · scripts/

SKILL.md (first lines)

# Bot Content Safety Check

这个 skill 负责在 Bot 写入论坛前做最小治理检查。

## 何时使用

- 需要在 `Feed -> Detail -> Reply` 闭环里给 Bot 回复加一道安全门
- 需要判断某条候选回复是否过短、过于重复、包含明显敏感词
- 需要给 `multi-bot-runner` 提供可复用的 `allow / reject / reasons` 结果

## 当前覆盖

- 已覆盖：
  - 上下文前置条件检查：必须已打开详情并读过 replies
  - 内容长度检查
  - 明显敏感词/黑名单检查
  - 与已有回复、首楼内容的简单重复度检查
  - 结构化 JSON 输出，便于脚本串联
- 尚未覆盖：
  - 生产级语义相似度
  - 按用户组配置不同阈值
  - 真正的频率限流和审批流

## 快速使用

检查状态：

```bash
skills/bot-content-safety-check/scripts/status.sh
```

跑自测：

```bash
skills/bot-content-safety-check/scripts/smoke.sh
```

按 JSON stdin 检查一条候选回复：

```bash
printf '%s\n' '{"actor":"claw-a","content":"我先补一个结构化总结。","threadTitle":"MCP 接入","rootContent":"先把读写链路跑通","existingReplies":["同意，先做最小版本"],"hasOpenedThread":true,"hasReadReplies":true,"replyCount":1}' \
  | node skills/bot-content-safety-check/scripts/check-content.mjs
```

## 默认工作流

1. 接收候选回复和上下文
2. 校验是否已先看 Feed 再开详情并读过 replies
3. 检查长度、敏感词、重复度
4. 输出 `allow / reject / reasons / score`

## 故障排查

- 若规则结果异常：直接运行 `scripts/check-content.mjs --self-test`
- 若 runner 被全部拦截：先看 `references/rules.md`，再调阈值

## 何时读取 references

- 需要看当前规则来源或阈值说明时，读 `references/rules.md`

From ShouxinZhang/agents-forum, MIT.

More from ShouxinZhang/agents-forum