📋 算法安全自评估报告

一、算法基本信息

二、算法类型与功能描述

2.1 算法分类

本算法属于《互联网信息服务算法推荐管理规定》中定义的生成合成类算法——基于DeepSeek-V4-Flash大语言模型，接收用户输入的科研问题、文献分析需求或写作辅助请求，通过AI模型生成文本形式的回答、分析报告、文献综述、参考文献列表等内容。

2.2 核心功能

2.3 拟公示机制机理（简要）

小云教师科研助理算法基于DeepSeek-V4-Flash大语言模型，结合本地FTS5全文检索引擎（557篇学术文献）和Zotero云端书目管理系统，为用户提供学术文献分析、论文辅助写作、参考文献管理等服务。算法工作流程为：用户通过微信发送问题→系统解析意图→检索本地知识库/云端Zotero→构建上下文提示→调用大模型生成回答→返回用户。

三、技术原理与模型架构

3.1 模型架构

┌─────────────────────────────────────────────┐
│          用户输入（微信对话）                  │
├─────────────────────────────────────────────┤
│              Hermes Agent 框架                │
│  ┌──────────┐  ┌──────────┐  ┌───────────┐  │
│  │ 意图解析  │→│ 工具调用  │→│ 上下文管理 │  │
│  └──────────┘  └──────────┘  └───────────┘  │
├─────────────────────────────────────────────┤
│         检索增强生成（RAG）                     │
│  ┌────────────────┐  ┌──────────────────┐   │
│  │ FTS5本地知识库  │  │ Zotero Web API   │   │
│  │ 557篇学术文献   │  │ 云端书目系统      │   │
│  │ 全文索引检索    │  │ 实时同步         │   │
│  └────────────────┘  └──────────────────┘   │
├─────────────────────────────────────────────┤
│           DeepSeek-V4-Flash 大模型            │
│  ┌─────────────────────────────────────────┐│
│  │ MLP架构 · MoE · 128K上下文 · 缓存98.7%  ││
│  └─────────────────────────────────────────┘│
├─────────────────────────────────────────────┤
│              输出生成与过滤                     │
│  ┌──────────┐  ┌──────────┐  ┌──────────┐   │
│  │ 内容过滤  │→│ 格式整理  │→│ 返回用户  │   │
│  └──────────┘  └──────────┘  └──────────┘   │
└─────────────────────────────────────────────┘

3.2 技术参数

3.3 Agent 框架说明

Hermes Agent是自研的AI Agent框架，支持多Profile并行运行。用户发送请求后，Agent框架执行以下流程：

1. 意图识别—分析用户输入，判断需要调用哪些工具
2. 上下文构建—结合对话历史、知识库检索结果、用户Profile构建完整上下文
3. 工具调用—根据意图调用对应工具（检索/计算/外部API）
4. 模型推理—将上下文提交给DeepSeek-V4-Flash生成回答
5. 结果输出—对生成内容进行格式整理和安全过滤后返回用户

四、数据来源与合法性

4.1 训练数据来源

本算法使用的基础模型DeepSeek-V4-Flash由深度求索公司提供API服务，其训练数据来源及合法性由DeepSeek负责。我方不直接参与模型训练，仅通过API调用模型推理能力。

4.2 我方使用的数据

4.3 数据脱敏措施

• 用户个人身份信息（姓名、联系方式）不纳入模型训练
• 对话内容不做二次训练或模型微调
• 知识库文献仅用于RAG检索，不用于模型训练
• Zotero数据仅读取书目元数据，不读取用户个人笔记

4.4 数据存储周期

• 对话记录：保存6个月（合规要求≥6个月）
• 用户Profile配置：持续保存至用户主动删除
• 知识库文件：由用户自行管理，AI不保留副本
• 系统日志：保存6个月后自动归档

五、数据安全措施

5.1 数据传输安全

• 所有API调用使用HTTPS/TLS 1.3加密传输
• 微信端对话使用微信官方加密通道
• DeepSeek API使用API Key鉴权，密钥存储在本地环境变量
• Zotero API使用OAuth 2.0认证

5.2 数据存储安全

• 本地数据使用SQLite存储，仅本地进程可访问
• 用户Profile之间严格隔离（每个Profile独立的state.db）
• 敏感配置（API Key）存储在.env文件，不进版本控制
• 知识库索引文件仅在本地，不上传云端

5.3 访问控制

• 每个用户的微信会话独立隔离
• Profile之间的数据互不可见
• 团队成员无法访问其他成员的客户对话
• 操作日志可追溯，记录每次API调用详情

5.4 备份与恢复

• Hermes全量备份脚本（hermes-full-backup）
• 支持一键还原
• 定期备份至云端存储

六、模型安全

6.1 模型选型

选用DeepSeek-V4-Flash模型，该模型经过深度求索公司的安全对齐训练（RLHF），具备基础的拒绝回答不安全内容能力。DeepSeek模型本身已通过生成式人工智能备案审核，我方作为API调用方，叠加了额外的安全层。

6.2 安全增强措施

• 系统提示词约束—每个Profile的SOUL配置中明确安全边界
• Skill权限管控—每个Skill可配置允许/禁止的调用范围
• 输出过滤—对模型输出进行正则匹配过滤敏感内容
• 输入清洗—对用户输入进行注入检测和敏感词过滤

6.3 模型更新管理

• DeepSeek模型更新由官方管理，我方同步更新API版本
• 模型变更时需重新评估安全影响
• 版本变更记录保存在系统日志中

七、内容合规

7.1 禁止生成内容

本算法通过多层机制确保不生成以下禁止内容：

7.2 内容审核机制

• 输入审核：用户消息在发送到AI之前进行敏感词预检
• 输出审核：AI生成内容在返回用户之前进行合规检查
• 人工抽查：种子用户反馈机制，异常内容人工复核
• 举报机制：用户可通过微信对话直接反馈问题内容

7.3 未成年人保护

• 产品定位为高校教师科研辅助，目标用户为成年研究者
• 不提供面向未成年人的服务
• 涉及学术诚信的内容（如论文代写）在系统提示词中禁止

八、用户权益保护

8.1 知情权

• 用户首次使用时展示「小云使用说明书」，说明AI能力边界
• 明确告知用户对话由AI生成，非人类回复
• 告知数据使用范围和保护措施

8.2 选择权

• 用户可随时停止使用服务
• 用户可自主选择是否接入Zotero账号
• 用户可选择不使用知识库功能

8.3 删除权

• 用户可要求删除所有对话记录
• 用户可撤销Zotero API授权
• 用户数据在删除后不可恢复

8.4 投诉与反馈

• 通过微信对话可直接反馈问题
• 重大投诉48小时内响应
• 反馈记录存档用于持续改进

九、风险防控

9.1 风险识别

9.2 技术防控措施

• Token用量实时监控（每30秒刷新），异常消耗自动告警
• 上下文窗口管理，防止越狱注入
• 系统提示词硬编码，用户不可修改
• Skill权限白名单控制

9.3 运营防控措施

• 种子用户灰度测试机制
• 用户反馈闭环
• 定期安全评估

十、可解释性

10.1 算法决策逻辑

本算法的决策过程具有高度可追溯性：

1. 用户输入→记录原始消息
2. Agent框架解析意图→记录选择的工具和调用链
3. 知识库检索→记录检索的关键词、匹配的文献、排序分值
4. 模型推理→记录提交给模型的完整上下文（输入tokens数）
5. 结果输出→记录完整输出内容

每个步骤均有日志记录，可完整追溯「用户输入→工具调用→模型推理→结果输出」全过程。

10.2 特征权重说明

本算法生成结果时，主要考虑以下因素（按权重排序）：

1. 用户当前输入的意图（最高权重）
2. 知识库检索结果的相关性（FTS5 BM25排序）
3. 对话历史上下文（128K窗口内的历史消息）
4. 用户Profile中的偏好设置
5. 系统提示词约束（安全边界）

10.3 输出可追溯

• 每个回答可追溯到调用的工具链
• 引用的知识库文献可查到具体来源
• 通过Zotero同步的文献可追溯到原书目条目
• Token监控平台记录每笔API调用的输入/输出

十一、应急响应

11.1 应急组织架构

11.2 应急响应流程

发现安全问题
    ↓
初步评估（15分钟内）
    ↓
中高风险 → 立即暂停服务 + 通知团队
低风险   → 记录Issue + 安排修复
    ↓
问题定位
    ↓
修复实施
    ↓
恢复服务前验证
    ↓
事后复盘 + 改进措施

11.3 应急联系方式

• 技术负责人：[待填写]
• 安全负责人：[待填写]
• 监管对接邮箱：[待填写]

十二、管理制度

12.1 安全管理制度

• 《MomAi学术数据安全规范》（详见academic-security.html）
• 《用户隐私保护政策》
• 《内容审核管理制度》
• 《API密钥管理规范》
• 《应急响应预案》

12.2 用户日志管理

• 所有API调用记录保存≥6个月
• 日志包含：时间戳、用户标识、输入摘要、输出摘要、tokens数、响应时间
• 日志仅管理员可访问，访问操作可追溯
• 日志存储加密

12.3 投诉处理机制

• 用户通过微信直接反馈
• 投诉48小时内响应
• 每月汇总投诉类型和改进措施

十三、安全测试数据

13.1 测试概况

（以下为计划测试方案，待执行后补充数据）

13.2 测试场景

13.3 DeepSeek模型安全背书

DeepSeek-V4-Flash模型已通过深度求索公司内部安全测试，并已配合国家网信办的安全评估要求。我方作为API调用方，叠加了上述安全层，形成双层安全防护。

附：需要补充的材料