大模型私有化部署合规检查指南

围绕服务范围、数据与模型来源、个人信息、数据跨境、访问控制和内容标识，整理私有化部署的核对项；仅内部研发应用且未向境内公众提供服务时，不适用生成式人工智能服务管理暂行办法。

大模型私有化部署的合规检查，应围绕服务是否面向境内公众、数据与模型来源、个人信息处理、跨境访问、内容标识和运行日志逐项核对并留证。仅把模型放到自有服务器或租用 GPU 上，不代表自动合规；内部研发应用与对公众开放的服务要分别判断，API 形态也要先识别提供者角色。

大模型私有化部署前先确定适用范围

依据《生成式人工智能服务管理暂行办法》，该办法适用于利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务。企业、科研机构等研发、应用相关技术但未向境内公众提供服务的，不适用该办法；通过 API 等方式提供服务的组织、个人，也应识别自身的服务提供者角色。

如果服务面向注册用户，还要核对是否签订服务协议并明确双方权利义务。部署前至少形成以下记录：

用户范围：仅员工、客户成员，还是不特定公众。
服务渠道：网站、应用程序、API 或内部业务系统。
功能边界：文本生成、图片生成及其他功能分别由谁提供。
数据流向：模型、提示词、附件、日志、备份分别存放在哪里，哪些外部人员可能访问。

“私有部署”本身不是适用范围的判断结论，关键仍是服务对象、功能和实际提供方式。

建立数据与个人信息台账

按《个人信息保护法》关于处理依据、敏感个人信息、委托处理和影响评估的规定，处理个人信息的合法性基础不只有个人同意，也可能来自订立履行合同所必需、履行法定职责或义务所必需等情形。敏感个人信息包括医疗健康、金融账户、行踪轨迹、生物识别等信息，以及不满十四周岁未成年人的个人信息；处理敏感个人信息时，应核对单独同意要求。

台账不要只写“数据已脱敏”，而应记录：

模型、训练数据和基础模型的来源、授权依据、版本、用途及可核查凭证。
提示词、附件、账号标识、日志和支持材料中哪些字段可能识别个人。
每类信息的处理目的、合法性基础、访问人员、保存期限和删除方式。
委托处理是否约定目的、期限、方式、信息种类、保护措施及双方权利义务，并落实监督。
是否发生未经同意的转委托，以及合同终止后的返还或删除安排。
处理敏感个人信息、委托处理或向境外提供信息前，是否完成个人信息保护影响评估并留存记录。

数据跨境先看真实访问路径

先画出数据流，再判断是否构成出境。服务器放在境内，并不自动说明没有境外访问；境外运维、供应商支持、远程排障、备份和 API 调用都应列入访问路径。存在个人信息出境时，还要核对告知境外接收方及取得个人单独同意的要求。

《促进和规范数据跨境流动规定》规定，非关键信息基础设施运营者向境外提供重要数据，或者自当年1月1日起累计向境外提供100万人以上不含敏感信息的个人信息、1万人以上敏感个人信息的，应申报数据出境安全评估。未被相关部门、地区告知或者公开发布为重要数据的，不需要作为重要数据申报。数据出境安全评估结果有效期为3年，自结果出具之日起计算。数量之外，还要结合数据类型、处理者身份和具体业务判断适用机制。

部署后怎样检查访问与日志

vLLM 的生产指标文档说明，OpenAI-compatible API server 通过 /metrics 暴露指标；其指标说明页列出了请求运行和等待状态：

/metrics
vllm:num_requests_running
vllm:num_requests_waiting

这些信息只用于验证可观测能力，不等于完成合规检查。上线时应从预期运维网络检查端点可达性，再逐项确认指标和日志是否暴露个人信息、账号标识或业务敏感内容，核对访问人员、保存期限、导出流程和删除机制。不要把技术默认配置直接当作法律结论，也不要套用未在所用版本文档中确认的安全参数；部署参数应按当前版本重新核对。

内容标识、备案与违法内容处置

按照《人工智能生成合成内容标识办法》，生成合成内容标识分为显式标识和隐式标识。文本可在起始、末尾或中间适当位置添加提示，也可在交互界面或文字周边设置显著标识；文件元数据中的隐式标识可包含内容属性、服务提供者名称或编码、内容编号等制作要素。

前述《暂行办法》还要求，对具有舆论属性或者社会动员能力的服务开展安全评估并履行算法备案手续，并非所有内部部署都自动触发。服务还应准备违法内容处置流程，包括停止生成、停止传输、消除内容、整改并向有关主管部门报告。

上线前保留哪些验收证据

最终验收不应只有口头结论，至少应归档适用性判断、架构与数据流图、数据和模型来源凭证、个人信息处理清单、影响评估、委托协议、跨境路径核对、访问控制配置、日志字段与留存规则、标识方案、备案材料及违法内容处置记录。

本文步骤依据正文所链接的官方文档整理，未运行或测量任何部署，使用前应按当前版本核对。本文仅提供一般合规信息，不构成法律意见。