专业视角全面解读：大模型备案（生成式人工智能服务备案）

随着生成式人工智能技术的飞速发展，其应用场景日益广泛，随之而来的安全与合规问题也成为行业关注的焦点。在国家层面，对生成式AI服务的监管正逐步走向规范化。其中，服务提供者需要履行的“备案”手续，成为了所有从业者无法回避的“安全大考”。

截止2025年6月，全国总共有672个大模型通过了网信办的备案。众森企服从24年开始就协助客户办理大模型备案，目前已经成功办理了几十个了，有丰富的大模型备案办理经验。今天，众森企服小编将基于全国网络安全标准化技术委员会发布的《生成式人工智能服务安全基本要求》（简称：TC260），从专业角度深入剖析大模型备案的核心要点—安全评估报告，帮助企业和开发者理解其背后的技术与管理要求，确保服务平稳、合规地“持证上岗”。

一、备案的核心逻辑：不止是“一张纸”

很多人误以为备案只是一个行政流程，但TC260文件揭示，备案的核心是一套系统的安全评估与管理体系。服务提供者在申请备案时，需要提交一份详尽的《安全评估报告》。这份报告并非空泛的承诺，而是对语料、模型、安全措施等各环节进行全面自我评估的结果。这意味着，备案的本质是将安全责任前置化、标准化，促使服务提供者在产品设计之初就融入安全基因。

二、语料安全：模型“价值观”的源头治理

模型的行为由其训练语料决定。因此，备案审查的第一道关卡就是“语料安全”。文件对语料来源、内容和标注提出了严格要求：

来源与追溯： 语料采集前需进行安全评估，若违法不良信息超过5%则不应使用。同时，语料来源必须可追溯，无论是开源、自采还是商业采购，都必须具备相应的证明文件，比如开源许可协议、相关的授权文件、交易合同或合作协议等。若涉及自采语料的使用，无论是自行生产的还是从互联网采集的，提供者都需保留详尽的采集记录。对于他人已明确表示不可采集的语料，如通过robots协议或其他限制采集技术手段明确表明不可采集的网络数据，以及个人明确表示拒绝授权采集的个人信息等，都应坚决避免采集。同时，按照我国网络安全相关法律法规及政策文件要求阻断的信息，不应作为语料。
内容过滤： 语料内容应通过关键词、分类模型和人工抽检等方式充分过滤违法不良信息。特别值得注意的是，文件中详细列举了31种主要安全风险，包括违反社会主义核心价值观、歧视性内容、商业违法违规等，要求对这些风险进行重点标注与过滤。
知识产权与个人信息： 语料使用前应识别主要知识产权侵权风险，并建立投诉举报渠道。对于包含个人信息的语料，必须获得个人同意或符合法律规定。这为大模型在数据合规方面提供了明确指引。
语料标注：在TC260文件里明确规定了生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

三、模型安全：从训练到输出的全流程把控

语料是基础，模型本身的安全能力则是服务的直接体现。文件对模型安全提出以下要求：

备案基础模型： 如果服务基于第三方的基础模型，该模型本身必须已经通过主管部门备案。
生成内容安全： 模型的生成内容安全性被列为评价优劣的主要指标之一。服务提供者需建立常态化监测测评手段，及时优化模型。
准确性与可靠性： 应采取技术措施提高生成内容的准确性，减少错误内容，同时提升内容框架的合理性和有效性，以真正帮助用户。

四、安全措施：多维度的日常运营保障

除了语料和模型，日常运营中的各种安全措施同样重要。

透明度： 服务提供者应公开服务的适用人群、场合、用途等信息，并告知使用者服务的局限性、所使用的模型概况以及个人信息采集情况。
用户管理： 必须采取技术手段对使用者输入进行检测。对于连续多次输入违法不良信息的用户，应依法依约采取暂停服务等处置措施。同时，对明显偏激或诱导性的问题应直接拒绝回答。
测试题库与关键词库： 文件明确要求服务提供者建立规模庞大、覆盖全面的关键词库（不宜少于10000个）和测试题库（生成内容测试题库不少于2000题，拒答测试题库不少于1000题），并定期更新。这些库是进行安全评估的技术抓手。