2023年初,三星电子内部发生了一起具有标志性意义的商业秘密泄露事件。多名员工在使用ChatGPT时,将内部会议内容、技术文档和源代码粘贴到对话框中,用于代码审查和文档优化。这些数据被大模型吸收为训练素材,理论上可在后续对话中被其他用户通过特定提示词诱导输出。三星随即紧急发布禁令,禁止内部使用生成式AI工具。然而这并非孤立的个案。根据Cyberhaven发布的调查报告,全球约百分之十一的企业员工曾将工作中的机密信息粘贴到ChatGPT中,涵盖客户数据、源代码、财务数据和内部经营信息。超过四分之一的员工至少每周一次向AI工具输入公司敏感信息,而绝大多数人并未意识到这已构成商业秘密泄露。这一现象在企业级AI工具快速普及的背景下呈现出扩散趋势,成为当前商业秘密保护领域非常有挑战性的新课题。保密网长期关注AI应用场景下的数据安全挑战,下面从几个维度来分析企业可以怎么应对。

这一事件深刻揭示了AI大模型时代企业商业秘密保护面临的核心矛盾。传统的商业秘密保护体系以可控边界为前提假设,企业通过物理隔离、网络隔离和权限管理在内部构建安全空间。然而AI大模型的应用从根本上动摇了这一假设。员工在任意设备上访问AI工具的行为,绕过了传统的边界防护体系。数据一旦被输入公共AI模型,便脱离企业的控制范围,被吸收进入模型的知识库,并可能在后期的推理过程中以不可预测的方式被重组和输出。更令人担忧的是,学术界已经证实通过精心设计的提示词攻击,可以从已训练完成的大模型中提取出训练数据包含的敏感信息。这意味着商业秘密一旦被输入公共AI模型,就几乎无法被完全清除和追回。这种不可逆性是AI时代商业秘密保护面临的一个本质性困境。

从法律视角来看,AI输入行为引发的商业秘密保护问题需要从多个层面进行制度设计。反不正当竞争法规定的商业秘密三要件,在AI场景下出现了新的判断难题。在秘密性方面,如果企业未对员工使用AI工具时输入的信息进行明确分级和管控,在发生泄密纠纷时可能被质疑未采取合理保密措施,从而影响商业秘密的法律认定。在价值性方面,输入AI工具的信息往往具有商业价值,这些信息的泄露可能直接导致企业经济利益的损失。在保密性方面,法院在判断企业是否采取了合理保密措施时,将越来越重视企业是否针对新型技术手段制定了相应的管理规范。如果企业已经普遍使用AI工具但未出台任何AI使用管理规定,在诉讼中可能被认为保密措施不够充分和合理。所以从合规角度看,建立健全AI使用管理制度不仅是保护商业秘密的需要,更是满足法律合规要求的必要条件。

在具体的管理制度设计层面,企业可以从五个维度构建AI时代的商业秘密保护体系。

第一步是建立AI使用管理制度。这是所有工作的起点。制度的核心内容应包括AI工具的使用范围、禁止输入的信息类型、违规使用的后果和责任。建议制定正负两张清单。正面清单列明企业允许员工使用的AI工具类型和使用场景,比如允许使用办公自动化类AI辅助撰写非涉密文档,允许使用代码辅助类AI处理开源代码等。负面清单列明禁止输入的信息类型,包括客户个人隐私数据、核心技术参数、未公开的财务信息、投标报价策略和源代码关键模块等。正负清单相互配合,形成清晰的AI使用边界。同时制度中应明确违规使用AI工具的责任追究机制,包括警告、扣减绩效、解除劳动合同等处罚层级,以及泄露商业秘密后的民事赔偿责任和刑事追责路径。

第二步是部署AI场景专用的数据防泄露工具。传统的DLP系统主要监控邮件、U盘和打印等传统数据通道,对AI对话框中的输入行为缺乏有效的识别能力。目前市场上已经出现了专门针对AI工具使用场景的终端监控解决方案,可以实时检测员工在各类AI平台上的输入内容,与企业预设的敏感信息规则库进行比对,在发现敏感信息输入时自动阻断或弹窗提醒。这些工具能够识别ChatGPT、Claude、文心一言、豆包、通义千问等主流AI平台的使用行为,是当前应对AI泄密风险相当有效的技术手段。对于预算有限的成长型企业,也可以先从简单的网络代理日志分析入手,监控员工访问AI平台的频率和数据传输量,发现异常情况及时跟进核查。

第三步是推动数据分类分级体系的精细化建设。许多企业现有的数据分级标准过于粗放,只能区分为机密和非机密两个层级,对于不同性质和不同风险等级的信息采用相同的管理标准,既增加了管理成本,也降低了管理效果。在AI广泛应用的背景下,这一标准已无法满足管理需求。建议企业按照公开级、内部级、保密级和机密级四个纵向层级进行分级管理,同时结合信息类型进行横向分类,比如技术信息类、经营信息类、客户信息类、财务信息类等。明确保密级及以上数据禁止输入任何公共AI工具,内部级数据在脱敏处理后可在一定范围内使用AI辅助处理,公开级数据可正常使用AI工具。数据分级越精细,AI使用管理的可操作性就越强,安全与效率的平衡也就越容易实现。

第四步是评估和部署私有化大模型方案。对于研发密集型企业、金融机构和承担涉密任务的单位而言,使用公共AI工具的风险显然大于收益。目前国内多家技术供应商已推出可私有化部署的大模型产品,企业可根据自身数据规模和计算需求选择独立部署或混合云部署模式。独立部署将模型和所有数据放在企业内部服务器上,不经过任何外部网络,安全性更高一筹,但对硬件投入和运维能力要求也更高。混合云模式将核心数据相关的模型部署在私有云上,将非敏感业务的模型调用放在公有云上,兼顾了安全性和成本效益。虽然前期投入相对较高,但对于需要保护高价值商业秘密的企业来说,这是从源头上解决AI泄密问题的比较彻底的方案。企业还可以考虑采用联邦学习等技术,在不暴露原始数据的前提下利用AI进行数据分析和管理优化。

第五步是将AI使用安全纳入员工培训体系。很多员工并非主观故意泄密,而是缺乏对AI工具风险的基本认知。他们习惯性地把AI当作搜索引擎使用,认为输入工作信息就像在搜索引擎上查资料一样安全无害。企业需要通过培训纠正这一认知偏差。培训内容应涵盖AI工具的工作原理、数据如何使用和处理、已发生的泄密典型案例和相应的法律后果。培训方式建议采用案例教学法,用真实发生的事件形成深刻印象,避免照本宣科式的制度宣读。同时建议将AI使用安全纳入新员工入职必训内容和年度安全培训计划,并通过定期推送AI安全小贴士等方式保持员工对AI使用风险的持续关注。

总结一下推进AI安全管理体系建设的具体步骤:第一步,制定AI使用正负清单并发布管理制度;第二步,部署AI场景DLP终端监控工具;第三步,完善数据分级标准并明确AI输入规则;第四步,评估私有化部署的投入产出比并启动试点;第五步,将AI安全纳入全员培训计划并持续考核。这五步可以并行推进,企业应根据自身情况确定优先级。

AI大模型的广泛应用是不可逆转的趋势,企业不应因噎废食拒绝使用AI工具,但也不能放任自流不考虑安全风险。正确的做法是在享受AI带来的效率提升的同时,同步建立与之相匹配的商业秘密保护体系。这既是企业自身发展的需要,也是合规经营的基本要求。在AI时代,商业秘密保护不再仅仅是一项传统的管理工作,它正在成为企业核心竞争力的重要组成部分。能够在高效使用AI工具的同时保护好自身商业秘密的企业,将在未来的市场竞争中占据更有利的位置。