如何避免 ChatGPT 导致的论文数据泄露

为避免 ChatGPT 导致的论文数据泄露，可采取以下多种措施。首先，教育和培训至关重要。向科研人员提供培训，使其了解数据安全和风险，减少数据曝光的可能性。明确告知科研人员，当打算用 ChatGPT 润色论文时，若将文章全部或部分输入 ChatGPT，论文稿件就有可能成为大型语言模型训练语料库的一部分，存在稿件泄露的风险。
其次，制定明确的数据使用策略，并使用监控工具来跟踪和识别潜在的数据暴露风险。例如，不接受任何大型语言模型工具（例如：ChatGPT）单独或联合署名的文章，如《暨南学报》编辑部官方平台就发布了相关说明。同时，企业领导者应优先制定和实施全面的安全战略，以应对人工智能工具带来的独特挑战。
从技术措施方面，可进行数据加密。传输中加密可使用 TLS/SSL 协议加密数据传输，确保数据在网络传输过程中不被窃听或篡改；存储中加密对存储在磁盘上的数据进行加密，防止未经授权的访问。实施访问控制，遵循最小权限原则，仅授予用户和应用完成其任务所需的最低权限。使用强身份验证机制（如多因素认证）和细粒度的授权策略，确保只有经过授权的用户可以访问敏感数据。实施日志记录和监控，跟踪对数据的访问和操作，及时发现和响应异常行为，定期审计访问日志和系统配置，确保符合安全策略。对敏感数据进行匿名化或去标识化处理，降低数据泄露后对用户隐私的影响，并将敏感数据与其他数据分开存储，使用不同的安全策略进行保护。

此外，江苏省科技厅将组织开展科技人员公开发表论文的自查和不定期抽查，不断更新学术不端的处理程序与标准，通过主动抽查判断公开发表的论文的真伪性、原创性；另一方面，开展科技伦理审查，引导科技人员提高诚信意识。企业也应对使用 ChatGPT 类产品进行必要的限制，禁止员工与 ChatGPT 讨论公司的商业秘密，并指定专门的部门对 ChatGPT 类产品的使用进行管理，制定使用 ChatGPT 类产品的规则制度，明确员工使用 ChatGPT 类产品的流程和条件，并禁止在涉密区域和涉密设备上使用 ChatGPT 类产品。不要使用 API 将 ChatGPT 接入公司内部知识库，除非能保证这些知识库内容是完全用于对外公开的客户服务。企业应组织针对 ChatGPT 类产品的专项保密培训，详细列举使用中存在的风险，提醒员工谨慎输入对话内容。与 ChatGPT 类产品进行应用合作的企业，应对参与应用合作的相关人员进行保密提醒，必要时签订专门的保密协议。

企业对 ChatGPT 使用进行限制

近年来，随着人工智能技术的飞速发展，ChatGPT 等语言模型在各个领域得到了广泛应用。然而，与此同时，企业对 ChatGPT 的使用也进行了诸多限制。这主要是出于对数据安全、潜在隐私风险以及企业声誉风险的考虑。
众多企业担忧员工在使用 ChatGPT 时可能会导致机密数据泄露。例如，黑莓的研究结果表明，目前全球 75% 的组织正在实施或考虑对工作场所中的 ChatGPT 和其他生成式 AI 应用程序的禁令，其中 61% 的人表示此类措施将是长期或永久性的。微软出于安全考虑，担心公司机密数据泄露，已禁止员工使用 ChatGPT，并建议员工使用自家的 Bing Chat 工具。苹果公司也限制使用 ChatGPT 和其他外部 AI 工具，原因同样是担心员工使用这类程序可能会泄露机密数据。此外，数十家大公司如亚马逊、三星、Spotify、Verizon、富国银行等均对员工使用 ChatGPT 进行了限制，主要也是担心人工智能可能会让他们面临数据泄露的风险。
对于如何避免 ChatGPT 导致的论文数据泄露，首先，科研人员应增强数据安全意识，充分认识到使用 ChatGPT 等工具可能带来的风险。在使用任何外部工具辅助论文写作时，要谨慎处理敏感数据，避免直接将未经过处理的论文数据输入到 ChatGPT 中。其次，学术机构和科研单位可以制定明确的规范和指南，禁止或严格限制在论文写作过程中使用 ChatGPT 等可能存在数据泄露风险的工具。同时，可以加强对科研人员的数据安全培训，提高他们应对数据泄露风险的能力。再者，从技术层面上，可以采用数据加密等手段，对重要的论文数据进行保护，即使在意外情况下数据被传输到外部工具，也能确保其安全性。最后，加强对 ChatGPT 等工具的监管，推动其开发者不断完善数据安全保护机制，明确其在数据使用和存储方面的责任和义务。
总之，避免 ChatGPT 导致的论文数据泄露需要科研人员、学术机构、监管部门等多方面共同努力，从意识、规范、技术和监管等多个层面采取有效措施，确保论文数据的安全。