之江实验室：2023生成式大模型安全与隐私白皮书

但在其备受追捧的同时，ChatGPT 等生成式大模型也面临 AI 自身数据和模 型方面的安全隐患。我们应该意识到，在生成式大模型带来各种革命性的技术进步 的同时，其自身带来的一系列安全与隐私问题也值得我们注意，例如引发的数据 泄漏，助长虚假信息传播等。在本白皮书中，我们首先总结了 ChatGPT 与 GPT4 等生成式大模型模型的发展历程，以及其带来的各种令人惊叹的能力和社会变革， 社会应用等。而后，我们归纳了 ChatGPT 与 GPT4 等生成式大模型中存在的安 全与隐私问题，包括数据安全，模型使用安全，版权问题，伦理问题等。最后，我 们为应对这些安全与隐私问题提出了相应的应对策略，重点强调了日后亟需进行 的研究和法规调整等。特别是为之后 AGI 技术的持续革新，起到未雨绸缪的预防。