AIGC技术带来的安全与隐私问题探讨

如何看待AIGC技术？

简介：探讨AIGC技术的发展现状和未来趋势。
提醒：在发布作品前，请把不需要的内容删掉。
方向一：技术应用

机遇和挑战

AIGC国内场景应用图谱

方向二：伦理与风险

 垄断与隐私风险
AI民主化诉求下，对于大模型开源或闭源的路径讨论持续存在，OpenAI也经历了从非营利性向半营利性组织的转变过程;AIGC产品目前多为公有云部署形式，且私密信息存在被推导出的可能。用户使用过程中存在个人隐私信息泄露风险，商业组织和国家信息泄露威胁企业和国家安全

偏见与错误信息风险
大语言模型是基于现实世界的语言数据预训练而成，数据偏见性可能生成有害内容;通过基于人类反馈的强化学习使模型生成结果更符合人类预期，存在基于标注人员导致的偏见风险;在医学、法律等敏感领域，生成的错误信息易导致直接伤害

用户滥用风险
主要指用户对AIGC产品产生结果的不当使用，例如学生在作业或考试中直接使用生成结果作弊、不法分子使用生成图像或文字内容、虚假新闻等，进行造谣或勒索等，且存在知识产权风险滥用风险的形式将更多样化，但对生成内容鉴别的技术研究也已在同步推进。

数据安全问题
2023年4月10日，中国清算协会发出关于《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》，指出，ChatGPT等工具引起各方广泛关注，已有部分企业员工使用ChatGPT等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。因而，ChatGPT需要对敏感信息的存储和记录，以及对记录的数据进行访问等进行一些列严格的限制，以达到防止对数据进行未经授权的访问和数据泄露等安全问题的产生。

生成作品的著作权问题
用于模型训练的数据来自于互联网，不论多么高级的模型训练算法必然涉及到对现有智力成果的引用、分析、处理等，必然存在对他人合法知识产权的侵犯问题。

哲学层面

 综上，生成式大模型的技术的发展是时代潮流，是人类科技进步的标志，不可阻挡。而在技术发展越来越快，越来越高的同时，我们也需要清醒地意识到其中存在的隐患。只有明确了这些隐患，在开发技术的同时做好相应的防范措施与规定才可以尽量避免大模型技术带来的双刃剑效果

方向三：未来展望