当前您所在的位置:首页 » 委员空间 » 委员动态

副主任委员文华主持召开-AIGC信息数据安全研讨会

2023-03-16 1983
分享

拥抱AIGC,数据安全很重要——“AIGC信息数据安全研讨会”在线召开

 

2023315日星期三凌晨,OPENAI发布了GPT4AIGCCHATGPT类)又向我们迈进了一大步,对人类信息数据安全提出了新的挑战。面对即将到来的挑战,由中国文化产业协会文化元宇宙专业委员会和《产业区块链年鉴》编委会联合主办的“AIGC信息数据安全”专题研讨会在315日顺利举行。

微信图片_20230316172845.png

本次研讨会由中国通信产业协会区块链专业委员会副主任委员、《产业区块链年鉴》项目主任文华召集并担任主持人,她指出“人类开启了机器智能进化的未知领域,给社会带来巨大发展的同时,也给人类文明带来了潜在的风险”。

 

挑战立体多维、亟待综合治理

 国家重点研发计划项目负责人刘杰正高级工程师,工业和信息化部电子第五研究所主任,高级工程师刘杰教授在这次研讨会上发表了题为《AlGC面临的网络安全挑战与对策》的主旨演讲。他从“AIGC与信息安全之间的关联和关系、AIGC应用引入的安全风险、AIGC本身面临的网络安全威胁以及应对风险应该采取的对策川”三个层面向与会嘉宾进行了精彩分享。

微信图片_20230316172851.png

 对于AIGC与信息安全之间的关联和关系,刘杰教授认为AIGCCHATGPT类)面临的信息安全问题主要有三类:

 

一类是运行的可靠性问题。

 

二是蓄意植入病毒的安全性问题。

 

三是容易被人蓄意攻击的漏洞问题。

 

 

蓄意构造问题造成的后果严重程度将会影响对系统投入的成本,与普通系统的安全着重考虑软硬件、通信等系统设施不同,AIGC的信息安全既要考虑基础设施,还要考虑数据、算法、模型框架。现在的数据作为生产资料,关乎未来模型中决策的相关因素,因此AIGC的数据安全将会考虑到更多方面。

 

AIGC应用引入的安全风险主要有三类衍生性安全问题:

 

一是有害信息传播的风险。

 

有害信息的传播风险又细分为三种,首先是被滥用散布各类危害国家公众安全的信息,其次是有害代码影响软件供应链的安全,再次是传播错误信息误导公众;

 

二是“赋能”网络攻击;

 

三是开发恶意软件制造危害。

 

与此同时,AIGC本身面临着许多网络安全问题:数据传导风险、数据毒化、算法选举不当、模型窃取进而导致的隐私泄露、开发框架中的安全漏洞、支撑环境配合问题、用户隐私泄漏等网络安全威胁问题。

  

针对以上风险威胁,刘杰教授提出了以下几点对策:

 

一是加强法律法规和制度建设,完善相关法律细节。

 

二是强化数据安全治理的技术手段,加强技术研发、资产保护、隐私保障、数据加密。

 

三是加强AIGC全生命周期的网络安全测评,强化安全框架,保持对系统的检查与对抗检测。

 

四是明确监管责任,提高算法的透明性,加强算法问责,建立人工智能生成内容鉴别的机制。

 

 

管理AIGC数据责权、健全数据法迫在眉睫

 

《数据法》作者,重庆大学网络与大数据战略研究院院长齐爱民教授在这次研讨会上,发表了题为《元宇宙视觉内容法律规则》的主旨分享。

微信图片_20230316172855.png

 

齐爱民教授从元宇宙中的“人”与“物”的法律地位引入,深入界定了元宇宙视觉内容的数据属性,介绍了ChatGPT的内容生成着重在于制造数据,而不构成直接创作。齐教授强调,AIGCCHATGPT类)工具是开放的,对工具的使用不应受到著作权的垄断保护,这两者是两个截然不同的志趣。由此,AI生成内容应受数据法保护而非具有垄断性的著作权保护。

10

好文章需要您的支持

声明:

根据《中华人民共和国著作权法》及《最高人民法院关于审理涉及计算机网络著作权纠纷案件适用法律若干问题的解释》的规定,本网站声明:凡本网转载作品,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,转载信息版权属于原媒体及作者。我们力所能及地注明初始来源和原创作者,如果您觉得侵犯了您的权益,请通知我们,我们会立即删除改正。如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

收藏
分享
相关文章:
热点文章: