21世纪经济报道记者雷晨 北京报道
4月26日，2024中关村论坛――数据安全治理与发展论坛在中关村国际创新中心举办。
21世纪经济报道记者了解到，本届论坛紧跟数字经济发展特别是人工智能演进浪潮，众多专家学者交流前沿理念、分享研究成果，畅谈前沿领域数据安全治理话题。
在圆桌论坛环节，清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜，与来自清华大学、剑桥大学、香港科技大学、IBM、华为、奇安信的数据安全专家，就生成式人工智能数据安全治理热点问题进行探讨。
会上，奇安信（688561.SH）副总裁刘前伟表示，不管是作为大模型的使用者还是开发者，都要解决隐私安全问题、商业机密甚至涉及国家安全的问题。
他认为，要解决大模型的相关安全问题，要用AI对抗AI，用魔法打败魔法。
据其介绍，奇安信身兼两种不同的角色，既是一个行业模型的开发者，也是一些通用模型的使用者。
“奇安信作为国内最大的一家网络安全公司，我们有自己的安全大模型，也有安全大模型的机器人。”刘前伟表示，行业大模型对于数据集的质量要求非常高，数据本身的安全值得关注。
他还提到，标注的数据也不能出错，这是确保行业大模型质量最重要的一个保障。
“做行业大模型的厂商都很担心，语料本身会不会被别人窃取？有没有一些漏洞导致这些核心数据资产被泄露出去？”他提到。
此外，刘前伟还考虑到出售给客户的安全大模型会被别人“拿走”，因此，他认为“需要对大模型本身进行加密等处理”。
从通用大模型使用者的角度来看，他认为，“AI是非常重要的生产力，但当我去问AI一些问题的时候，我们会不会把自己商业的机密、个人的信息会泄露出来？这是一个很大的问题”。
推荐阅读：
