(资料图片)

7月7日，由南方都市报、清华大学人工智能国际治理研究院主办，中国科协-复旦大学科技伦理与人类未来研究院和上海人工智能实验室协办的“人工智能创新与治理”论坛在上海召开。本次论坛邀请了多位来自国内外的大咖专家参与，并针对近年来出现的AI换脸诈骗、大模型生成虚假信息、AIGC版权归属争议等聚焦生成式AI潜在的风险与问题，发布了《生成式AI伦理与治理倡议书》(下称《倡议书》)。据了解，这也是国内首份由智库媒体发起、跨行业联动发布的生成式AI治理与伦理倡议书。赛博昆仑创始人兼CEO郑文彬，与30余位专家、学者、公众人物一道，联合署名发布了本次倡议书。

《倡议书》提到，近年来，“AI诈骗”、“AI犯罪”等关键词开始走入公众视野，出现了一系列“网聊10分钟骗走430万元”等真实案例，而利用AI换脸、AI拟声技术等佯装好友实施诈骗，以及利用人工智能软件 “捏造”罪名、生成虚假案例，生成内容涉嫌侵犯知识产权等问题，更是屡屡见诸媒体。

如何区分足以“以假乱真”的AI生成内容、当AI生成内容造成侵权或违法问题时，如何认定相关责任，以及类似的问题如何利用技术手段去管理，都成为本次会议讨论的焦点。

据南都数字经济治理研究中心介绍，本《倡议书》最终形成了“七大原则”和“七大建议”，内容包括确保安全、客观公正、信息披露、尊重自主、可问责可追溯、人工把关、敏捷治理等。其中“确保安全原则”提出，相关企业或组织应采取足够的管理措施和技术手段，积极防范生成式AI技术产品的漏洞攻击风险，并在产品的整个生命周期中保证用户隐私及个人信息的安全。

赛博昆仑方面表示，随着人工智能技术的高速发展，特别是AIGC出现以后，网络安全开始遭遇到新的问题与挑战，新的使用场景，带来了新的攻击手段和安全隐患。对此，除了社会各界深入关注、恪守公德边界之外，技术手段的“硬手段”，往往才是最终的解决之道。

赛博昆仑代表认为，AIGC的内容安全不仅仅牵涉到数据以及隐私泄露，也同时关乎模型训练、标注、应用，以及长期舆情监控的各个环节，其中任何一个环节存在漏洞，都可能引入相关风险。对此，赛博昆仑代表表示将充分发挥自身优势，与社会各界一道，积极参与应对防范AIGC安全问题的行动中来。

作为《倡议书》的签署方，赛博昆仑在防范漏洞攻击、确保信息安全方面，恰恰是国内顶级技术能力驱动的网络空间安全服务商，在高危漏洞攻防、0day漏洞预警应急等方面，拥有国内首屈一指的技术实力。公司旗下安全研究团队“昆仑实验室”，由国内顶尖安全研究人员组成，自成立以来，已多次斩获Pwn2own、天府杯、强网杯精英赛等国际顶级黑客大赛最高荣誉。而其旗下高级攻防团队成员，则均来自一线大厂的攻防实验室，并作为攻击队核心成员，在大型护网、区域/行业级护网、企业级护网中表现优异，取得过多项优秀成绩。

赛博昆仑代表最后表示，未来将从技术角度出发，积极践行《倡议书》的原则和方向，为生成式AI更加健康、稳定的长远、安全发展，贡献自己的力量。