全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地

更新时间:2024-03-03 21:56:02作者:橙橘网

全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地

2024年全国两会,全国政协委员、三六零创始人兼董事长周鸿祎的提案聚焦数字安全和AI大模型的发展。

通用大模型的安全性,是周鸿祎提案中关注的重要方面。他认为,一方面,OpenAI系列模型工具发布后,AGI加速实现,将引发更加复杂的安全风险,主要包括技术安全、内容安全和人类安全三个方面;另一方面,生成式AI军事化的趋势愈发显著。

为此,周鸿祎建议,国家要更加重视通用大模型安全问题,给予兼具“安全和AI”能力的企业专项扶持政策,更好发挥其解决通用大模型安全问题的重要作用;同时建议国家研究制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。此外,周鸿祎还建议政府、央国企与兼具“安全和AI”能力的企业在大模型安全领域展开深入合作。

周鸿祎认为,现阶段,将安全模块作为大模型外挂的做法已不可行,建议国家在内容安全、数据安全、科技伦理、网络安全等细分领域,牵头研究制定安全检测标准,在规范的安全标准体系下,推动通用大模型的安全评测工作,通过接入安全服务来保障大模型的安全。

大模型应用是周鸿祎关注的另一个重要方面。2024年被业内视为大模型应用场景元年。在《关于深化人工智能多场景应用支持大模型向垂直化、产业化方向发展的提案》中,周鸿祎认为,百亿规模的大模型就足够赋能百行千业,中国发展大模型的一个重要方向应该是借助产业和场景的优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化的落地,助力加快形成新质生产力。

为此,周鸿祎提出“三个很重要”。首先,场景很重要,建议政府、央国企率先提供更多应用场景,聚焦“小切口、大纵深”,推动大模型垂直化、产业化落地。其次,知识很重要,基于“暗知识”的垂直大模型能更好解决企业问题,建议鼓励企业在定制AI前,做好知识管理,将企业大数据平台升级为企业知识平台。再次,业务融合很重要,建议鼓励和引导企业将大模型与数字化业务系统深度融合,同业务流程相结合,充分发挥大模型价值。

在《关于全面建设安全云、推广数字安全云化服务的提案》中,周鸿祎提出,以“安全即服务”的理念,通过建设云化数字安全基础设施“安全云”,集中数字安全能力,以云服务的方式向各机关企事业单位及个人输出安全效果。

具体建议包括三个方面:一是统筹建设数字安全公共服务基础设施,集中数字安全能力。二是改变重建设轻效果的思路,鼓励各单位购买数字安全云化服务,作为传统网络安全建设的升级路径。三是鼓励网络安全企业积极转型,以安全即服务的方式来为国家整体数字安全水平提升作出贡献,尤其是鼓励具备核心技术、被美国制裁的龙头企业发挥更大作用。

为您推荐

全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地

全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地,周鸿祎,大模型,安全云,投资者,网络安全,奇虎360,三六零创始人,安全标准体系

2024-03-03 21:56

V观财报|盛新锂能:印尼锂盐项目预计2024年上半年建成投产

V观财报|盛新锂能:印尼锂盐项目预计2024年上半年建成投产,交易,盛新锂能,印尼锂盐

2024-03-03 21:07

3496元/㎡起,凯里经济适用房火爆申请中!

3496元/㎡起,凯里经济适用房火爆申请中!,离婚,房地产,协议书,凯里站,购房合同,二手住房,经济适用房

2024-03-03 20:34

二本生拼命考上研究生后现状如何?过来人的心路历程,现实而扎心

二本生拼命考上研究生后现状如何?过来人的心路历程,现实而扎心,考研,读研,本科,学历,院校,研究生,二本生

2024-03-03 20:20

班主任发现规律:毕业没出息的学生都有同一个特点,请对号入座

班主任发现规律:毕业没出息的学生都有同一个特点,请对号入座,高考,教育,班主任,学校财政

2024-03-03 20:20

新华资产:有关本公司与万科企业的消息为不实信息

新华资产:有关本公司与万科企业的消息为不实信息,保险,万科企业,资产管理,新华资产,恒大集团,股份回购计划,中国交通运输公司

2024-03-03 20:01