中国工程院院士邬江兴:90%以上主流大模型不可信 实用前景堪忧

更新时间:2024-05-21 02:09:09作者:橙橘网

中国工程院院士邬江兴:90%以上主流大模型不可信 实用前景堪忧

中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出,“AI内生安全个性问题是当前AI应用推广中的最大障碍,在不确定性中构建更安全的AI应用系统,是当前人类必须破解的安全难题。”邬江兴认为,基于内生安全理论方法可以在应用系统层面破解AI内生安全个性化难题,理论研究认为内生安全构造可以一体化地解决个性化和共性化的问题。据他介绍,“他们团队对当前最流行的10种大模型进行安全分析发现,90%以上的主流大模型是不可信的,而采用内生安全构造的问题,相比单一安全具有显著优势,达到了几个数量级的提升。”